Cooling the Compute
Dari Airflow hingga Immersion Cooling pada Infrastruktur Komputasi
Komputasi tidak hanya membutuhkan listrik. Setiap watt yang dipakai prosesor, memori, storage, dan jaringan pada akhirnya menjadi panas yang harus dipindahkan. Karena itu cooling bukan aksesori server room; cooling adalah bagian dari arsitektur komputasi itu sendiri.
Abstrak
Paper ini membahas pendinginan infrastruktur komputasi sebagai persoalan rekayasa yang menghubungkan bangunan, energi, airflow, perangkat IT, dan sistem kontrol. Pembahasan dimulai dari prinsip dasar bahwa hampir seluruh energi listrik yang dikonsumsi perangkat komputasi akhirnya dilepas sebagai panas. Dari sini muncul tiga lapisan solusi: mengurangi panas yang masuk ke ruang server melalui desain pasif bangunan; memindahkan panas dengan airflow dan pendinginan mekanis; serta membawa panas lebih dekat dari sumbernya melalui liquid cooling. Paper membandingkan air cooling, rear-door heat exchanger, direct-to-chip, single-phase immersion, dan two-phase immersion. Studi konseptual ruang server 3 × 3 meter digunakan untuk menunjukkan bagaimana insulation, shading, intake, exhaust, AC inverter, monitoring, dan rack layout dapat dirancang sebagai satu sistem. Tujuannya bukan menetapkan satu teknologi sebagai solusi universal, melainkan menunjukkan bahwa pilihan cooling harus mengikuti heat load, density, reliability target, maintainability, dan roadmap komputasi.
1. Komputasi adalah mesin pembuat panas
Server menerima energi listrik dan mengubahnya menjadi kerja elektronik: transistor berpindah keadaan, memori mempertahankan data, storage beroperasi, kipas berputar, dan power supply melakukan konversi. Energi tersebut pada akhirnya dilepas ke lingkungan sebagai panas. Karena itu, bila beban IT sebuah ruangan rata-rata 1 kW, sistem thermal harus mampu membuang kira-kira 1 kW panas secara terus-menerus, ditambah panas dari UPS, pencahayaan, manusia, matahari, dan komponen fasilitas lainnya.
Konsekuensinya sederhana tetapi penting: ukuran ruangan bukan parameter utama cooling. Ruang 3 × 3 meter yang berisi satu laptop server memiliki persoalan thermal yang sangat berbeda dari ruang berukuran sama yang berisi rack GPU. Parameter yang lebih berguna adalah heat load, rack density, suhu udara masuk perangkat, kemampuan membuang panas, dan target availability.
ASHRAE menekankan bahwa untuk data center modern, power dan cooling sebaiknya tidak diperlakukan sebagai dua domain yang terpisah. Peningkatan rack density membuat keputusan electrical, mechanical, dan IT saling memengaruhi. [2]
2. Pendinginan dimulai sebelum AC dinyalakan
Desain thermal yang baik pertama-tama mengurangi panas yang tidak perlu masuk ke ruang server. Pendekatan ini tidak menggantikan pendinginan aktif, tetapi mengurangi beban yang harus dilawan oleh kompresor.
Untuk bangunan kecil di iklim tropis, beberapa treatment dasar relevan:
- Atap berinsulasi. Gunakan rongga udara berventilasi, radiant barrier, serta lapisan insulasi seperti rockwool atau glasswool agar radiasi matahari tidak langsung memanaskan plafon.
- Shading sisi timur dan barat. Secondary skin atau kanopi dapat mengurangi solar gain pada permukaan dinding yang paling lama menerima matahari rendah.
- Dinding dengan thermal resistance lebih baik. Dinding ganda, rongga udara, AAC, atau lapisan insulasi dapat dipilih berdasarkan konstruksi dan risiko kelembapan.
- Minim bukaan langsung. Jendela memperbesar solar gain, kebocoran udara, debu, dan titik kondensasi. Server room kecil umumnya lebih mudah dikontrol bila bukaan dibatasi.
- Pintu rapat. Weatherstrip mengurangi infiltrasi udara luar ketika AC bekerja.
Tujuan passive treatment bukan membuat ruang server dapat beroperasi tanpa cooling aktif pada semua kondisi, tetapi menurunkan thermal load bangunan sehingga sistem aktif bekerja lebih ringan dan memiliki margin lebih besar ketika terjadi gangguan.
3. Air cooling: mengatur jalur panas
Pada air cooling, udara adalah medium pemindah panas. Masalahnya bukan hanya seberapa dingin udara yang keluar dari AC, melainkan apakah udara dingin benar-benar mencapai intake perangkat dan apakah udara panas dapat pergi tanpa kembali ke intake.
Konsep cold aisle dan hot aisle muncul dari kebutuhan tersebut. Bagian depan server menerima udara yang lebih dingin, lalu kipas server mendorong udara melewati komponen. Udara panas keluar dari belakang. Bila jalur ini bercampur, udara exhaust dapat kembali masuk ke server dan menciptakan recirculation serta hotspot.
ASHRAE mendorong airflow management, containment, dan pengendalian thermal yang terukur sebagai langkah efisiensi sebelum menambah kapasitas cooling. Strategi ini juga memperbesar peluang memanfaatkan economization ketika kondisi lingkungan memungkinkan. [1]
4. Studi konseptual: ruang server 3 × 3 meter
Bayangkan ruang 3 × 3 meter untuk micro server room atau laboratorium. Pada tahap awal, isinya dapat berupa laptop server, router, switch, UPS, sensor, dan kemudian satu rack kecil. Ruangan semacam ini tidak memerlukan solusi data center hyperscale, tetapi prinsip thermal yang sama tetap berlaku.
| Lapisan | Fungsi | Contoh treatment |
|---|---|---|
| Envelope | Mengurangi panas dari luar. | Insulated roof, shading, secondary skin, pintu rapat. |
| Air path | Mencegah pencampuran udara dingin dan panas. | Intake depan, exhaust belakang/atas, clearance rack. |
| Active cooling | Membuang panas kontinu. | AC inverter atau dedicated cooling sesuai heat load. |
| Monitoring | Mendeteksi kegagalan sebelum perangkat shutdown. | Sensor suhu, kelembapan, power, airflow, alarm. |
| Fallback | Memberi waktu ketika cooling gagal. | Exhaust darurat, shutdown otomatis, AC redundancy. |
Ventilasi alami dapat dipakai secara terkontrol, bukan sebagai lubang permanen. Intake rendah dengan filter dan exhaust tinggi dapat membantu ketika udara luar berada dalam kondisi yang sesuai atau ketika AC gagal. Saat AC beroperasi, damper perlu menutup jalur tersebut agar udara dingin tidak langsung terbuang. Debu, kelembapan, polutan, dan serangga harus diperlakukan sebagai bagian dari masalah engineering, bukan detail tambahan.
5. Mengapa liquid cooling muncul
Semakin besar daya komputasi per unit ruang, semakin sulit membawa panas hanya dengan udara. Udara memiliki kapasitas membawa panas yang terbatas sehingga membutuhkan volume flow besar, fan berdaya tinggi, jalur yang rapi, dan perbedaan temperatur yang cukup. Liquid cooling membawa medium pendingin lebih dekat ke sumber panas dan dapat mengangkut energi thermal dengan lebih efektif.
ASHRAE memetakan direct-to-chip, rear-door heat exchanger, dan immersion sebagai pilihan penting untuk kepadatan komputasi tinggi. Dalam kerangka AI data center, liquid-assisted cooling semakin relevan pada rack puluhan hingga lebih dari 100 kW. [1]
Pergeseran ini terlihat pada platform komputasi baru. NVIDIA, misalnya, menjelaskan arsitektur rack Rubin dengan liquid cooling 45°C sebagai bagian dari desain rack-scale yang menyatukan compute, networking, power, dan thermal management. [6]
6. Direct-to-chip dan rear-door heat exchanger
6.1 Direct-to-chip
Pada direct-to-chip, cold plate ditempelkan pada komponen dengan heat flux tinggi seperti CPU atau GPU. Coolant mengalir melalui cold plate, membawa panas menuju manifold, coolant distribution unit, atau heat exchanger. Panas kemudian dibuang ke sisi fasilitas melalui dry cooler, chilled water, atau sistem lain.
Keunggulannya adalah panas ditangkap dekat sumbernya tanpa harus merendam seluruh server. Namun sebagian komponen seperti memory, VRM, storage, atau networking masih dapat membutuhkan airflow. Karena itu banyak implementasi merupakan sistem hybrid.
6.2 Rear-door heat exchanger
Rear-door heat exchanger mempertahankan server air-cooled tetapi memasang heat exchanger pada sisi belakang rack. Udara panas server melewati pintu tersebut dan panas dipindahkan ke loop cairan sebelum menyebar ke ruangan. Pendekatan ini menarik untuk retrofit karena server internal tidak harus diubah secara radikal.
7. Immersion cooling: membawa medium pendingin ke seluruh perangkat
Immersion cooling menempatkan komponen elektronik ke dalam cairan dielektrik. Cairan tersebut dirancang memiliki sifat electrical insulation sehingga dapat bersentuhan dengan board elektronik tanpa berperan seperti air biasa yang mengandung ion dan dapat menghantarkan arus.
Open Compute Project membedakan dua keluarga utama. Pada single-phase immersion, coolant tetap berada dalam fase cair. Panas membuat cairan lebih hangat, lalu sirkulasi alami atau pompa membawanya ke heat exchanger. Pada two-phase immersion, coolant mendidih di sekitar komponen panas, berubah menjadi uap, lalu dikondensasikan kembali menjadi cairan. [3]
| Aspek | Single-phase | Two-phase |
|---|---|---|
| Perubahan fase | Tidak; coolant tetap cair. | Ya; cair → uap → cair. |
| Sirkulasi | Natural atau forced convection. | Didorong boiling dan buoyancy. |
| Heat rejection | Heat exchanger eksternal. | Condenser/heat exchanger. |
| Kompleksitas eksperimen | Lebih sederhana. | Lebih tinggi. |
| Cocok untuk lab awal | Relatif cocok. | Tidak menjadi titik awal yang ideal. |
OCP menekankan bahwa meskipun heat transfer di dalam tank berlangsung melalui cairan, panas tetap harus diekstraksi dari sistem. Immersion tidak menghilangkan panas; ia mengubah jalur perpindahan panas. Heat exchanger atau condenser tetap diperlukan agar proses dapat berlangsung terus-menerus. [4]
8. Fluida dielektrik dan material compatibility
Istilah “non-konduktif” tidak berarti semua minyak aman digunakan. Fluida immersion perlu dipilih berdasarkan dielectric properties, viscosity, thermal stability, oxidation stability, flash point, environmental profile, dan kompatibilitas material.
Untuk single-phase, fluida dapat berupa synthetic hydrocarbon atau ester yang dirancang untuk immersion. Oli mesin sintetis tidak otomatis cocok karena memiliki additive package dan karakter material compatibility yang tidak ditujukan untuk motherboard, konektor, kabel, adhesive, gasket, dan thermal interface material.
Two-phase sering menggunakan fluida dengan boiling point lebih rendah, termasuk keluarga fluorochemical tertentu. OCP juga menyoroti aspek sustainability seperti Global Warming Potential, Ozone Depleting Potential, dan perhatian terhadap PFAS. [5]
Material compatibility merupakan isu operasional: elastomer dapat mengembang atau mengeras, label dapat terlepas, kabel dapat berubah sifat, dan seal dapat mengalami degradasi. Karena itu sebuah eksperimen immersion yang tampak bekerja selama beberapa jam belum membuktikan bahwa sistem aman untuk operasi bertahun-tahun.
9. Cooling sebagai arsitektur sistem
Cooling sebaiknya dipahami sebagai rantai perpindahan energi:
chip → thermal interface → air/cold plate/coolant → heat exchanger → facility loop → lingkungan luar
Setiap anak panah mewakili thermal resistance, flow, control, dan potensi kegagalan. Memperbaiki satu bagian tanpa melihat rantai keseluruhan dapat hanya memindahkan bottleneck.
Karena itu rancangan cooling yang baik menghubungkan paling tidak enam parameter:
- Heat load. Berapa watt panas yang harus dibuang pada kondisi rata-rata dan puncak?
- Density. Apakah panas tersebar atau terkonsentrasi pada beberapa chip/rack?
- Environment. Bagaimana suhu, kelembapan, debu, dan kondisi outdoor?
- Reliability. Apa yang terjadi ketika kipas, pompa, AC, atau sensor gagal?
- Maintainability. Dapatkah teknisi mengganti server atau komponen tanpa mengganggu seluruh sistem?
- Energy efficiency. Berapa energi tambahan yang dipakai untuk memindahkan panas tersebut?
10. Roadmap eksperimen skala kecil
Untuk DevinaHQ, pendekatan belajar yang paling rasional adalah meningkatkan kompleksitas secara bertahap dan menyimpan data pada setiap tahap.
- Air-cooled baseline. Satu laptop/server, power meter, sensor intake dan exhaust, serta pencatatan suhu selama 24 jam.
- Passive room treatment. Ukur perubahan temperatur setelah shading, insulation, dan perbaikan airflow.
- Active airflow. Tambahkan intake filter, exhaust terkontrol, dan logic alarm ketika suhu melewati threshold.
- Rack experiment. Pisahkan cold side dan hot side serta ukur hotspot dan konsumsi fan/AC.
- Single-phase immersion lab. Gunakan hardware non-kritis, tank yang sesuai, dielectric fluid khusus immersion, sensor suhu/flow/leak, pump, dan heat exchanger.
- Comparative evidence. Bandingkan watt IT, watt cooling, suhu komponen, noise, maintenance effort, dan failure mode.
Eksperimen tersebut membuat cooling menjadi objek engineering yang dapat diukur, bukan sekadar perangkat AC yang “terasa dingin”. Dari sini dapat lahir pengetahuan tentang thermal design, monitoring, automation, dan pada tahap lanjut sebuah layanan micro data center infrastructure.
11. Rujukan dan batasan
Paper ini merupakan engineering paper konseptual untuk pembelajaran dan eksplorasi desain. Ia bukan spesifikasi konstruksi, sertifikasi data center, atau prosedur keselamatan untuk immersion system. Kapasitas cooling, pemilihan fluida, kelistrikan, fire protection, pressure boundary, serta kompatibilitas komponen harus diverifikasi berdasarkan perangkat dan standar yang benar-benar digunakan.
- ASHRAE, Energy and Thermal Efficiency — AI Data Center Energy Performance Framework.
- ASHRAE, Integrated Design Principles — AI Data Center Energy Performance Framework.
- Open Compute Project, OCP Immersion Requirements.
- Open Compute Project, Design Guidelines for Immersion-Cooled IT Equipment.
- Open Compute Project, Material Compatibility in Immersion Cooling.
- NVIDIA, Inside NVIDIA Rubin GPU Architecture.
Penutup
Semakin banyak komputasi yang kita tempatkan dalam ruang yang semakin kecil, semakin jelas bahwa thermal management adalah bagian dari computing architecture. Air cooling tidak hilang, tetapi perannya berubah. Passive design mengurangi beban. Airflow mengendalikan jalur panas. Liquid cooling menangkap panas lebih dekat ke sumbernya. Immersion membawa prinsip itu sampai ke seluruh perangkat. Pertanyaan yang paling penting bukan “teknologi mana yang paling canggih?”, melainkan “di mana panas muncul, bagaimana panas berpindah, dan bagaimana sistem tetap aman ketika sesuatu gagal?”