Pendinginan Cair vs Pendinginan Udara: Pilih Solusi yang Tepat

Cara pasar berbicara tentang pendinginan, Anda akan berpikir bahwa pilihannya sederhana: pendinginan udara adalah warisan, pendinginan cair adalah masa depan, dan siapa pun yang masih menjalankan unit CRAC dalam skala besar akan ketinggalan.

Itu salah dan merugikan masyarakat.

Pendinginan cair memberikan peningkatan efisiensi nyata dan memungkinkan kepadatan rak yang tidak dapat disentuh oleh udara. Hal ini juga menimbulkan komitmen infrastruktur, ketergantungan fasilitas, dan kompleksitas penonaktifan yang tidak muncul dalam penawaran vendor.

Arsitektur yang tepat bergantung pada apa yang sebenarnya ada di rak Anda.

Bagi sebagian besar lingkungan perusahaan, jawabannya tidak selalu sama. Itu cair di mana beban termal membenarkannya, dan udara di tempat lain.

Pendinginan Udara: Masih Default, Dengan Batasan Nyata

Pendinginan udara tetap menjadi arsitektur dominan di sebagian besar pusat data perusahaan. Dan untuk sebagian besar beban kerja non-AI, hal ini masih cukup memadai. Unit Pendingin Udara Ruang Komputer (CRAC) dan Pengendali Udara Ruang Komputer (CRAH) mengalirkan udara dingin melalui ruang pleno di lantai yang ditinggikan atau pasokan di atas kepala.

Udara sejuk membawa panas dari pintu belakang server. Sistem pendingin mengatur suhu sekitar dalam batas termal tertentu.

Infrastruktur ini dipahami dengan baik, keterampilan pemeliharaan tersedia secara luas, dan ekosistem peralatan (server, switch, penyimpanan) dirancang dan dioptimalkan di sekitarnya.

Batasannya adalah fisika.

Udara memiliki kapasitas panas sekitar 800 kali lebih rendah dibandingkan air berdasarkan volume. Memindahkannya dalam jumlah yang cukup untuk menangani kepadatan panas cluster GPU modern memerlukan kipas yang bekerja dengan kecepatan yang menghabiskan banyak daya dan menghasilkan kebisingan. Belum lagi unit CRAC sendiri menghabiskan banyak energi.

Menurut Association for Computer Operations Management, kepadatan rak meningkat dari 7kW per rak pada tahun 2021 menjadi 16 kW per rak pada tahun 2025, dengan pertumbuhan paling tajam pada penerapan AI dan hyperscale. Pada kepadatan rak di atas 30 hingga 40 kilowatt, pendingin udara menjadi sebuah pilihan yang semakin mahal. Di atas 60 kilowatt, tidak lagi praktis dalam bentuk konvensional apa pun.

Untuk lingkungan perusahaan yang menjalankan beban kerja campuran (kluster inferensi AI serta komputasi, penyimpanan, dan jaringan tradisional), persyaratannya menjadi lebih rumit. Baris penyimpanan dan perlengkapan jaringan tetap berada dalam jangkauan pendinginan udara. Node GPU tidak.

Penonaktifan perangkat keras berpendingin udara

Menonaktifkan arsitektur berpendingin udara itu sederhana. Keluaran dari rak sama seperti saat masuk: Tidak ada residu, tidak ada penanganan cairan, tidak ada masalah kontaminasi. Server, drive, dan komponen siap untuk diuji, dinilai, dan dijual kembali atau didaur ulang secara bertanggung jawab saat dimatikan dan dilepas.

Untuk keperluan ITAD, perangkat keras berpendingin udara adalah skenario paling sederhana.

Pendinginan Cairan Langsung ke Chip: Titik Masuk Pragmatis

Pendinginan direct-to-chip (D2C) (terkadang disebut pendinginan pelat dingin) menyalurkan cairan pendingin melalui pelat logam yang dipasang langsung pada komponen berpanas tinggi: CPU, GPU, dan akselerator.

Loop tertutup mengalirkan cairan pendingin dari Coolant Distribution Unit (CDU) melalui pipa tingkat rak ke pelat dingin dan sebaliknya, mentransfer panas ke loop bangunan sekunder atau penukar panas. Udara buangan server masih membawa sisa panas, biasanya ditangani oleh sistem udara tambahan yang lebih kecil, namun ~70-90% beban termal ditangkap langsung di chip.

D2C saat ini menguasai sebagian besar pasar pendingin cair. Keuntungan penerapannya adalah tidak memerlukan server untuk dibangun kembali atau direndam: faktor bentuk server standar dapat dipasang atau dibeli dalam bentuk cair dari Dell, HPE, Lenovo, dan lainnya. NVIDIA secara eksplisit merekomendasikan pendinginan langsung ke chip untuk sistem DGX dan HGX H100. Infrastruktur CDU memerlukan modifikasi fasilitas perpipaan dan sistem deteksi kebocoran, namun transisi ini tidak terlalu menimbulkan gangguan dibandingkan pendinginan celup – metode pendinginan cair lainnya yang telah terbukti.

Penonaktifan perangkat keras pendingin cair langsung ke chip

Pada tahap penonaktifan, D2C menimbulkan komplikasi spesifik yang tidak dimiliki oleh pendingin udara: pemasangan pelat dingin. Pelat dingin diikat secara mekanis ke paket CPU dan GPU, biasanya dengan bahan antarmuka termal (TIM) antara pelat dingin dan paket chip.

Melepaskan pelat dingin tanpa merusak prosesor memerlukan pemahaman tentang spesifikasi torsi spesifik dan prosedur pelepasan. Jika teknisi memperlakukan server D2C seperti server berpendingin udara, mereka akan merusak komponen. Mereka rentan terhadap kerusakan pada pelat dingin, lapisan TIM, paket prosesor, atau ketiganya. Merusak H100 yang dapat digunakan pada dasarnya menyebabkan kebakaran senilai ribuan dolar.

Sisa cairan pendingin di loop sisi rak harus dikosongkan dan dibuang dengan benar sebelum perangkat keras dilepas. Ini bukanlah situasi bahan berbahaya yang rumit; campuran air-glikol telah dipahami dengan baik. Namun hal ini memerlukan prosedur pengurasan yang pasti.

Mitra ITAD Anda harus mengetahui hal ini dan menanyakannya sebelum kru penonaktifan tiba.

Pendinginan Perendaman: Kepadatan Maksimum, Kompleksitas Transisi Maksimum

Pendinginan perendaman merendam seluruh server dalam cairan dielektrik: cairan non-konduktif yang menyerap panas dari setiap komponen secara bersamaan.

Dalam perendaman satu fasa, fluida bersirkulasi melalui tangki dan melalui penukar panas eksternal, tetap cair sepanjang siklus. Dalam perendaman dua fase, fluida dengan titik didih rendah menguap saat menyerap panas, mengembun dalam penukar panas di atas tangki, dan kembali sebagai cairan. Ini mencapai efisiensi perpindahan panas yang jauh lebih tinggi.

Angka kepadatannya cukup besar. Perendaman satu fase menangani kepadatan rak dari 100 hingga 120 kilowatt. Sistem dua fase mendorong lebih tinggi. Pusat data berpendingin udara yang dikelola dengan baik biasanya mencapai Efektivitas Penggunaan Daya (PUE) sebesar 1,4 hingga 1,6 menurut AKCP. Artinya, untuk setiap unit energi yang digunakan pada komputasi, 0,4-0,6 unit energi digunakan untuk pendinginan. Pusat pendingin cair mendapatkan angka tersebut jauh lebih rendah, menjadi 1,1 atau kurang.

Imbalannya adalah komitmen infrastruktur.

Perendaman memerlukan perangkat keras tangki, penutup kedap air yang dirancang khusus untuk konfigurasi server tertentu, CDU yang dirancang untuk perendaman, pipa fasilitas yang dimodifikasi, dan sistem manajemen cairan dielektrik.

Server standar mungkin memerlukan modifikasi perangkat keras sebelum direndam: kipas biasanya dilepas, dan komponen harus dipastikan kompatibel dengan bahan kimia dielektrik spesifik yang digunakan. Intel telah secara resmi mensertifikasi cairan dielektrik khusus untuk digunakan dengan lini prosesor Xeon-nya. GPU arsitektur Blackwell NVIDIA dirancang dengan pendingin cair, termasuk perendaman, sebagai pendekatan manajemen termal yang dimaksudkan.

Penonaktifan perangkat keras pendingin perendaman

Menonaktifkan perangkat keras berpendingin imersi adalah yang paling rumit dari ketiga arsitektur pendinginan ini. Setiap server yang keluar dari tangki dilapisi dengan residu cairan dielektrik. Residu tersebut perlu dibersihkan sebelum perangkat keras dapat diuji, dinilai, atau dijual kembali secara akurat. Proses pembersihan memerlukan pelarut atau bahan pembersih yang kompatibel dengan bahan kimia dielektrik spesifik yang digunakan (cairan berbasis fluorokarbon, cairan berbasis hidrokarbon, dan ester sintetis) yang masing-masing memiliki persyaratan pembersihan berbeda dan pertimbangan penanganan lingkungan yang berbeda.

Cairan dielektrik berbasis fluorokarbon mencakup senyawa yang diklasifikasikan sebagai PFAS: zat per dan polifluoroalkil, kadang-kadang disebut bahan kimia selamanya. Pengawasan peraturan terhadap PFAS meningkat di AS dan UE. Vendor ITAD yang belum pernah menangani perangkat keras berpendingin perendaman dari sistem fluida PFAS mungkin tidak memiliki jalur pembuangan, pengetahuan peraturan, atau sertifikasi fasilitas untuk mengelola aliran tersebut dengan benar.

Ini bukan kasus sudut. Ini adalah risiko peraturan dan lingkungan aktif yang menjadi masalah Anda pada saat penonaktifan jika Anda belum menanyakannya kepada mitra ITAD Anda sebelum proyek dimulai.

Model Hibrid: Bagaimana Udara dan Cairan Bekerja Sama

Sebagian besar pusat data perusahaan dengan pendingin cair tidak sepenuhnya berkonversi. Dengan kata lain, arsitektur pendingin cair hampir identik dengan model hybrid yang menggunakan pendingin udara dan cairan.

Logika fungsional model hibrida adalah zonasi termal. Kluster komputasi AI berdensitas tinggi (node ​​GPU, susunan akselerator, infrastruktur HPC) diisolasi di zona berpendingin cairan dengan D2C atau perendaman. Kepadatan daya panas tertinggi menjamin hal itu.

Infrastruktur komputasi, penyimpanan, jaringan, dan manajemen standar tetap berada di zona berpendingin udara, sehingga beban termal tidak sebanding dengan investasi infrastruktur atau kompleksitas operasional cairan.

Catatan: Produk NVIDIA Rubin belum keluar pada saat blog ini diterbitkan, namun perkiraan kW per raknya berkisar antara

Penukar panas pintu belakang (RDHx) adalah teknologi jalan tengah yang secara alami cocok dengan desain hybrid. Panel berpendingin cairan yang dipasang di bagian belakang rak server standar menyerap panas dari udara buangan sebelum masuk kembali ke ruang data.

RDHx tidak memerlukan pelat dingin atau modifikasi server (server berpendingin udara yang ada beroperasi tanpa perubahan), namun mengurangi beban pada infrastruktur pendinginan tingkat fasilitas dan memperluas rentang kepadatan baris berpendingin udara yang layak. Saat penonaktifan, perangkat keras RDHx dilepas pada tingkat rak dan tidak memerlukan penanganan cairan tingkat komponen.

Tantangan operasional dalam fasilitas hibrida adalah bahwa zona yang berbeda memerlukan prosedur penghentian yang berbeda, keahlian ITAD yang berbeda, dan dokumentasi yang berbeda.

Vendor ITAD yang dapat menangani perangkat keras berpendingin udara secara efisien mungkin tidak memiliki pengetahuan pelat dingin, kemampuan penanganan cairan dielektrik, atau izin lingkungan untuk mengelola zona berpendingin cairan dengan benar. Diskusikan arsitektur pendinginan sejak awal saat merencanakan penonaktifan atau Anda akan terjebak dalam memilah logistik di tengah pengoperasian.

Keekonomian Penonaktifan Pusat Data Berpendingin Cairan

Perangkat keras berpendingin udara keluar dari rak dengan bersih, diuji, dinilai, dan dipindahkan ke pasar sekunder atau daur ulang yang bertanggung jawab dalam jangka waktu yang relatif dapat diprediksi. Proses ITAD telah dipahami dengan baik di seluruh industri, dan nilai pemulihannya dapat diperkirakan dengan mudah.

Perangkat keras direct-to-chip menambah kompleksitas tenaga kerja di tingkat komponen. Pelepasan pelat dingin memerlukan teknisi terlatih yang mengetahui spesifikasi torsi dan prosedur pelepasan untuk setiap konfigurasi perangkat keras. Pelat dingin yang dilepas secara tidak benar akan merusak paket prosesor dan mengurangi atau menghilangkan nilai jual kembali.

Mitra ITAD yang telah memproses sistem DGX dan HGX sebelumnya membawa pengetahuan tersebut. Siapa yang belum, akan rawan melakukan kesalahan.

Perangkat keras berpendingin perendaman menambah kompleksitas penanganan yang lancar selain pekerjaan tingkat komponen. Setiap server memerlukan pembersihan sebelum dapat diperiksa atau diuji secara akurat. Kimia cairan dielektrik menentukan pendekatan pembersihan dan persyaratan pembuangan lingkungan.

Jika fasilitas tersebut menggunakan cairan berbasis fluorokarbon, aliran limbahnya bersinggungan dengan peraturan PFAS yang secara aktif berkembang di AS dan UE. Vendor ITAD memerlukan jalur pembuangan yang terdokumentasi untuk aliran tersebut, bukan komitmen untuk menyelesaikannya pada akhirnya.

Tak satu pun dari kerumitan ini yang membuat pendingin cair menjadi pilihan yang salah.

Tuntutan kinerja termal, terutama untuk komponen perangkat keras AI, sangat cocok untuk pendinginan cair. Namun ada biaya yang timbul akibat pendinginan cair, dan tim pusat data Anda perlu memikirkan hal ini sejak awal. Rencanakan penonaktifan tambahan saat Anda memasang arsitektur pendinginan, bukan saat siklus penyegaran tiba.