Server AI vs. Komputasi Umum: Perbedaan Pasar

Anda meninjau inventaris perangkat keras pusat data Anda, menilai apa yang siap untuk penggantinya, dan Anda bertanya kepada tim apa yang bisa Anda jual.

“Hanya beberapa server. Kami dapat membongkarnya kapan saja.”

Logika tersebut berfungsi dengan baik ketika Anda berbicara tentang perlengkapan komputasi umum biasa. Dell PowerEdge R660 cocok dengan deskripsi itu. Ini adalah server rak dua soket 1U yang dibuat untuk menangani analisis basis data padat, virtualisasi kepadatan tinggi, dan beban kerja perusahaan arus utama. Server berpendingin udara ini dapat digunakan secara luas dan mudah dimasukkan ke dalam server x86 yang sudah ada.

Sistem AI berbasis HGX atau DGX adalah hal yang berbeda. Platform AI NVIDIA saat ini dibangun berdasarkan konfigurasi GPU yang padat, fabric NVLink berkecepatan tinggi, jaringan khusus, dan, yang semakin meningkat, desain skala rak berpendingin cairan. Pengumuman pabrik AI era Blackwell milik Dell mendorong hal tersebut lebih jauh lagi, dengan delapan server GPU Blackwell dan opsi rak 72 GPU berpendingin cairan.

Itulah sebabnya pasar sekunder untuk server AI tidak berperilaku seperti pasar sekunder untuk komputasi umum. Nilainya tidak hanya terletak pada sasisnya saja. Hal ini terkait dengan pembangkitan akselerator, topologi interkoneksi, kepadatan daya, asumsi pendinginan, penyelarasan perangkat lunak, dan apakah pembeli berikutnya benar-benar dapat menyerap sistem yang Anda coba jual.

Jika Anda memberi harga perangkat keras AI seperti server biasa, Anda biasanya membuat satu dari dua kesalahan. Anda mungkin meninggalkan uang di atas meja karena Anda memperlakukan perangkat keras yang langka seperti kotak komoditas, atau Anda menyimpan persediaan terlalu lama karena Anda menganggap kelompok pembeli lebih luas dari yang sebenarnya.

Server AI Diperdagangkan Sebagai Sistem, Bukan Kotak

Perbedaannya adalah kunci untuk memahami pasar penjualan kembali perangkat keras server.

Spesifikasi teknologi tidak ada dalam ruang hampa. Pembeli berikutnya akan bertanya apakah mereka dapat mendukung termal, penggunaan listrik, jaringan, tumpukan perangkat lunak, dan model penerapan yang diharapkan sistem. Jika jawabannya tidak, nilai aset teoretis Anda akan berkurang dengan cepat.

Peta Jalan Bergerak Lebih Cepat Dibandingkan Pasar Server Biasa

Pembeli komputasi umum terbiasa dengan siklus yang lebih lambat dan lebih memaafkan.

Server soket ganda biasa dapat tetap berguna secara komersial selama bertahun-tahun karena kumpulan beban kerjanya luas dan jalur peningkatannya lebih sedikit biner. Anda dapat menjual sistem x86 yang sudah tua ke lingkungan yang lebih mementingkan harga per inti, jejak memori, atau keakraban operasional dibandingkan hal lainnya. Pelanggan jenis ini tidak mengejar berita utama terbaru. Mereka menginginkan fungsionalitas yang terbukti.

Infrastruktur AI tidak memiliki kemewahan yang sama.

Sejarah produk NVIDIA selama dua tahun terakhir menggambarkan hal ini. Peluncuran H200 menghadirkan peningkatan yang kuat dibandingkan H100, dengan memori HBM3e 141 GB dan bandwidth memori 4,8 TB/dtk. Kemudian DGX B200 diluncurkan. NVIDIA mengklaim memiliki peningkatan kinerja yang besar: 3x untuk pelatihan dan 15x untuk inferensi dibandingkan dengan DGX H100.

Itu adalah tangga kinerja dan pemosisian yang jauh lebih ketat daripada yang biasa dilakukan oleh banyak pembeli server perusahaan.

Ketika peta jalan bergerak secepat itu, pasar penjualan kembali berhenti berperilaku seperti kurva depresiasi yang lambat dan mulai berperilaku seperti pasar waktu. Usia perangkat keras penting, namun faktor terbesarnya adalah kinerja perangkat keras dibandingkan dengan model terkemuka.

Ketersediaan juga penting. Berdasarkan setiap faktor metrik dan spesifikasi, platform Blackwell NVIDIA adalah pemimpin pasar dalam GPU AI. Jumlahnya tidak cukup untuk dibagikan. Akibatnya, model Hopper yang lebih lama dan kurang bertenaga masih bernilai dan cukup populer karena hanya model tersebut yang dapat diperoleh oleh sebagian orang.

Aset yang tepat masih dapat memiliki nilai yang serius. Pemilihan waktu yang salah dapat membuat konfigurasi yang seharusnya premium terasa janggal, dibuat berlebihan, atau terlambat satu generasi.

Kelompok Pembeli Lebih Kecil dan Lebih Bersyarat Untuk Perangkat Keras AI

Bayangkan komputasi umum sebagai mata uang fiat Anda, dan perangkat keras AI sebagai emas. Keduanya memiliki banyak nilai, namun yang satu lebih mudah dibelanjakan dibandingkan yang lain.

Itu berarti pembeli Anda berikutnya membeli lebih dari sekadar menghitung. Mereka membeli dorongan untuk infrastruktur mereka.

Pertanyaan-pertanyaan ini menentukan siapa yang dapat membeli aset berdasarkan lebih dari sekedar spesifikasi.

Kompleksitas operasi ini juga menjadi alasan mengapa beberapa peralatan AI memiliki nilai lebih baik sebagai komponen atau unit logis yang lebih kecil dibandingkan sebagai penerapan terintegrasi penuh. Pasar untuk GPU, baki, atau sub-konfigurasi yang divalidasi terkadang lebih luas daripada pasar untuk desain rak yang sebenarnya.

Perangkat Keras AI Lebih Dari Sekadar Perangkat Keras

Banyak percakapan tentang penjualan kembali masih terdengar seperti disposisi perangkat keras kuno.

Nomor model. Jumlah inti. Ingatan. Kondisi. Selesai.

Hal ini tidak cukup untuk sistem AI modern.

NVIDIA menjual platform DGX dan HGX sebagai tumpukan perangkat keras-plus-perangkat lunak-plus-operasi. Positioning DGX B200 secara eksplisit mencakup NVIDIA AI Enterprise, Mission Control, dan akses ke layanan dan dukungan ekosistem. Dell membingkai penawaran pabrik AI-nya dengan cara yang sama: bukan sebagai server yang terisolasi, namun sebagai infrastruktur komputasi, jaringan, perangkat lunak, dan penerapan yang terintegrasi.

Di pasar sekunder, semakin dekat suatu aset dengan platform mandiri, semakin besar kepedulian pembeli terhadap lingkungan sekitar. Pembeli perangkat keras AI akan memperhatikan:

• Status firmware
• Pasangan GPU dan asumsi interkoneksi
• Dokumentasi topologi
• Desain pendingin
• Asumsi struktur jaringan

Semua faktor ini mendorong pembelian peralatan TI bekas, atau keputusan untuk tidak membeli.

Penjualan kembali komputasi secara umum lebih mudah dilakukan karena kotak tersebut dapat diubah fungsinya menjadi banyak peran. Penjualan kembali AI kurang bisa memaafkan karena sistem ini dibangun untuk serangkaian peran bernilai tinggi yang lebih sempit.

Penjual yang Menang Memperlakukan Disposisi AI Sebagai Peristiwa Pasar

Jika Anda menghentikan server AI, kesalahan terbesar adalah menunggu hingga proyek selesai beroperasi sebelum Anda mulai mempertimbangkan untuk menjualnya kembali.

Saat itu, Anda sudah tertinggal.

Anda perlu memutuskan sejak awal apakah Anda menjual:

Anda juga perlu mendokumentasikan lebih banyak daripada yang Anda lakukan untuk penjualan komputasi biasa.

Pembeli yang serius akan peduli dengan generasi GPU, konfigurasi sistem, asumsi jaringan, profil memori, profil pendinginan, riwayat pengoperasian, dan apakah peralatan tersebut merupakan bagian dari lingkungan produksi yang didukung. Jika Anda tidak dapat menceritakan kisah itu dengan jelas, Anda semakin memperkecil jumlah pembeli.

Empat Aturan Jika Anda Tidak Ingin Perangkat Keras AI Dihargai Seperti Komputasi Umum

Aturan-aturan ini merupakan titik awal yang berguna untuk skenario penjualan apa pun.