Akhirnya, superkomputer AI untuk penggunaan di rumah

Akhirnya, superkomputer AI untuk penggunaan di rumah

Jika Anda pernah mencoba menjalankan model bahasa besar, yang secara umum disebut AI, di komputer Anda, hasilnya mungkin membuat frustrasi. Misalnya, mesin dengan chipset kelas menengah yang layak, RAM 16 GB, dan GPU yang cukup bertenaga dapat menangani model kecil dengan baik, sesuatu hingga 7B parameter (terutama jika dikuantisasi). Apa pun yang jauh lebih besar — 13B, 32B+ parameter — mungkin tidak dapat dimuat sama sekali atau akan menyebabkan swap berlebihan dan perlambatan. Dan, bagaimanapun juga, pengalamannya akan berbeda dari yang biasa Anda rasakan saat menggunakan ChatGPT, Claude, Perplexity, dan AI lainnya melalui antarmuka web mereka, ketika layanan tersebut berjalan di server kelas industri. Percakapannya akan terasa lebih seperti thread forum yang cepat dari beberapa dekade lalu, bukan interaksi langsung.

Nvidia menyadari masalah ini dan menghadirkan solusi. Harganya mahal, tetapi benar-benar dapat menjalankan model canggih secara lokal. Setidaknya, itulah yang dijanjikan pembuatnya.

DGX Spark dari Nvidia, “superkomputer AI personal”

Pada CES 2025 (baca “CES 2025: 10 perangkat yang benar-benar bisa Anda manfaatkan”), CEO Nvidia Jensen Huang mengumumkan Project Digits, yang bertujuan mendemokratisasi akses ke kemampuan AI tingkat lanjut bagi individu dan tim kecil. Dalam pidatonya, Huang menyebutkan bahwa perangkat yang baru dirancang ini akan menjadi mesin kelas petaflop yang cukup kecil untuk diletakkan di meja seorang peneliti sehingga memberi mereka akses langsung ke kekuatan AI generatif dan model besar.

Pada Maret 2025, Project Digits mulai membuahkan hasil: DGX Spark dan DGX Station, model yang lebih besar. Keduanya diperkenalkan di GTC 2025. Pidato utama tersebut juga mengungkap spesifikasi, strategi pasar, dan kemitraan manufaktur.

Menurut Nvidia, DGX Spark mulai dijual seharga $3,999 pada 15 Oktober 2025. Di balik kapnya, Anda akan menemukan:

• CPU Arm 20-core (10 Cortex-X925 + 10 Cortex-A725 Arm);
• GPU Arsitektur Blackwell;
• 128 GB memori sistem terpadu yang koheren (baca: RAM; LPDDR5x) dengan kecepatan 273 GB/s;
• dan penyimpanan NVME.M2 4 TB dengan enkripsi mandiri.

Superkomputer AI Nvidia dapat menjalankan model hingga 200 miliar parameter (bandingkan dengan model 7B yang dapat Anda jalankan di PC standar saat ini). Desktop ini diperkirakan akan hadir dengan DGX OS berbasis Linux dan seluruh tumpukan perangkat lunak AI Nvidia. Spark dapat menangani tugas deep learning, menjalankan AI generatif, memungkinkan riset ilmiah, melakukan prototyping, dan sebagainya.

Hal yang baik dari keseluruhan proyek ini adalah pendekatan Nvidia yang tampaknya altruistik dalam hal kemitraan: perusahaan menyambut pabrikan pihak ketiga (Acer, ASUS, Dell, HP, Lenovo, MSI, Gigabyte, dan lainnya) untuk membuat versi Spark yang disesuaikan, yang berarti akan ada model yang lebih murah — meskipun kurang bertenaga, tetapi tetap cukup untuk banyak kasus penggunaan — di pasaran. Nantikan terus, kami akan memantau topik ini dan melaporkan semua hal penting.