Akhirnya, superkomputer AI untuk kegunaan di rumah
Jika anda pernah cuba melancarkan model bahasa besar, yang secara umum dipanggil AI, pada komputer anda, hasilnya mungkin mengecewakan. Sebagai contoh, sebuah mesin dengan cipset kelas pertengahan yang baik, 16 GB RAM, dan GPU yang agak berkuasa boleh mengendalikan model kecil dengan memadai, sesuatu dengan sehingga 7B parameter (terutamanya jika dikuantumkan). Apa-apa yang jauh lebih besar — 13B, 32B+ parameter — mungkin langsung tidak boleh dimuat atau akan menyebabkan pertukaran memori berlebihan dan kelambatan. Dan, dalam apa jua keadaan, pengalamannya akan berbeza daripada apa yang anda sudah biasa apabila menggunakan ChatGPT, Claude, Perplexity dan AI lain melalui antara muka web mereka, apabila ia berjalan pada pelayan gred industri. Perbualan akan terasa lebih seperti utas forum pantas dari beberapa dekad lalu, bukan interaksi langsung.
Nvidia menyedari masalah ini dan menghasilkan satu penyelesaian. Ia mahal, tetapi ia sebenarnya boleh menjalankan model canggih secara setempat. Sekurang-kurangnya, itulah yang dijanjikan oleh pembuatnya.
DGX Spark Nvidia, “superkomputer AI peribadi”
Di CES 2025 (baca “CES 2025: 10 peranti yang sebenarnya berguna”), Ketua Pegawai Eksekutif Nvidia Jensen Huang mengumumkan Project Digits, yang bertujuan mendemokrasikan akses kepada keupayaan AI termaju untuk individu dan pasukan kecil. Dalam ucapannya, Huang menyebut bahawa peranti yang direka baharu itu akan menjadi mesin kelas petaflop yang cukup kecil untuk muat di atas meja penyelidik dan dengan itu memberikan mereka akses langsung kepada kuasa AI generatif dan model besar.
Pada Mac 2025, Project Digits mula membuahkan hasil: DGX Spark dan DGX Station, model yang lebih besar. Kedua-duanya didedahkan di GTC 2025. Ucaptama itu juga menjelaskan spesifikasi, strategi pasaran, dan kerjasama pembuatan.
Menurut Nvidia, DGX Spark akan mula dijual pada harga $3,999 pada 15 Oktober 2025. Di dalamnya, anda akan dapati:
- CPU Arm 20-teras (10 Cortex-X925 + 10 Cortex-A725 Arm);
- GPU Seni Bina Blackwell;
- 128 GB memori sistem bersatu koheren (baca: RAM; LPDDR5x) yang beroperasi pada 273 GB/s;
- dan storan NVME.M2 4 TB dengan penyulitan kendiri.
Superkomputer AI Nvidia boleh menjalankan model dengan sehingga 200 bilion parameter (bandingkan dengan model 7B yang boleh anda lancarkan pada PC biasa anda sekarang). Desktop ini dijangka hadir dengan DGX OS berasaskan Linux dan keseluruhan susunan perisian AI Nvidia. Spark boleh mengendalikan tugas pembelajaran mendalam, menjalankan AI generatif, membolehkan penyelidikan saintifik, membuat prototaip, dan sebagainya.
Apa yang baik tentang keseluruhan projek ini ialah pendekatan Nvidia yang kelihatan altruistik dari segi perkongsian: syarikat itu mengalu-alukan pengeluar pihak ketiga (Acer, ASUS, Dell, HP, Lenovo, MSI, Gigabyte, dan lain-lain) untuk membina versi Spark yang disesuaikan, yang bermakna akan ada model yang lebih murah — walaupun kurang berkeupayaan, tetapi mencukupi untuk banyak kes penggunaan — di pasaran. Nantikan, kami akan terus memantau hal ini dan melaporkan segala yang penting.
