Végre egy MI-szuperszámítógép otthoni használatra
Ha valaha megpróbáltál egy nagy nyelvi modellt, köznyelven „MI”-t, elindítani a számítógépeden, az eredmény valószínűleg frusztráló volt. Például egy tisztességes középkategóriás lapkakészlettel, 16 GB RAM-mal és mérsékelten erős GPU-val szerelt gép megfelelően elbír a kisebb modellekkel, nagyjából 7B paraméterig (különösen, ha kvantált). Minden, ami ennél lényegesen nagyobb — 13B, 32B+ paraméter — lehet, hogy egyáltalán nem tölt be, vagy túlzott lapozást és lassulást okoz. És minden esetben egészen más élmény lesz, mint amit a ChatGPT-t, a Claude-ot, a Perplexityt és más MI-ket a webes felületükön használva megszoktál, amikor ipari szintű szervereken futnak. A beszélgetések inkább egy évtizedekkel ezelőtti, pörgős fórumtopiknak fognak érződni, nem élő interakciónak.
Az Nvidia felismerte ezt a problémát, és előállt egy megoldással. Drága, de tényleg képes kifinomult modelleket helyben futtatni. Legalábbis ezt ígéri a gyártója.
Az Nvidia DGX Sparkja, a “személyes MI-szuperszámítógép”
A CES 2025-ön (olvasd el: “CES 2025: 10 eszköz, amelyet tényleg hasznosnak találhatsz”), az Nvidia vezérigazgatója, Jensen Huang bejelentette a Project Digits kezdeményezést, amelynek célja a fejlett MI-képességekhez való hozzáférés demokratizálása egyének és kisebb csapatok számára. Beszédében Huang megemlítette, hogy az újonnan tervezett eszköz petaflop-osztályú gép lesz, elég kicsi ahhoz, hogy elférjen egy kutató asztalán, így közvetlen hozzáférést adva a generatív MI és a nagy modellek erejéhez.
2025 márciusában a Project Digits kezdte meghozni gyümölcsét: a DGX Spark és a DGX Station, egy nagyobb modell. Mindkettőt a GTC 2025-ön mutatták be. A keynote a specifikációkra, a piaci stratégiára és a gyártói partnerségekre is rávilágított.
Az Nvidia szerint a DGX Spark 3 999 dolláros áron 2025. október 15-én kerül forgalomba. A burkolat alatt a következőket találod:
- egy 20 magos Arm CPU (10 Cortex-X925 + 10 Cortex-A725 Arm);
- egy Blackwell-architektúrájú GPU;
- 128 GB koherens, egységes rendszermemória (értsd: RAM; LPDDR5x), 273 GB/s sávszélességgel;
- és 4 TB önmagát titkosító NVME.M2 tárhely.
Az Nvidia MI-szuperszámítógépe akár 200 milliárd paraméteres modelleket is képes futtatni (hasonlítsd ezt ahhoz a 7B-s modellhez, amit jelenleg egy átlagos PC-n el tudsz indítani). Az asztali gépek várhatóan Linux-alapú DGX OS-sel és a teljes Nvidia AI szoftververemmel érkeznek. A Spark képes mélytanulási feladatokat kezelni, generatív MI-t futtatni, támogatni a tudományos kutatást, prototípusokat készíteni stb.
A projekt egészének pozitívuma az Nvidia látszólag altruista partnerségi megközelítése: a vállalat üdvözli a külső gyártókat (Acer, ASUS, Dell, HP, Lenovo, MSI, Gigabyte és mások), hogy a Spark testreszabott változatait építsék, ami azt jelenti, hogy lesznek olcsóbb — bár kevésbé ütős, de számos felhasználási esetre bőven elegendő — modellek a piacon. Maradj velünk, figyelemmel kísérjük a témát, és minden fontosról beszámolunk.
