Vihdoin AI-supertietokone kotikäyttöön
Jos olet koskaan yrittänyt käynnistää tietokoneellasi suurta kielimallia, arkikielessä “tekoälyksi” kutsuttua, lopputulos on luultavasti ollut turhauttava. Esimerkiksi kone, jossa on kelpo keskitason piirisarja, 16 Gt RAM-muistia ja kohtuullisen tehokas GPU, selviää pienistä malleista, noin 7B parametriin saakka (varsinkin jos ne on kvantisoitu). Mitään huomattavasti suurempaa — 13B, 32B+ parametria — ei ehkä saa ladattua lainkaan, tai se aiheuttaa liiallista sivutusta ja hidastumista. Ja joka tapauksessa kokemus poikkeaa siitä, mihin olet tottunut käyttäessäsi ChatGPT:tä, Claudea, Perplexityä ja muita tekoälyjä niiden verkkokäyttöliittymien kautta, kun ne pyörivät teollisuustason palvelimilla. Keskustelut tuntuvat enemmänkin parin vuosikymmenen takaiselta nopeatempoiselta foorumiketjulta kuin elävältä vuorovaikutukselta.
Nvidia tunnisti tämän ongelman ja keksi ratkaisun. Se on kallis, mutta pystyy oikeasti ajamaan kehittyneitä malleja paikallisesti. Ainakin valmistajan mukaan.
Nvidian DGX Spark, “henkilökohtainen tekoälysupertietokone”
CES 2025:ssa (lue “CES 2025: 10 laitetta, joista voi oikeasti olla hyötyä”) Nvidian toimitusjohtaja Jensen Huang julkisti Project Digitsin, jonka tavoitteena oli demokratisoida pääsy kehittyneisiin tekoälykyvykkyyksiin yksittäisille käyttäjille ja pienille tiimeille. Puheessaan Huang mainitsi, että vastikään suunniteltu laite on petafloppiluokan kone, joka on riittävän pieni mahtuakseen tutkijan työpöydälle ja antaa näin suoran pääsyn generatiivisen tekoälyn ja suurten mallien voimaan.
Maaliskuussa 2025 Project Digits alkoi kantaa hedelmää: DGX Spark ja DGX Station, suurempi malli. Molemmat esiteltiin GTC 2025 -tapahtumassa. Pääpuheessa valotettiin myös teknisiä tietoja, markkinastrategiaa ja valmistuskumppanuuksia.
Nvidian mukaan DGX Spark tulee myyntiin 15. lokakuuta 2025 hintaan 3 999 dollaria. Konepellin alta löytyy:
- 20-ytiminen Arm-suoritin (10 Cortex-X925 + 10 Cortex-A725 Arm);
- Blackwell-arkkitehtuurin GPU;
- 128 Gt koherenttia yhtenäistä järjestelmämuistia (lue: RAM; LPDDR5x), jonka nopeus on 273 Gt/s;
- sekä 4 Tt NVME.M2-tallennustilaa, jossa on itsesalaus.
Nvidian tekoälysupertietokone voi ajaa malleja, joissa on jopa 200 miljardia parametria (vertaa tätä 7B-malliin, jonka voit käynnistää tavallisella PC:lläsi juuri nyt). Työpöytien odotetaan tulevan varustettuina Linux-pohjaisella DGX OS -käyttöjärjestelmällä ja koko Nvidian AI-ohjelmistopinolla. Spark pystyy hoitamaan deep learning -tehtäviä, pyörittämään generatiivista tekoälyä, mahdollistamaan tieteellistä tutkimusta, tekemään prototypointia jne.
Hankkeessa ilahduttavaa on Nvidian näennäisen altruistinen kumppanuuslinja: yhtiö toivottaa kolmansien osapuolten valmistajat (Acer, ASUS, Dell, HP, Lenovo, MSI, Gigabyte ym.) tervetulleiksi rakentamaan räätälöityjä Spark-versioita, mikä tarkoittaa, että markkinoille tulee edullisempia — vaikkakin vähemmän suorituskykyisiä, mutta moniin käyttötapauksiin aivan riittäviä — malleja. Pysy kuulolla, seuraamme aihetta ja kerromme kaikesta tärkeästä.
