Най-сетне, суперкомпютър с изкуствен интелект за домашна употреба
Ако някога сте опитвали да стартирате голям езиков модел, разговорно наричан AI, на своя компютър, резултатите вероятно са били разочароващи. Например машина с приличен чипсет от среден клас, 16 GB RAM и сравнително мощен GPU може да се справи адекватно с малки модели, нещо с до 7B параметъра (особено ако са квантизирани). Всичко значително по-голямо — 13B, 32B+ параметъра — може изобщо да не се зареди или да предизвика прекомерно използване на swap и забавяния. И във всички случаи преживяването ще е различно от това, с което сте свикнали, когато ползвате ChatGPT, Claude, Perplexity и други AI през уеб интерфейсите им, когато те работят на сървъри от индустриален клас. Разговорите ще се усещат повече като бърза тема във форум отпреди няколко десетилетия, а не като живо взаимодействие.
Nvidia осъзна този проблем и предложи решение. То е скъпо, но действително може да изпълнява сложни модели локално. Поне така обещава производителят му.
DGX Spark на Nvidia, “личният AI суперкомпютър”
На CES 2025 (вижте “CES 2025: 10 устройства, които наистина могат да ви бъдат полезни”), главният изпълнителен директор на Nvidia Дженсън Хуанг обяви Project Digits, който цели да демократизира достъпа до напреднали възможности на AI за отделни лица и малки екипи. В речта си Хуанг спомена, че новоразработеното устройство ще бъде машина от петафлопов клас, достатъчно малка, за да се побере на бюрото на изследовател и така да му даде директен достъп до мощта на генеративния AI и големите модели.
През март 2025 г. Project Digits започна да дава резултати: DGX Spark и DGX Station, по-голям модел. И двата бяха представени на GTC 2025. Ключовата презентация хвърли светлина и върху спецификациите, пазарната стратегия и производствените партньорства.
Според Nvidia, DGX Spark излиза в продажба на 15 октомври 2025 г. за $3 999. Под капака ще откриете:
- 20-ядрен процесор Arm (10 Cortex-X925 + 10 Cortex-A725 Arm);
- GPU с архитектура Blackwell;
- 128 GB кохерентна унифицирана системна памет (разбирай: RAM; LPDDR5x) с пропускателна способност 273 GB/s;
- и 4 TB NVME.M2 устройство за съхранение със самошифроване.
AI суперкомпютърът на Nvidia може да изпълнява модели с до 200 милиарда параметъра (сравнете това с 7B модел, който можете да стартирате на обикновен компютър още сега). Очаква се настолните машини да идват с базираната на Linux DGX OS и целия софтуерен стек за AI на Nvidia. Spark може да се справя със задачи по дълбоко обучение, да поддържа генеративен AI, да подпомага научни изследвания, да служи за прототипиране и др.
Хубавото в целия проект е привидно алтруистичният подход на Nvidia по отношение на партньорствата: компанията приветства производители от трети страни (Acer, ASUS, Dell, HP, Lenovo, MSI, Gigabyte и др.) да създават персонализирани версии на Spark, което означава, че на пазара ще има по-евтини — макар и по-малко способни, но напълно достатъчни за множество случаи на употреба — модели. Останете на линия, ще следим темата и ще съобщаваме всичко важно.
