Nvidia анонсувала «персональний суперкомп’ютер» для локального запуску моделей штучного інтелекту

Компанія-виробник мікросхем Nvidia оголосила про випуск «персонального суперкомп’ютера» під назвою Project Digits. Його технічні характеристики дозволяють запускати моделі штучного інтелекту до 200 мільярдів параметрів. Новий ПК, який «розроблено для дослідників штучного інтелекту, науковців з обробки даних і студентів», коштує від $3000, і він дуже схожий на Mac Mini, повідомляє The Verge.

Серцем Project Digits є новий мікропроцесор GB10 Grace Blackwell, який має достатню обчислювальну потужність для запуску складних моделей штучного інтелекту і водночас достатньо компактний, щоб працювати у настільному ПК від стандартної розетки.

«З Project Digits суперчіп Grace Blackwell стає доступним для мільйонів розробників. Розміщення суперкомп’ютера зі штучним інтелектом на столах кожного спеціаліста з обробки даних, дослідника штучного інтелекту та студента дає їм змогу залучати та формувати еру ШІ», — заявив генеральний директор Nvidia Дженсен Хуанг.

Кожна система Project Digits оснащена 128 ГБ уніфікованої когерентної пам’яті (для порівняння, хороший ноутбук може мати 16 ГБ або 32 ГБ оперативної пам’яті) і до 4 ТБ пам’яті NVMe. Для ще більш вимогливих додатків дві системи Project Digits можна об’єднати разом для обробки моделей із 405 мільярдами параметрів (найпотужніша модель Meta — Llama 3.1 має 405 мільярдів параметрів).

Мікропроцесор GB10 забезпечує продуктивність штучного інтелекту до 1 петафлопа. Це означає, що він може виконувати 1 квадрильйон обчислень за секунду з точністю FP4. Комп’ютер оснащено ядрами CUDA останнього покоління Nvidia та Tensor Cores п’ятого покоління, які підключені через NVLink-C2C до процесора Grace з 20 енергоефективними ядрами на базі Arm.