NVIDIA представила персональный ИИ-суперкомпьютер

NVIDIA в рамках своей презентации на выставке CES 2025 представила суперкомпьютер Digits для работы с искусственным интеллектом. Устройство выглядит как обычный мини-ПК. Digits собираются выпустить за 3000 долларов в начальной конфигурации. Продажи начнутся в мае этого года.

В мае этого года компания начнет продажи системы под названием Project Digits, в основе которой лежит новый суперчип GB10 Grace Blackwell. Он обладает достаточной вычислительной мощностью для запуска сложных моделей ИИ (LLM) и при этом достаточно компактен, чтобы поместиться на столе и работать от стандартной розетки. Ранее для такой вычислительной мощности требовались гораздо более крупные и энергоемкие системы.

Nvidia $NVDA CEO Jensen Huang unveiled its newest AI supercomputer currently called «Project Digits» pic.twitter.com/nGGxLSwMYC

— Evan (@StockMKTNewz) January 7, 2025

«ИИ становится мейнстримом в каждой отрасли. С Project Digits суперчип Grace Blackwell становится доступен миллионам разработчиков. Суперкомпьютер ИИ на столе каждого специалиста по данным, исследователя ИИ и студента дает им возможность участвовать и формировать эпоху ИИ», — генеральный директор NVIDIA Дженсен Хуанг.

Система Project Digits, размером с традиционный настольный мини-ПК вроде Mac mini, может работать с моделями ИИ, содержащими до 200 миллиардов параметров, а ее стартовая цена составляет 3000 долларов. Для еще более требовательных приложений две системы Project Digits могут быть объединены для работы с моделями, содержащими до 405 миллиардов параметров (лучшая модель Meta, Llama 3.1, как раз имеет 405 миллиардов параметров).

Чип GB10 Grace Blackwell обеспечивает производительность до 1 петафлопа с точностью FP4, то есть он способен выполнять 1 квадриллион операций в секунду для обучения и запуска ИИ-моделей. Система оснащена графическим процессором с ядрами Nvidia CUDA последнего поколения и тензорными ядрами пятого поколения. Он подключен через NVLink-C2C к центральному процессору Grace с 20 энергоэффективными ядрами на архитектуре Arm. В разработке GB10 участвовала компания MediaTek, помогая оптимизировать энергоэффективность и производительность. Каждая система оснащается 128 Гбайт унифицированной когерентной оперативной памяти и до 4 Тбайт NVMe-накопителя.

Пользователи также получат доступ к библиотеке программного обеспечения Nvidia для ИИ, включая наборы для разработки, инструменты оркестрации и предварительно обученные модели, доступные в каталоге Nvidia NGC. Система работает на базе Linux Nvidia DGX OS и поддерживает такие популярные фреймворки, как PyTorch, Python и Jupyter Notebooks. Разработчики могут настраивать модели с помощью фреймворка Nvidia NeMo и ускорять рабочие процессы в области науки о данных с помощью библиотек Nvidia RAPIDS.

Это не первый «потребительский» ИИ-суперкомпьютер Nvidia. В декабре прошлого года компания анонсировала версию своего компьютера Jetson за 249 долларов для приложений ИИ, ориентированную на любителей и стартапы, под названием Jetson Orin Nano Super, который способен справляться с LLM до 8 миллиардов параметров.

ПК помещается на ладони, предлагает «ИИ-разработчикам, любителям, студентам и всем желающим» повышенную производительность по более низкой цене с обновленным ПО.

«Детали», Ю.Л. Фото: Depositphotos.com ∇