АІ-суперкомп'ютер від NVIDIA, який може працювати з моделями 200B-параметрів

NVIDIA представила найменший суперкомп'ютер для задач штучного інтелекту. Project Digits в основному орієнтований на фахівців з обробки даних, дослідників ШІ та просто користувачів з усього світу, які хотіли б протестувати Grace Blackwell. 

Суперчип GB10 Grace Blackwell

Особливістю проекту є суперчип GB10 Grace Blackwell Superchip, який має петафлотову продуктивність для роботи з величезними моделями ШІ, для створення прототипів та інших великих завдань.

Суперчип GB10 заснований на архітектурі Grace Blackwell і пропонує ексклюзивні характеристики продуктивності в 1 петафлоп при точності FP4. Чип розроблений у співпраці MediaTek та NVIDIA, які досягли виняткових результатів і створили продукт з ексклюзивними можливостями підключення, енергоефективністю та продуктивністю. Ця потужна продуктивність суперчипа може бути забезпечена за допомогою стандартної розетки.

Project DIGITS має 4 ТБ пам'яті NVMe та 128 ГБ когерентної пам'яті. Для досягнення більшого прогресу в інноваційних підходах суперкомп'ютер може запускати майже 200 мільярдів параметрів. Для подвоєння кількості запущених параметрів моделей можна використовувати 2 з'єднані між собою суперкомп'ютери.

Користувачі Project DIGITS також мають доступ до величезної бібліотеки програмного забезпечення для ШІ, що включає фреймворки та різноманітні моделі, інструменти оркестрування, прототипування, а також набори для розробки. Серед найпоширеніших фреймворків - Jupyter та PyTorch.

Згідно з поточною інформацією, Project DIGITS буде доступний наприкінці весни, а його ціна стартує від $3 000.