Китай знайшов розумніший спосіб прискорити ШІ без потужніших чипів

Гонитва за створенням все більш потужних систем штучного інтелекту довела апаратне забезпечення до межі можливостей. Протягом багатьох років компанії зосереджувалися на збільшенні обчислювальної потужності, приділяючи менше уваги тому, як дані переміщуються між процесорами. Тепер китайські дослідники продемонстрували, що інший підхід може дати вражаючі результати.

Команда з Пекінського університету створила експериментальну платформу штучного інтелекту, яка з’єднує кілька стандартних процесорів за допомогою кремнієвих фотонних передавачів та оптичного комутатора. Замість того, щоб покладатися на один потужний графічний процесор (GPU), вони забезпечили спільну роботу декількох мікросхем у безперервному потоці обробки.

Результати здивували навіть досвідчених інженерів. Система виконала завдання з усунення шуму в зображенні майже в 149 разів швидше, ніж звичайний графічний процесор. Ще більш вражаючим є те, що вона досягла цього, використовуючи лише близько 11,6 відсотка теоретичної обчислювальної потужності графічного процесора.

Секрет швидкості

Дослідники розмістили по одному шару п’ятишарової конволюційної нейронної мережі на кожному FPGA. Як тільки кожен процесор виконував своє завдання, він негайно надсилав дані до наступного чіпа через високошвидкісні оптичні з’єднання.

Така конструкція усунула одне з найбільших вузьких місць штучного інтелекту. Традиційні графічні процесори (GPU) неодноразово зберігають проміжні результати в пам’яті, перш ніж завантажувати їх знову для наступного етапу. Це постійне переміщення уповільнює обробку. Нова архітектура забезпечила безперебійний потік даних без зайвих перерв.

Під час тестування платформа обробила 1 000 зображень із роздільною здатністю 32 на 32 пікселі трохи більше ніж за 105 мікросекунд. Для виконання того самого обсягу роботи порівняльному графічному процесору знадобилося понад 15 мілісекунд. Ресурси FPGA також досягли вражаючого коефіцієнта використання — майже 95 відсотків.

Чому розумніша архітектура може визначити наступну еру штучного інтелекту

У експерименті використовувалася відносно невелика нейронна мережа та набір даних Fashion MNIST. Поки що не варто очікувати такого ж приросту продуктивності для сучасних великих мовних моделей. Проте дослідження доводить, що більш продумане проектування систем може забезпечити значне підвищення ефективності без використання більш потужних мікросхем.

На наш погляд, це дослідження є важливим, оскільки воно вказує на ключову тенденцію для всієї галузі штучного інтелекту. Можливо, у майбутньому інновації будуть зумовлені вдосконаленням архітектури, а не збільшенням обчислювальної потужності. Це призведе до створення більш енергоефективних технологій, зменшення витрат на інфраструктуру та доступності передових рішень у сфері ШІ для організацій та приватних осіб у всьому світі.

Якщо ця стаття вас зацікавила, поділіться нею зі своїми колегами, ознайомтеся з іншими нашими публікаціями про ШІ та підпишіться на нас у соціальних мережах, щоб дізнаватися про технології майбутнього.