Arm кидає виклик AMD: майже вдвічі вища продуктивність ШІ на серверну стійку

Компанія Arm опублікувала цікаве повідомлення щодо сектору центрів обробки даних. Нещодавно представлений процесор AGI може забезпечити майже вдвічі вищу продуктивність на серверну стійку порівняно з процесором AMD EPYC 9755, як свідчать результати тестів, проведених компанією Arm та незалежно проаналізованих компанією Signal65.

Тестування проводилося на семи робочих навантаженнях, що мають відношення до агентів штучного інтелекту, включаючи транзакції з базами даних, веб-сервери, розробку програмного забезпечення та обслуговування моделей штучного інтелекту. Це актуально для сценарію, в якому агенти штучного інтелекту використовують інструменти, шукають інформацію та виконують завдання з мінімальним втручанням людини.

Процесори Arm перемогли у п’яти з семи окремих тестів мікросхем. Вони показали особливо високі результати у тесті fastText, де AGI досяг переваги у 97% над AMD. Однак AMD залишився попереду за пропускною здатністю у тестах MySQL та Milvus.

Більша різниця проявилася на рівні стійки. Модельовані результати Arm показали середню перевагу в продуктивності в 1,99 раза для всіх семи робочих навантажень.

Чому щільність у стійці змінює конкуренцію

Енергоспоживання може бути можливим поясненням цього результату. За оцінками Arm, у стійці потужністю 24 кВт може розміститися до 23 серверів AGI від Arm, що втричі перевищує кількість серверів AMD (13). Таким чином, оператори центрів обробки даних зможуть виконувати більше завдань штучного інтелекту без збільшення розмірів своїх фізичних об’єктів.

Незалежна перевірка, проведена компанією Signal65, показала похибку не більше 0,5 % порівняно з результатами, представленими компанією Arm. Проте перевірка була проведена виключно на основі тестів, виконаних компанією Arm.

Наша думка

Ми вважаємо, що висновки компанії Arm можуть свідчити про суттєві зміни в підході корпорацій до оцінки серверних процесорів. Тактова частота чіпа є важливою, але продуктивність на ват і продуктивність на стійку можуть бути не менш важливими. Це може дозволити дата-центрам контролювати свої витрати на електроенергію та запускати більше агентів штучного інтелекту, не займаючи додаткового простору.

Однак лише реальне впровадження цих систем покаже, чи стануть ці покращення стійкими.

Сподобалася ця стаття? Поділіться нею зі своїми колегами та підпишіться на наші соціальні мережі, щоб дізнаватися більше про технології. Ознайомтеся з іншими нашими статтями, щоб дізнатися, як штучний інтелект змінює апаратне забезпечення цифрових сервісів майбутнього.