AMD наближається до досягнення 30-кратної енергоефективності на рік раніше — проривні сервери ШІ демонструють виняткову енергоефективність

Досягнення вражаючої ефективності 

AMD зробила значні кроки в енергоефективності, майже досягнувши своєї амбітної мети 30x25 — поліпшення енергоефективності на 30 разів до 2025 року — на цілий рік раніше. Використовуючи свої останні процесори EPYC 9005-серії "Turin" і графічні прискорювачі Instinct MI300X, AMD продемонструвала покращення ефективності на 28.3 рази порівняно з конфігурацією 2020 року. 

Для тестування AMD використовувала систему, що складається з двох 64-ядерних процесорів EPYC 9575F, восьми прискорювачів Instinct MI300X та 2304 ГБ пам'яті DDR5 на моделі Llama3.1-70B для інференсних обчислень. Хоча специфікації порівняльної машини 2020 року не були розкриті, ймовірно, вона використовувала процесори EPYC 7002-серії та прискорювачі Instinct MI100. Архітектурні вдосконалення та оптимізація програмного забезпечення забезпечили різке покращення, зокрема в підтримці FP8, підсистемах пам'яті та загальній обчислювальній потужності. 

Майбутні інновації та цілі сталого розвитку 

Технічний поступ AMD продовжується з нещодавнім запуском прискорювача Instinct MI325X, що має 288 ГБ пам'яті HBM3E та покращену обчислювальну потужність FP8 і FP16. Наступний MI355X на базі архітектури CDNA 4 збільшить пікову продуктивність до 9.2 Петафлопс при використанні FP4. 

Згідно з думкою старшого віце-президента AMD Сема Нафцегера, стратегія спільного проектування апаратного та програмного забезпечення гарантує, що компанія йде в правильному напрямку для перевищення своєї мети ефективності 30x. Прогрес AMD підкреслює її прихильність до сталого розвитку та продуктивності в ШІ та HPC, встановлюючи високий стандарт для галузі. 

Це досягнення підкреслює лідерство AMD в енергоефективних обчисленнях, де великі досягнення ефективності відкривають шлях до "зелених" інновацій в ШІ.