Відбулася презентація ШІ-прискорювача Spyre і Telum II від IBM

У Пало-Альто відбулася конференція Hot Chips 2024, на якій IBM представила новий процесор і прискорювач для ШІ. Інноваційні продукти були розроблені в основному для корпоративних додатків і поліпшення продуктивності для завдань штучного інтелекту.

Новий процесор IBM Telum II має 8 ядер з частотою 5,5 ГГц і функціонує на базі 5-нанометрової технології. Процесор оснащений новітнім ШІ-прискорювачем і блоком обробки даних (DPU).

Основною метою створення новітнього процесора було підвищення продуктивності, якщо порівнювати з попередніми моделями. Telum II матиме в 4 рази вищу обчислювальну потужність, яка складатиме - 24 TOPS. Архітектура прискорювача повністю оптимізована для роботи з різноманітними ШІ-моделями та великими мовними моделями.

Також підтримуватиметься тип даних INT8, а це значно вплине на обчислювальні можливості процесора. Загальна продуктивність Telum II зможе сягати 192 TOPS, такі показники стали можливими завдяки більш ефективному розподілу навантаження між 8 ШІ-прискорювачами в модулі.

Новий прискорювач Spyre матиме 32 ядра, схожі на ті, що будуть у Telum II. Для прискорення ШІ-завдань можливо буде підключити кілька потужних прискорювачів до підсистеми вводу-виводу.

Обидва новостворені продукти орієнтовані здебільшого на різні сценарії використання штучного інтелекту, і випуск заплановано на 2025 рік.