Пам'ять для ШІ d-Matrix 3D DRAM (3DIMC)

Стартап d-Matrix оголосив про роботу над новим видом пам’яті, який буде використовуватись для задач ШІ.

Особливості технології 3D-цифрових обчислень

Технологія 3D-цифрових обчислень у новій пам’яті 3DIMC орієнтована на значне прискорення виведення даних системами ШІ. На даному етапі, для всіх задач пов’язаних з ШІ використовується HBM.

HBM функціонує шляхом розміщення модулей пам’яті один над одним, таким чином досягається досить високий рівень продуктивності та ефективне з’єднання кристалів пам’яті. Такий вид пам’яті, виконує свої задачі, але це не найкращий варіант для обчислення.

У d-Matrix зараз проходять випробування кремнієвого чипу Pavehawk 3DIMC. На даний момент, апаратне забезпечення для обчислень в оперативній пам’яті, складається з кристалів пам’яті  LPDDR5 та поверх встановленими чиплетами DIMC, які підключені через інтерпозер.

Завдяки такій конфігурації стає можливим обчислення безпосередньо у пам’яті. Моделі ШІ швидко розвиваються, і традиційні системи пам’яті обмежують пропускну спроможність та стають все дорожчими і дорожчими. Таким чином, новий підхід де пам'ять має кращу інтеграцію з обчислювальними системами, впливає на збільшення пропускної спроможності та підвищення ефективності в цілому.

Над Pavehawk 3DIMC працюють в лабораторних умовах, а також очікується на вихід нового покоління пам’яті Raptor, яке також базуватиметься на моделі чиплета. Очікується, що Raptor зможе прискорити вивід даних ШІ майже у 10 разів порівнюючи з традиційними системами пам’яті.