Google розбирає списане залізо для живлення ШІ-серверів

Глобальний дефіцит оперативної пам'яті змушує технологічних гігантів проявляти креативність. За словами Ніхіла Черіана, старшого директора з інфраструктури ланцюга поставок у Google Cloud, компанія почала вилучати модулі DDR4 зі списаних серверів, щоб надати їм друге життя в сучасних системах штучного інтелекту.

Нова стратегія щодо апаратного забезпечення в умовах ринкового хаосу

Щоб інтегрувати компоненти попереднього покоління в нове обладнання, Google створила спеціальні апаратні адаптери.

Ця ініціатива зумовлена новими стрибками цін на DRAM. За даними аналітиків TrendForce, ціни на оперативну пам'ять для серверів підскочили на 13–18%, а в сегменті ПК зростання склало до 23%. У серпні ціни на модулі DDR4 та DDR5 об’ємом 8 ГБ сягнули 142 та 133 доларів відповідно.

Зростання цін та дефіцит пам’яті змушують технологічні компанії шукати способи отримати більше з кожного гігабайта.

Крім того, оптимізація

Окрім повторного використання застарілого обладнання, Google вирішує цю проблему на програмному рівні, оптимізуючи бібліотеки, архітектури моделей та алгоритми стиснення KV-кешу.

Таким чином, дефіцит пам’яті змусив одну з найбільших технологічних компаній не тільки оптимізувати нові прискорювачі та програмне забезпечення, але й створити внутрішній ланцюг постачання для переробки компонентів зі старих серверів.