Alibaba Cloud скоротила навантаження на GPU для ШІ-сервісів майже вп'ятеро
5s
2
14:47, 22.10.2025
Alibaba Cloud дійшли висновку, що ШІ-сервіси часто використовують ресурси нераціонально. Багато ШІ-моделей нерівномірно споживають потужності, збільшуючи при цьому навантаження на GPU. Саме такий неефективний розподіл потужностей перешкоджає масштабуванню та збільшує витрати, пов'язані з ШІ-інфраструктурою.
Aegaeon: Перерозподіл ресурсів
У відповідь на помічений виклик, Alibaba Cloud представила систему Aegaeon, яка динамічно перерозподіляє ресурси, вирішуючи тим самим проблему. Завдяки системі, графічні модулі тепер можуть перемикатися між моделями в реальному часі, навіть під час генерації відповідей.
Чому Aegaeon — це вигідно
Нова система дозволяє одному GPU обслуговувати до семи моделей одночасно, що є набагато продуктивнішим порівняно з минулими двома-трьома моделями. При використанні Aegaeon затримки при перемиканні між завданнями скоротилися на 97%. Система вже використовується на маркетплейсі Bailian від Alibaba Cloud. І це є важливим кроком на шляху до дешевшої та стійкішої ШІ-інфраструктури.
Чи була ця стаття корисною для вас?
Так
Ні
Популярні пропозиції VPS
розпродаж
-15%
Windows
€ 72 /м
При оплаті за 6 місяців
розпродаж
-15.1%
Linux
€ 6.31 /м
При оплаті за місяць
розпродаж
-15%
Linux
€ 6.6 /м
При оплаті за 6 місяців
розпродаж
-15%
Windows
€ 56 /м
При оплаті за місяць
розпродаж
-15%
Linux
€ 20.72 /м
При оплаті за місяць
розпродаж
-15%
Windows
€ 139.49 /м
При оплаті за 6 місяців
розпродаж
-15%
Windows
€ 28.44 /м
При оплаті за місяць
розпродаж
-15%
Windows
€ 45.95 /м
При оплаті за 6 місяців
розпродаж
-15%
Windows
€ 31.25 /м
При оплаті за місяць
розпродаж
-15%
Linux
€ 50 /м
При оплаті за місяць
