Microsoft інтегрує DeepSeek R1 у Copilot+ PC: що це означає для користувачів?

Штучний інтелект DeepSeek швидко завоював популярність у мобільному сегменті, а тепер робить ривок у світ Windows. Microsoft активно підтримує цей процес, інтегруючи модель DeepSeek R1 у свою хмарну платформу Azure AI Foundry. Але тепер компанія пішла ще далі й оголосила про додавання дистильованих версій цієї моделі на комп’ютери Copilot+ PC.

Що таке дистильовані моделі DeepSeek R1?

Дистильована модель – це полегшена версія великої нейромережі, яка зберігає ключові можливості, але працює швидше та ефективніше. Повна версія DeepSeek R1 містить 671 мільярд параметрів, тоді як дистильовані моделі будуть варіюватися від 1,5 до 14 мільярдів. Це дозволяє запускати їх безпосередньо на споживчих пристроях без дорогого спеціалізованого обладнання.

Першою доступною моделлю стане DeepSeek-R1-Distill-Qwen-1.5B (з 1,5 млрд параметрів), а пізніше з’являться версії 7B та 14B. Вони будуть доступні через Microsoft AI Toolkit і спочатку працюватимуть на пристроях з чипами Snapdragon X та процесорами Intel Core Ultra 200V, а згодом – на AMD Ryzen AI 9.

Як Microsoft оптимізувала моделі для Copilot+ PC?

Щоб забезпечити максимальну продуктивність на ПК, Microsoft адаптувала ці моделі під нейропроцесори (NPU). Найважливіші обчислення, як-от блок трансформатора, виконуються на NPU, тоді як завдання, що вимагають частого доступу до пам’яті, перекладені на центральний процесор.

Завдяки такому підходу вдалося досягти часу до першого токена у 130 мс і швидкості обробки 16 токенів за секунду (для коротких запитів до 64 токенів). Це означає, що користувачі отримуватимуть миттєві відповіді від AI, навіть без підключення до хмари.

Microsoft розширює екосистему ШІ

Хоча Microsoft активно співпрацює з OpenAI, її стратегія чітко показує курс на диверсифікацію. В її Azure Playground уже представлені GPT (OpenAI), Llama (Meta) і Mistral, а тепер і DeepSeek R1. Це свідчить про те, що компанія прагне створити відкриту екосистему, де користувачі самі зможуть обирати, який ШІ використовувати.

DeepSeek R1 на Copilot+ PC – це ще один крок до інтеграції потужних AI-інструментів у повсякденні пристрої. Тепер залишається питання: наскільки ефективною буде ця технологія в реальному використанні? Відповідь дізнаємось уже найближчим часом.