DeepSeek интегрировали в Windows

Искусственный интеллект DeepSeek покорил мир всего за несколько дней и теперь расширяется на операционную систему Windows — при полной поддержке Microsoft. Вчера софтверный гигант добавил модель DeepSeek R1 в Azure AI Foundry, предоставив разработчикам возможность тестировать её и создавать облачные приложения и сервисы из своего собственного облака. А сегодня Microsoft объявила, что дистиллированные версии R1 появятся на платформе Copilot+ PC. Первыми данную систему получат устройства на базе процессоров Snapdragon X, затем — модели с Intel Core Ultra 200V, а после — ноутбуки на AMD Ryzen AI 9. При этом первая модель, DeepSeek-R1-Distill-Qwen-1.5B, будет иметь 1,5 миллиарда параметров, но вскоре появятся более мощные версии с 7 и 14 миллиардами параметров, которые можно будет загрузить через AI Toolkit от Microsoft.

Чтобы адаптировать модели к работе на устройствах с NPU, Microsoft переработала их архитектуру — операции, требовательные к памяти, теперь выполняются на процессоре, а ресурсоёмкие вычисления обрабатываются на NPU. Благодаря этим оптимизациям удалось достичь высокой скорости генерации первых токенов и производительности до 16 токенов в секунду для коротких запросов. Соответственно, несмотря на то, что Microsoft активно поддерживает OpenAI (разработчиков ChatGPT и GPT-4o), компания не отдаёт предпочтение только им — сейчас в её Azure Playground уже доступны модели GPT, Llama, Mistral и DeepSeek. Это отличная новость.