Windows 11 получит локального ИИ-ассистента: работает без интернета

Компания Microsoft представила новую локальную ИИ-модель Mu, предназначенную для Windows 11. Главное её преимущество — работа без подключения к интернету. Новинка уже доступна участникам программы Windows Insider (канал Dev) и в будущем появится на устройствах Copilot+ PC.

Что такое Mu?

Mu — это языковая модель с 330 млн параметров, разработанная специально для нейропроцессоров (NPU), таких как Qualcomm Hexagon. Она:

• Обрабатывает более 100 токенов в секунду;

• Реагирует на запросы с задержкой менее 500 мс;

• Использует в 4,7 раза меньше времени на декодирование, чем аналогичные решения;

• Показывает 93,4% точности в кодогенерации — почти на уровне Phi-3.5-mini, но в 10 раз компактнее.

Особенности модели:

• Архитектура: encoder-decoder с однократным кодированием входных данных;

• Технологии: Dual LayerNorm, RoPE, grouped-query attention;

• Оптимизация: работает быстро и экономно на NPU, снижает нагрузку на CPU и GPU;

• Обучение: на 3,6 млн примеров с акцентом на команды для настройки Windows 11.

Как это работает в Windows 11?

Mu интегрирована в систему управления настройками: пользователь может вводить команды на естественном языке (например, «Сделай экран ярче»), и система немедленно выполнит действия. Если запрос слишком абстрактный — Windows предложит поиск по системе, а если конкретный — даст результат.

Почему это важно:

• Не требуется интернет: всё работает локально, включая ИИ-помощника;

• Высокая скорость и точность;

• Безопасность и приватность данных;

• Поддержка ИИ даже на компактных устройствах с ограниченными ресурсами.