Windows 11 получит локального ИИ-ассистента: работает без интернета
Microsoft продолжает собирать обратную связь от пользователей и улучшать модель Mu. В будущем она может стать основным ИИ-инструментом управления Windows без участия облачных сервисов.
Компания Microsoft представила новую локальную ИИ-модель Mu, предназначенную для Windows 11. Главное её преимущество — работа без подключения к интернету. Новинка уже доступна участникам программы Windows Insider (канал Dev) и в будущем появится на устройствах Copilot+ PC.
Что такое Mu?
Mu — это языковая модель с 330 млн параметров, разработанная специально для нейропроцессоров (NPU), таких как Qualcomm Hexagon. Она:
-
Обрабатывает более 100 токенов в секунду;
-
Реагирует на запросы с задержкой менее 500 мс;
-
Использует в 4,7 раза меньше времени на декодирование, чем аналогичные решения;
-
Показывает 93,4% точности в кодогенерации — почти на уровне Phi-3.5-mini, но в 10 раз компактнее.
Особенности модели:
-
Архитектура: encoder-decoder с однократным кодированием входных данных;
-
Технологии: Dual LayerNorm, RoPE, grouped-query attention;
-
Оптимизация: работает быстро и экономно на NPU, снижает нагрузку на CPU и GPU;
-
Обучение: на 3,6 млн примеров с акцентом на команды для настройки Windows 11.
Как это работает в Windows 11?
Mu интегрирована в систему управления настройками: пользователь может вводить команды на естественном языке (например, «Сделай экран ярче»), и система немедленно выполнит действия. Если запрос слишком абстрактный — Windows предложит поиск по системе, а если конкретный — даст результат.
Почему это важно:
-
Не требуется интернет: всё работает локально, включая ИИ-помощника;
-
Высокая скорость и точность;
-
Безопасность и приватность данных;
-
Поддержка ИИ даже на компактных устройствах с ограниченными ресурсами.
