Windows 11, internet bağlantısı olmadan çalışan yerel bir yapay zeka asistanı alacak

Microsoft, özellikle Windows 11 için tasarlanmış yeni yerel bir yapay zeka modeli olan Mu’yu tanıttı. Modelin en büyük avantajı, internet bağlantısı olmadan çalışabilmesi. Yeni model, şimdiden Windows Insider programı (Geliştirici kanalı) katılımcılarına sunuldu ve gelecekte Copilot+ PC cihazlarında yer alacak.

Mu nedir?
Mu, Qualcomm Hexagon gibi sinir işleme birimleri (NPU) için özel olarak geliştirilmiş, 330 milyon parametreye sahip bir dil modelidir. Özellikleri şunlardır:

• Saniyede 100’den fazla token işleyebilir;

• Sorgulara 500 ms’den daha kısa gecikme süresiyle yanıt verir;

• Benzer çözümlere göre kod çözme süresini 4,7 kat azaltır;

• Kod üretiminde %93,4 doğruluk sağlar — Phi-3.5-mini modeline yakın ancak 10 kat daha kompakt.

Model özellikleri:

• Mimari: Tek geçişli giriş kodlamalı encoder-decoder;

• Teknolojiler: Dual LayerNorm, RoPE, grouped-query attention;

• Optimizasyon: NPU üzerinde hızlı ve verimli çalışır, CPU ve GPU yükünü azaltır;

• Eğitim: Windows 11 ayar komutlarına odaklanarak 3,6 milyon örnekle eğitildi.

Windows 11’de nasıl çalışıyor?
Mu, ayar yönetim sistemine entegre edilmiştir: Kullanıcılar doğal dilde (örneğin, “Ekranı daha parlak yap”) komutlar girebilir ve sistem hemen işlemi gerçekleştirir. Eğer istek çok soyutsa Windows sistem içinde arama önerir, eğer spesifikse sonucu doğrudan verir.

Neden önemli?

• İnternet bağlantısı gerektirmez: Yapay zeka asistanı dahil her şey yerel olarak çalışır;

• Yüksek hız ve doğruluk;

• Veri güvenliği ve gizliliği;

• Kısıtlı kaynaklara sahip kompakt cihazlarda bile yapay zeka desteği.