微軟公司在近期的一項重大更新中，正式揭曉了內置于Windows 11的新型設備端小型語言模型——Mu。這一創新舉措旨在為用戶帶來更為智能且自然的交互體驗，特別是在系統設置的搜索功能上實現了顯著提升。
回顧去年，微軟曾推出了搭載高性能專用神經處理單元（NPU）的Copilot + 個人電腦系列，其NPU算力高達40 TOPS以上。這些電腦內置了Phi - Silica，一款專為微軟第一方及第三方開發者應用程序提供本地語言智能功能的小型語言模型（SLM）。
而今，微軟在Windows 11操作系統中引入了Mu，這一全新的本地小型語言模型，進一步推動了人工智能在操作系統中的應用。Mu的設計初衷是成為一個基于AI的智能代理，能夠準確理解用戶的自然語言查詢，并將其無縫融入系統設置應用中的搜索框，從而為用戶提供更加順暢的操作體驗。
目前，微軟已利用Mu模型為設置應用中的全新代理功能提供支持，該功能已在開發頻道向Windows預覽體驗計劃成員開放，但僅限于使用Copilot + 個人電腦的用戶。這一功能的推出，標志著微軟在智能化操作系統領域邁出了重要一步。
Mu作為一款擁有3.3億參數的編碼器-解碼器語言模型，其架構設計在提升性能方面表現卓越。與同尺寸的解碼器模型相比，Mu的編碼器-解碼器架構能夠顯著降低首token延遲約47%，并將解碼速度提高4.7倍。Mu在部分組件中采用了權重共享技術，有效減少了總參數數量。該模型在Azure機器學習平臺上，利用NVIDIA A100 GPU進行了嚴格訓練。
盡管Mu的尺寸僅為Phi - 3.5 - mini的十分之一，但其性能卻幾乎與經過類似微調的Phi - 3.5 - mini相當。更重要的是，Mu在處理多詞查詢時表現出色。對于短詞或部分詞輸入，系統設置應用仍會在搜索框中顯示詞匯和語義搜索結果，確保用戶能夠輕松找到所需信息。
對于渴望體驗這一全新人工智能代理功能的用戶來說，只需下載Windows 11的最新版本（Build 26120.3964或更高版本），即可在設置應用中暢享這一創新功能。這一更新無疑將為用戶帶來更加智能、便捷的操作體驗。
