微軟最近在 Build 大會上公布最新的小型語言模型 Phi Silica，這款模型專為微軟最新公布的 Copilot+ PC 中的神經處理單元（NPU）而設計，並會搭載於 Copilot+ PC 上。
▲微軟最近在 Build 大會上公布最新的小型語言模型 Phi Silica
Phi Silica 是 Phi 系列中最小的模型，擁有 33 億個參數，每秒能夠處理 650 個 token，功耗只為 1.5 瓦。Phi Silica 的處理能力可讓 CPU 與 GPU 有更多資源處理其他工作。Phi Silica 的 token 生成精妙地重用 NPU 的 KV 快取，並在 CPU 上運行，每秒生成約 27 個 token。預料每部 Copilot+PC 將會搭載 Phi Silica。
開發者可以通過 Windows App SDK 使用 Phi Silica API，還包括其他 AI 驅動功能，如 OCR、Studio Effects、Live Captions 和 Recall User Activity API。微軟計劃在未來發布更多 API，包括 Vector Embedding、RAG API 及 Text Summarization。
資料及圖片來源：maginative、PC World
