微軟宣布推出全新服務 Correction，冀能自動修正 AI 生成內容中出現的錯誤。服務主要針對 AI 模型經常出現的「幻覺」問題，雖然微軟期望能透過修正工具來解決該問題，但業界專家對此保持謹慎態度，認為這項技術的效果仍然有待觀察。
▲Correction 可自動偵測 AI 生成內容中潛在錯誤（圖片來源：TechCrunch）
Correction 服務能自動偵測 AI 生成內容中潛在錯誤，例如公司季度財報摘要中出現的錯誤引用，並利用外部真實資料如上傳的會議紀錄進行事實核查，從而修正錯誤內容。新功能暫時仍為 Microsoft Azure AI Content Safety API 的一部分，處於預覽階段，可適用於多種 AI 生成模型，包括 Meta Llama 和 OpenAI GPT-4。
微軟發言人表示：「Correction 結合了小語言模型和大語言模型來協調輸出內容與參考資料的一致性。我們期望新功能能為醫療等對內容準確性要求高的領域提供幫助，讓應用開發者能確保 AI 回應的準確度。」有專家提醒這類技術仍未解決 AI 生成錯誤的根本原因。華盛頓大學研究新興技術倫理影響的博士候選人 Os Keyes 指出：「要消除生成 AI 中的幻覺，就像要從水中移除氫元素一樣困難。」
資料及圖片來源：TechCrunch
