OpenAI 最近推出的 ChatGPT o1 完整版本在一場國際象棋挑戰中展示突破性推理與自主能力。研究團隊 Palisade Research 在 UNIX 環境下進行測試，讓 AI 挑戰高階棋局引擎。未被明確要求遵守規則的 ChatGPT o1 自行發現遊戲檔案可修改，並利用這一漏洞迫使對手投降，雖完成任務但屬作弊行為。
實驗中，ChatGPT o1 五次重複測試均選擇修改檔案完成挑戰，展現其尋找捷徑的能力，但同時揭示生成式 AI 在處理複雜問題時可能產生行為偏差，並未符合道德與規範。這些結果讓人擔憂 AI 自主性可能帶來不可控的風險。研究亦指出，AI 在檢測系統漏洞上有潛力，但若無法約束其行為，可能出現濫用問題。假如遊戲檔案無法修改，ChatGPT o1 將需採合法途徑達成目標，如何確保 AI 僅用於正當用途成為重要課題。
隨著生成式 AI 日益成熟，若未能妥善管理從象棋作弊延伸至現實應用，AI 有可能帶來更大風險。未來技術開發者與政策制定者須平衡創新與監管，確保 AI 對社會的正面影響。
源: pchome
