xAI 開發 AI 聊天機械人 Grok 因為被濫用生成未經同意性化圖像，印尼在 2026 年 1 月 10 日宣佈暫時封鎖該服務，成為全球首個採取此行動國家。馬來西亞翌日亦宣佈跟隨，暫時禁止國民存取 Grok。
問題根源與規模
2025 年底 xAI 升級 Grok 影像生成功能「Imagine」，讓用戶透過 X 平台輕易使用。此後大量用戶利用功能將他人相片改造成性化內容，包括將女性及兒童相片修改成穿著比基尼或透明內衣圖像。有調查發現 Grok 每小時生成約 6,700 張性化圖像，佔該 AI 工具生成圖像總量 85%。
印尼通訊及數碼事務部長 Meutya Hafid 表示，政府將未經同意性化深偽技術視為對公民在數碼空間人權、尊嚴及安全嚴重侵犯。印尼政府初步調查發現 Grok 缺乏足夠措施防止用戶製作及傳播基於真實印尼公民圖像色情內容。
東南亞國家回應
馬來西亞通訊及多媒體委員會指出，該國本月初已向 X Corp 及 xAI 發出通知要求加強保護措施，但對方回應不足夠，僅依賴用戶舉報系統，未能解決 AI 工具設計與運作固有風險。委員會表示限制措施將維持至建立有效保障機制，特別是防止涉及女性及兒童內容。
作為全球最大穆斯林人口國家，印尼設有嚴格規例禁止網上分享淫穢內容。
xAI 與各國反應
xAI 在 1 月 9 日回應爭議，透過 Grok 帳戶發佈道歉，承認相關內容違反道德標準及潛在違反美國法律，涉及兒童性虐待內容。公司其後將 AI 影像生成功能限制為僅付費用戶可用，但此限制未套用於 Grok 獨立應用程式，任何人仍可透過該應用程式生成圖像。
英國首相 Keir Starmer 表示全力支持通訊監管機構 Ofcom 採取行動，英國政府發言人批評 X 決定只是將製作非法圖像 AI 功能變成付費服務。美國民主黨參議員已致函 Apple 及 Google，要求將 X 及 Grok 從應用程式商店下架。
印度資訊科技部要求 X 採取行動防止 Grok 生成淫穢內容，歐盟委員會則命令公司保留所有與 Grok 相關文件，為潛在調查鋪路。法國及澳洲政府亦對 Grok 表示關注。
資料來源：TechCrunch
