X 於 1 月 9 日起限制 AI 助理 Grok 圖片生成與編輯功能。免費用戶向 Grok 官方帳號發出編輯要求時，會收到「圖片生成與編輯功能目前僅限付費訂閱用戶使用」訊息，要求用戶訂閱付費方案方可使用相關功能。這項改動源於全球用戶濫用 Grok 製作未經同意的性化深度偽造圖片引發爭議。
限制措施實際效果有限
雖然 X 宣稱限制 Grok 圖片編輯功能，但實際執行力度受質疑。免費用戶雖無法透過 @grok 帳號標註方式要求編輯圖片，但仍可透過點擊相片右下角「編輯圖片」按鈕使用相同 AI 編輯功能，包括製作露骨或正常的各類相片。多家媒體報導指出這項限制措施存在明顯漏洞，愛爾蘭 AI 事務國務部長 Niamh Smyth 形容此舉只是「裝飾門面」。
日本演藝圈成重災區
日本成為 Grok 濫用重災區之一，多名偶像與 Coser 相片被未經授權改成泳裝或性化圖片。AKB48 旗下偶像組合 STU48 於 1 月 5 日發布公告，要求用戶移除未經授權以成員為對象製作的 AI 生成圖片與影片。X 日本法人亦於 1 月 6 日發出警告，表示使用 Grok 製作非法內容將導致帳號被凍結，亦可能面臨法律訴訟。
多國政府施壓調查
Grok 深度偽造爭議引起全球監管機構關注。英國政府授權通訊監管機構 Ofcom 對 xAI 採取行動，Ofcom 已緊急聯繫該公司查詢 Grok 製作「兒童性化圖片」及女性「脫衣相片」指控。歐盟委員會要求 X 保存與 Grok 相關文件至 2026 年，並展開調查公司是否遵守歐盟法規。法國、馬來西亞及印度政府亦公開譴責 X 對此醜聞處理手法。
美國方面，參議員 Ron Wyden、Ben Ray Luján 及 Ed Markey 致函 Apple 和 Google，敦促兩家公司將 X 及 Grok 從應用程式商店下架，批評「對 X 惡劣行為視而不見將令你們內容審查機制淪為笑柄」。
資料來源：Techcrunch
