AI 生成技術雖然尤其實用價值，但也有被濫用的風險。最近 Meta 就宣佈起訴香港公司 Joy Timeline HK Limited，指控其在 Facebook、Instagram、Messenger 和 Threads 平台推廣生成式 AI「脫衣」應用程式 CrushAI，允許用戶在未經同意下生成他人裸體圖像。
之前有媒體調查發現，Meta 平台上出現數百個推廣「脫衣」應用程式的廣告，主要針對美國、英國和歐盟 18 至 65 歲男性用戶。這些應用程式主要被宣傳用於針對女性和女性名人使用，也進一步引發「性勒索」問題，並經常落入兒童手中令濫用問題惡化。
Meta 在法庭文件中指控 Joy Timeline HK Limited「多次嘗試規避 Meta 廣告審查程序」，繼續在平台投放 CrushAI 應用程式廣告。Meta 表示已在香港提起訴訟，阻止他們在 Meta 平台上宣傳 CrushAI 應用程式。
CrushAI（亦稱 Crushmate）在 Meta 平台過投放超過 5000 個廣告，其 90% 流量來自 Meta 平台，顯示這些廣告有效引導用戶使用非同意媒體生成工具。儘管報導後廣告被移除，Apple 和 Google 從應用程式商店下架相關應用程式，但新應用程式和廣告持續出現。
Meta 表示這是「高度對抗性行為，惡意行為者不斷演變策略以避免執法」，因此他們持續投資最佳工具和技術識別和移除違規內容。Meta 指出：「例如，有些人在廣告中使用無害圖像以避免被我們的裸體檢測技術發現，也有人快速建立新域名替代被封鎖的網站。」
為應對這些挑戰，Meta 開發專門識別此類廣告的新技術，「即使廣告本身不包含裸體內容」，並使用匹配技術更快找到和移除模仿廣告。Meta 與外部專家和內部專業團隊合作，擴大系統訓練檢測的安全相關詞彙、短語和表情符號清單。
來源：Meta
