生成式 AI 在製作擬真圖片時效果越來越優秀，不過除了用來發揮創意或者提升內容製作效率，也會被濫用作意圖不良的用途。最近美國一名男子就因傳播 AI 生成兒童色情圖片被捕。
據報導指，美國威斯康辛州一名軟件工程師 Steven Anderegg 因為使用 Stable Diffusion 模型，透過「使用露骨提示」生成大量色情圖片，此外還使用了可以生成生殖器官的插件來規避 Stable Diffusion 本身的限制。在執法部門進行搜查期間發現疑犯電腦內有超過 13,000 張 AI 生成色情圖片，其中有不少都是未成年人的裸照。
然後他張這些圖片透過 Instagram 的即時訊息功能傳播，其中一次當對方表示自己只有 15 歲，疑犯就向其發送色情圖片，以及描述自己的製作過程，同時表達想與未成年男童性交。他被逮捕之後，面臨最高 70 年徒刑，而執法機構則認為應該判處無期徒刑。疑犯在 2020 年，也曾經在家試圖下載多個已知兒童色情檔案已被執法部門搜查，不過當時未被起訴。
來源：Verge
