西班牙政府近日通過一項新法案，針對企業未適當標示人工智能（AI）生成內容的情況，將施以高額罰款，冀能減少「深度偽造」技術的濫用。該法案參考歐盟《人工智能法案》制定，對於被認定為高風險的 AI 系統，要求企業遵守更嚴格的透明度規範。西班牙數碼轉型部長 Oscar Lopez 指出，人工智能雖然可改善生活，卻亦可能成為傳播虛假資訊及破壞民主的工具，因此政府必須加強監管，以防止技術遭惡意利用。
西班牙成為歐盟內首批落實 AI 監管規則的國家之一，相較美國主要依賴自願性遵守及州政府法規，歐盟的監管措施被視為更具約束力。Lopez 強調，AI 生成的「深度偽造」內容，例如被操控的影片、相片及音訊，可能影響公眾輿論，甚至對個人造成嚴重傷害，因此法案的推動勢在必行。
根據該法案，未依規定標示 AI 生成內容的企業將被視為嚴重違規，罰款可高達 3,500 萬歐元（約港幣 2.97 億元），或企業全球年營業額的 7%，以較高者為準。此外，法案亦明令禁止 AI 利用潛意識技術操控弱勢群體，例如聊天機械人煽動賭博成癮者繼續投注，或玩具誘導兒童進行危險挑戰等行為。
另外，法案亦要求防範 AI 利用生物識別技術對個人進行分類，並基於其行為或個人特徵評估福利資格，或判斷其犯罪風險。然而，基於國家安全考量，政府仍保留在公共場所使用即時生物識別監控的權力。西班牙政府將成立人工智能監管機構 AESIA，負責執行新規則。然而，若涉及數據私隱、犯罪調查、選舉活動、信用評級、保險及資本市場等領域，則將由相應的監管機構負責監察。
來源: aibase
