男子非法製作AI換臉影片　判罰6萬人民幣

浙江省杭州市蕭山區檢察院日前提起一宗公益訴訟案，被告自2021年起在未取得同意下，用人工智能（AI）換臉軟件非法處理他人的人臉訊息，將其與部分影片中的人臉訊息替換合成，生成虛假的換臉影片。杭州互聯網法院周三（23日）判令被告刪除非法獲取的個人訊息，公開賠禮道歉、消除影響並賠償損失6萬元人民幣（約6.5萬港元），賠償款項將專門用於個人訊息保護、人臉深度合成技術不當應用的治理等公益事項。

杭州互聯網法院審理認為，虞某使用換臉軟件深度合成偽造影片和圖片，未經訊息主體同意，大量搜集、提取、替換、合成、存儲他人人臉敏感訊息等，並將深度合成的偽造影片、圖片發布於2,000多人的多個社交軟件群組中。虞某又為他人提供不特定主體的人臉替換定制服務，並為牟利而對外銷售換臉軟件、傳授技術教程，非法獲益數萬元，上述行為構成對個人訊息權益的侵害。

虞某另將合成偽造的影片、圖片在網絡群組發布，傳播可能性高、影響範圍大，使潛在的社會不特定群體可能成為受侵害對象，更可能導致公眾形成「眼見不為實」的心理預期，破壞互聯網數碼世界中社會共同體的信任，損害了相關領域的社會公共利益。