立法委員高嘉瑜談DeepFake 帶來的問題 變態網紅小玉

【AI換臉事件

    無法可管的數位性暴力！】

隨著AI技術的普及，近期在網上，傳出有帳號在推特上提供眾多「AI 換臉」色情試看片，其利用 AI Deepfake技術，將網紅的臉「移植」到色情片的 AV 女優身上。該帳號不僅大量販售換臉色情片，甚至不定期販售素人或名人未經同意外流的性私密影像。

這些在網路上未經同意而被換臉、製成色情片的受害者將近百人，規模驚人！除了知名網紅、藝人明星，也不乏女性政治人物，這樣的行為早已對女性的名譽造成不可抹滅的侵害。嘉瑜認為：「不管是不是真的，更何況會有很多人認為是真的，這是最可怕的地方。無論如何，#沒有人能接受未經自己同意的換臉影片在網路上流傳！」

⚠️我國目前法制規範不足！

關於未經本人同意而發布的「AI 換臉」影片，#其實就是一種變向散播假訊息的行為！但綜觀我國現行針對假訊息管制的法規中，卻僅針對災害、食品、傳染病等假訊息才有做特別規範，對於「AI換臉」造假的影片目前仍無法可管。

而就個人資料保護法的層面而言，因現行遭「AI換臉」的受害者多為公眾人物，照片等資料取得相對容易，臉部圖像若為合法公開或自行公開，自然也不在個資法保護範疇，說來說去，最後有可能成立的，也只剩下刑法上的妨害名譽罪了。

但嘉瑜認為，網路危害所產生的侵害具有持續性，甚至可能跟隨被害人一輩子。而妨害名譽罪的刑度卻屬相對輕微，因其立法之初，並未考量網路性暴力對被害人所造成的深遠影響，現如今繼續用舊條文來處理新的犯罪現象，顯然有罪責不相當的疑慮！

⚠️國際因應「AI換臉」的相關做法。

國際間就濫用AI技術換臉的管控，多著眼於「AI技術倫理」的確立以及將其列為「假訊息」予以管制，以歐盟為例，其所建立的「AI倫理指引」中，囊括了諸如：影像的使用是否經過當事人同意、使用目的是否符合倫理性、是否落實資料保護措施等，一旦有違反上開規範的情形，行政單位就會即時介入並配合網路平台開罰違規用戶。

而美國則不僅要求所有經過AI換臉技術處理的影像，皆須以浮水印標明影像係經竄改、以文字明示影像經過改動並簡述改動程度。#更是直接將濫用「AI換臉」技術散播不實影像的行為納入刑罰規範！若使用AI換臉技術而有「意圖以性行為與裸體等類似特徵，侮辱或騷擾特定人者」，可處高達5年有期徒刑、行政罰鍰15萬美金、亦應負民事上的侵權損害賠償責任。

綜上所述，嘉瑜未來也將參考國際作法，#致力於推動我國「AI換臉」管制之相關法令，關鍵在於：

1. 建立獨立的網路影像真實性查核單位。

2. 提高網路平台對於用戶發布內容之監督責任。

3. 將「AI換臉」之濫用視為獨立犯罪行為，並明文規範其刑事、民事與行政責任。 

4. 於技術層面上，開發相關人工智慧工具以因應之，例如，美國新創公司Deeptrace已開始著手研發深度偽造辨識技術，以辨識影片之真偽。

相關連結🔗

臉被偷走之後：無法可管的數位性暴力？台灣 Deepfake 事件獨家調查 - 鏡週刊

https://reurl.cc/8348DX

網紅淪罪犯1／把龍龍、高嘉瑜變謎片女主角　YouTuber小玉遭逮

https://www.ctwant.com/article/145654

小玉上銬畫面曝！狂賣換臉謎片賺千萬　黃捷高嘉瑜也成女主

https://www.ettoday.net/news/20211018/2103750.htm

遭百萬網紅小玉「偷臉」害港湖女神成A片女主角！　高嘉瑜回應了

https://tw.appledaily.com/local/20211018/UEBIR5J6GRDSVE4RYG7SPPEB7A/