AI Deepfake造假為AV影片女主角 百人受害 台灣國安局認蔡英文遭變臉「是國安問題」 民代提案修法
台灣警方上周偵破首宗利用AI人工智慧深度造假（deep learning fake）技術犯罪案，多名知名女性政治人物與YouTuber頭像遭移花接木，置換成性愛影片女主角；受害人之一的台北市議員高嘉瑜與高雄市議員黃捷今（25日）召開記者會，批評台灣現行法規無法保護遭網路性暴力攻擊的受害者；高嘉瑜表示，將提出《刑法》修正案增訂罪章，並提高刑度，以預防類似案件再度發生。
台灣總統蔡英文在案件偵破後，也立即在臉書發帖宣示將修訂相關法令，台灣國安局隨後也證實，蔡英文的頭像也遭深度造假置換，並稱「這是國安問題」。
台灣警政署刑事警察局本月18日偵破首宗AI Deepfake深度造假案，疑犯是擁有140萬YouTube訂戶的KOL小玉，他涉嫌利用Deepfake技術，自去年7月起，將性愛影片女主角頭像，移花接木換成台灣知名人物如高嘉瑜、黃捷，以及多名知名網紅如「雞排妹」鄭家純、白癡公主、理科太太等人，受害人高達百人，不法所得逾台幣1100萬元（約308萬元港幣）。
在警方宣布偵破這起深度造假案後，蔡英文特別透過社群平台發帖稱，有人涉嫌利用科技軟體，製作換臉不雅影片在網路上牟利，「這些受害者可能是你我的親友，我們不能坐視這樣的事情發生」。
蔡英文說，台灣一直面臨假影片、假訊息的威脅，以及利用科技造假、威脅民主制度的挑戰，「這些假訊息和影片有一天都可能傷害到你我」；因此，蔡英文表示，針對換臉色情犯罪等多種類型的網路性別暴力，「我們會重新盤點法規，研擬推動修法工作。」
蔡英文為何對此案如此關注？其實，在警方宣布破案後，網路即已出現一則短影片，只見蔡英文的頭像化身為一名蓄著辮子頭長髮、身著背心、露出雙臂的女子，真實度相當驚人。國安局長陳明通在立法院備詢時，也證實蔡英文遭換臉，「影片一露出來，國安局即有掌握」。陳明通並稱，這是一種國安危機，已召集一流學者及專家研商。
台灣首度見識到AI Deepfake深度偽造影片，是在去年1月3日總統大選前，一部名為「新店周星馳＋景美吳孟達」的影片上傳YouTube，裡面還出現也遭深度變造的「韓國瑜」，神情與語調都近乎真人；結果影片遭專精科技領域的「寶博士」葛如鈞踢爆為「深偽影片」，並稱「不排除有影響選舉的意圖」，請民眾不要相信。
事實上，Deepfake技術自2017年起開始出現，2018年網路上一支美國前總統歐巴馬遭「變臉」，「公開」辱罵特朗普的影片，連講話音調都唯妙唯肖，引發高度關注，在Buzzfeed的YouTube頻道超過874萬人點閱；事後證明這是一支透過Deepfake製作的假影片，也讓人見識到科技的神奇之處。
除了歐巴馬遭Deepfake利用公開辱罵特朗普，英國伊莉莎白女王也被英國BBC Channel 4以Deepfake技術，發表2020聖誕夜談話，還宣稱「可以暢所欲言，不用說些別人硬要我說的話」，也再度引發爭議與批評。
事實上，小玉在去年4月，就曾上傳一支看似「韓X瑜罵小玉」的影片，影片表情與聲音語調貌似韓國瑜；當時他在影片宣稱，他只花150元人民幣買下AI換臉軟件Deepfake，只花30分鐘和一個配音員，就可以讓韓國瑜講出任何他想要韓講的話。當時他自稱拍這部片的目的，是為了宣導特定媒體操作假新聞所帶來的危害。沒想到，幾個月後，就開始利用此軟體牟利賺錢。
根據媒體引述警方說法指出，小玉見到警方登門拘捕，竟對警員說，起初只是惡搞好玩，但後來藉此營利後，影像後製工作越來越繁重，每天一睡醒就盯著電腦跑程式，還得不斷在網路上蒐集影像素材，龐大後製工作壓得他喘不過氣，看到警方來家裡拘捕他，除了早知有這麼一天，還說「真的鬆了一口氣」。
受害人之一的高雄市議員黃捷曾在接受媒體訪問時說，得知自己受害時，找不到適當法規，真的不知怎麼提告，而且她也擔心事情曝光後，情況會變得更糟，反而讓更多人看到這個不雅畫面。
高嘉瑜與黃捷今天召開記者會，希望盡速推動修法。黃捷說，她和高嘉瑜都是這次事件的受害者，但作為政治人物，也要肩負監督和修補制度的責任，因此選擇站到第一線，希望給近百位的受害者勇氣。她說，目前已有30幾位受害者願意挺身而出提告，「越多人站出來，惡徒越無所遁形」。
對於此類影片在網路快速傳播，黃捷擔心這種假的色情影片，甚至已經是一種「虛擬強暴」，可能會影響台灣選舉，利用科技犯罪影響民主。
高嘉瑜也認為，Deepfake換臉不只可能侵害個人法益，若被應用在假訊息、假新聞的使用上，甚至足以進一步威脅社會秩序及國家安全，避免新興科技犯罪造成社會與國家安全破口。
高嘉瑜說，在各國法制上，美國已有維吉尼亞州及紐約州提出相關法案，韓國也提出《性暴力犯罪處罰修正案》來加以遏止，台灣也應立即補足這個安全漏洞。
高嘉瑜提出修訂刑法提案，增訂「性隱私影像之定義」，並在「侵害性隱私罪章」明定未經同意而製造、偽造及公開他人隱私影像等行為，處以1年以上、7年以下的有期徒刑，希望加重現行最多只能判處2年以下有期徒刑的刑責，藉此有效嚇阻此一犯罪行為。
觀看原文： 按此連結