DeepFake新型態犯罪猖獗 美國早編500萬美元預算打擊、社群與色情平台接連遏阻

匯流新聞網記者王佐銘/綜合報導

台灣知名網紅小玉(朱玉宸)、笑笑涉嫌利用AI繪圖演算技術「deepfake」後製包含知名台灣女網紅、明星名人換臉A片遭逮震驚全台,成為台灣治安史上首例利用繪圖AI演算深偽新犯罪行為,使得不少國內政治人物,甚至總統蔡英文都出面表示期盼能立法控管。但其實類似事件在國際間,早成為常態,不少國家,甚至是社群平台、色情網站早就明確下令禁止,也推出不少解決方案。

Deepfake顧名思義是「Deep learning」和「Fake」的組合,也就是透過人工智慧和合成技術的應用,創造出假新聞或惡搞、惡意影片。這幾年來Deepfake影片不只會被用在惡搞影片,甚至成為有心人的工具,用以操控輿論、影響選舉,甚至成為迫害、騷擾的工具。

早在小玉事件爆發前,去年數位女力聯盟臉書貼文就指出,2020年8月底開始全球前十大的色情網站之一Pornhub上有多個台灣女直播主、網紅和Youtuber的色情影片流傳,這些影片是台灣駭客團隊將這些女性公眾人物頭像合成道色情片內容中產生的,但卻對多位女性公眾人物的生活產生影響。

同樣事情亦發生在美國,為了避免情況更加嚴重,去年美國國會就提撥500萬美元的預算懸賞研發自動偵測Deepfake技術的軟體。針對網路上流竄的Deepfake影片,臉書、推特、微軟等也祭出了相對應的打擊措施。

據悉,臉書方面,執行長馬克.祖克伯雖起初對打擊假消息態度保守,表示即使是假訊息也還是需要維護發言權益,不過2020年初就宣佈將會祭出強硬的相關措施協助杜絕假消息。針對Deepfake影音祭出兩項移除準則,第一種是此類Deepfake影片不是為了強化影音,意在誤導;第二種是藉由AI技術替換或增加內容意圖混淆事實,若被判定為這兩類Deepfake影片,會遭移除處理。

除了社群平台,多個色情網站其實也深受Deepfake技術困擾。Pornhub先前就指出,捷克一家色情片製作公司利用Deepfake,將女性的臉蛋移花接木到許多裸體影片上,再利用開源的 StyleGAN2 模型,並用色情數據集加載到其中進行訓練,讓產生出來的內容非常逼真。使人看不出破綻。雖然整個影片看起來是成人作品並放在色情平台並無錯誤,但這樣的使用方式還是屬於非法盜用,最終多個色情網站的平台已經將其帳號封鎖,並表示這些內容屬於灰色地帶,將會用自己的AI學習團隊進行審查,以預防未來持續有相同的事情發生。

面對AI技術可能帶來的侵害,據了解,其實各大科技廠商早就開始積極網羅人才,希望透過各方專業人士的協助,來打擊利用換臉技術來做不法行為的不肖業者。畢竟如果繼續讓這樣的技術被有心人士濫用,未來很有可能會影響網路消息、新聞的可信度,甚至間接影響到成千上萬民眾的人生。

資策會MIC 先前談論此議題時,就曾表示,隨著AI技術愈來愈接近使用者的行動裝置,未來勢必將出現更多難以辨認出處與其真實性的假影音、假新聞,除了考驗大眾的媒體識讀能力之外,同時也考驗國家與企業,是否具備假影音辨識技術與能力,迎戰充滿資安危機的時代。

對於此事件,總統蔡英文也透過臉書表達她對不法分子運用這項科技的擔心,她認為科技的運用是為了創造人類更好的生活,而非用來傷害他人。這些受害者,可能是你我關心的對象,也可能是你我的親友,政府不能坐視這樣的事情發生。同時也進一步指出,台灣也一直面臨假影片、假訊息的威脅,這些都是利用科技造假、威脅民主制度的挑戰。尤其疫情期間,大家看到大量假訊息的流傳,試圖擾亂人心、影響防疫工作,這些假訊息和影片有一天都可能傷害到你我。

針對換臉色情犯罪等多種類型的網路性別暴力,蔡英文也承諾政府會重新盤點法規,研擬推動修法工作。同時,她呼籲網路平台業者,應該多關心這類新型科技犯罪行為,大家都有責任阻止錯假影像傷害無辜的人。

更多匯流新聞網報導:

沒有三高、不抽菸一樣「腦中風」! 輕忽8大危險因子危機倍增

國際學生髖關節意外「粉碎」 台醫巧手讓她首次回診即恢復行走能力

最新科技新聞
人氣科技新聞
行動版 電腦版