小心 不只名人需要防範AI深偽技術

草根影響力新視野 喬依絲編譯

根據美國《Variety》雜誌的報導，一款A.I.人工智慧應用程式未經許可，擅自在廣告中使用了美國知名女星史嘉蕾·喬韓森的名字和人工智慧生成的聲音版本。針對這個高科技的造假行為，史嘉蕾·喬韓森正採取法律行動。不過，由於「AI深偽技術」已逐漸被廣泛濫用，要提防此類問題的恐怕不只名人而已。

《Variety》雜誌報導指出，這則 22 秒的廣告於 10 月 28 日由人工智慧圖像生成應用程式 Lisa AI : 90s Yearbook & Avatar發佈到 X平台上 (前身是Twitter社群媒體)。 這則廣告以史嘉蕾·喬韓森的圖像和A.I.生成聲音為最大特色，但是廣告下方卻顯示A.I.產生的內容「與史嘉蕾本人無關」。史嘉蕾·喬韓森的代表向 《Variety》雜誌證實她不是這個APP的發言人，因此她的律師正在採取法律行動。

「深偽技術」是一種透過人工智慧 (A.I.) 中的「深度學習」 (deep learning) 技術所創造出的「假」訊息，常被用做為移花接木的「變臉」及「變聲」效果。這裡舉個簡單的例子：A.I.模型可以輸入某個人說話的音訊片段，並學習如何識別他們的語音模式、語調和聲音等獨特方面，接著A.I.模型可以創造出語音的合成版本。受害者將不再侷限於知名人物，而是所有的社會大眾都有可能被利用。

圖片取自:(示意圖 123RF )

在科技和媒體行業擁有超過 25 年經驗的紐約大學兼職教授 Jamyn Edis表示，更令人擔憂的是，隨著「深偽技術」的快速發展，辨別真假變得越來越困難。不過，基本上還是可以採取一些辨別的方法。

首先，問問自己所看到的圖像是否與現實相符，尤其是如果看到名人推銷一些不起眼商品的廣告，最好檢查這些名人們的其他社交媒體帳戶是否有被盜用。

Meta、Google和Microsoft等大型科技公司也在開發工具來幫助人們發現深偽技術下的贋品。

美國總統拜登於最近宣布了第一個關於人工智慧的行政命令，內容是要求添加浮水印以清楚標記A.I.智慧所產生的內容和其他安全措施。然而，根據歷史經驗，最令人擔憂的是法規或監管措施總是趕不上科技技術的發展。

Reference:

An AI app cloned Scarlett Johansson’s voice for an ad—but deepfakes aren’t just a problem for celebrities

[不許轉載、公開播送或公開傳輸]