OpenAI研發「自動寫作模型」 竟能自行生成假新聞

匯流新聞網記者紀沈廷/綜合報導

人工智慧發展到現在,已經能夠做到許多以前我們無法想像的事情,就連自動生成可信度十足的假新聞也做得到了。近日,OpenAI終於對外公布「自動寫作模型」GPT-2,由它所寫出的來的文字幾可亂真,讓人難以分辨。

事實上,OpenAI今年2月就想要釋出完整的GPT-2,但由於這款模型的功能太過強大,可以產生非常真實的假新聞,所以最後只釋出了小部分的模型與範例,但經過這幾個月的觀察,OpenAI認為當初擔心的事情並沒有發生,所以決定公開最大具有15億個參數GPT-2模型、程式碼與模型權重。

這款GPT-2模型藉由800萬頁的網頁做為訓練資料,藉此預測文字的下一個字來當作訓練目標,由於龐大且多樣的訓練資料集,所以該模型無須對特定任務進行訓練,就可以應用在多個領域,而目前GPT-2能夠進行機器翻譯、問答、閱讀理解與總結段落等語言任務。OpenAI希望GPT-2可以被用來開發成為寫作人工智慧助理,或是語言理解系統等應用。

不過,OpenAI公開了這項技術卻也備受爭議,因為只要給GPT-2一段文字,模型就會產生出接續段落的文字,甚至產生假以亂真的假新聞,因此也被冠上「文字版的Deepfake」稱號,而且一般人恐無法辨識真偽。

OpenAI對此表示,因為考量技術可能被有心人濫用,產生誤導性文字、冒用他人身分,或是在社群媒體散發假新聞等問題,所以OpenAI不會釋出已經訓練完成的完整模型,只是發布比較小的模型、範例跟技術白皮書,以供外部研究人員使用。

OpenAI提到,截至目前為止,他們還沒有發現GPT-2模型有遭到濫用的證據,即使網路上有些將模型用在網路釣魚或垃圾郵件的討論,但仍沒有實際發現撰寫的程式碼、文件或濫用的實例,而研究人員認為,當文字生成器的輸出變得更成熟時,遭到濫用的可能性就會更提升不少。

參考來源:The Verge、Futurism

照片來源:pixabay

更多匯流新聞網報導:

為打擊香港!澳洲智庫研究發現 中國買Twitter情色帳號發布假消息

Google News創辦人:應借科技之力 強化新聞核心價值

【匯流筆陣】

CNEWS歡迎各界投書,來稿請寄至cnewscom2016@gmail.com,並請附上真實姓名、聯絡方式與職業身份簡介。

CNEWS匯流新聞網:https://cnews.com.tw

【文章轉載請註明出處】
人工智慧:人工智慧(英語:Artificial Intelligence, AI)亦稱機器智慧,是指由人工製造出來的系統所表現出來的智慧。通常人工智慧是指通過普通電腦實現的智慧。 ...更多

行動版 電腦版