AI「意向經濟」暗藏危險 恐成操控工具

英國劍橋大學研究人員在今天發表的研究中警告，對話式人工智慧（AI）工具可能很快就會在名為「意向經濟」的新商業領域「暗暗影響」使用者的決策。

法新社報導，這項研究認為，「數位意向訊號」潛在「利潤豐厚但令人不安」的市場正在興起，可能會在不久的將來，影響從購買電影票到投票給政治候選人的一切。

研究還說，我們對聊天機器人、數位導師和其他所謂「擬人化」人工智慧代理愈來愈熟悉，正在協助實現這一系列新的「說服性技術」。

兩名研究共同執筆人指出，人工智慧將把我們的線上習慣知識，以及對用戶了解、預測其願望能力的不斷成長結合起來，建立「新的信任和理解水準」。

來自劍橋大學李佛修姆未來智慧中心（Leverhulme Centre for the Future of Intelligence, CFI）的兩名學者在「哈佛資料科學評論」（Harvard Data Science Review）發表研究指出，如果不加以約束，可能導致「工業規模的社會操縱」。

他們在研究中，描述這個被稱為「意向經濟」的新興領域將如何分析用戶的關注點以及溝通方式，並將它們與其行為模式和選擇連結起來。