AI機器人恐助長妄想 應監測保護心理病患

AI會增加人類妄想！英國人工智慧研究指出，AI聊天機器人可能會強化使用者的妄想傾向，透過展現順從討好的神秘語言，進一步肯定使用者的誇大幻想和偏執念頭。專家呼籲，AI應進行臨床心理測試並建立防護機制，以預防在非刻意的情況下對心理健康造成損害。

人工智慧妄想症

《衛報》報導，倫敦國王學院精神科醫師莫林分析20篇關於「人工智慧精神病」的文章，其內容描述聊天機器人如何誘發或加劇人們擁有妄想症。結果顯示，這類技術具有順從性與擬人化的特性，它們容易透過神祕語言來強化使用者的自大狂想。

研究顯示，AI傾向於提供順從性回應，這可能進一步強化使用者的妄想症狀，例如誇大、浪漫或偏執的虛假信念。因此，人工智慧的互動性會比傳統媒體更快速惡化心理疾病，甚至讓患者誤以為自己正與神祕力量溝通。

莫林表示，人們自工業革命之前就開始對科技抱有幻想，過去可能需要翻閱網路影片或圖書館資料來強化妄想，但AI聊天機器人能以更快速、更集中的方式強化妄想程度。

AI系統防護監測

《NewsBytes》指出，這項警告提醒社會大眾，在心理健康護理的脈絡下，應審慎評估大型語言模型的應用，以避免對心理脆弱者造成不必要的傷害。另外，面對AI系統驗證錯誤認知的風險，目前迫切需要建立相關的安全防護機制與臨床監測。

如今，雖然科技公司正嘗試建立安全機制，但學者建議應將AI工具納入臨床監管，防止其在缺乏專業判斷的情況下誤導心理弱勢者。同時，應開發能識別並妥善處理精神症狀的演算法，而非放任系統盲目給予肯定。