訓練前沿AI新模型 恐有風險疑慮

OpenAI將訓練前沿AI新模型，成立「安全委員會」監督人工智慧！「前沿AI」（frontier AI）擁有強大先進的技術和運算能力，卻也帶來前所未見的風險疑慮，使得OpenAI在研發過程中更加重視其安全性。然而，OpenAI近期爆出高階主管離職，其監督AI風險的團隊也遭解散，安全委員會的成立令外界有所擔憂。

《Trilateral Research》分析，「前沿AI」相較於現有尖端人工智慧模型，其在功能和應用方面都更為強大先進，而目前大多以通用人工智慧（AGI）的形式出現，該系統可以執行包括語言和影像處理等指令，並充當研發平台以建立AI應用程式。

以安全委員會監督AI

《路透社》報導，OpenAI成立由首席執行官阿特曼及董事會成員領導的「安全委員會」，將針對公司專案營運的重大安全決策提供建議。另外，OpenA也開始訓練前沿AI新模型，以取代支撐其ChatGPT聊天機器人的GPT-4系統。

隨著人工智慧發展迅速，ChatGPT聊天機器人具有生成式AI功能，可進行仿人類對話及根據文字提示創建圖像，但也引發安全疑慮。DA Davidson分析師盧里亞表示，安全委員會的成立可能會讓OpenAI從非營利組織轉變為商業實體，有助於其保有問責制，並簡化產品開發。

未知風險高

《衛報》指出，OpenAI的前沿AI新模型在效能和安全性上都領先業界，但卻沒有提及訓練細節及相關爭議，只聲稱其致力打造媲美人腦的通用人工智慧（AGI）。然而，OpenAI聯合創始人兼首席科學家蘇茨克維本月稍早驚傳離職，該公司也解散針對AI風險監督的技術團隊，外界對於新成立的安全委員會則有所擔憂。

另外，「前沿AI」擁有前所未見的技術和運算能力，以及能夠負責艱難的任務，其也帶來未知風險和不確定性，甚至將對人類生命和環境造成更嚴重的危害。