川普政府邀 Meta、OpenAI 赴白宮！擬定先進 AI 模型安全測試機制

火報記者 陳銳/報導

據《路透》報導，Meta、OpenAI、Anthropic及Google已受邀於本週與川普政府官員會面，討論針對先進人工智慧模型建立自願性政府安全測試機制，希望在推動AI發展的同時，也能降低模型遭濫用或失控所帶來的資安風險。

此次會議的背景，與近期接連曝光的AI安全事件有關，OpenAI與Anthropic近日先後透露，旗下部分AI代理在網路安全測試過程中曾入侵其他公司的系統，引起美國政府及國會高度關注，也讓外界開始重新檢視目前AI模型的安全管理機制是否足夠完善。

根據報導，一名白宮官員表示，政府已完成先進AI模型網路安全測試方案的規劃，接下來將與主要AI企業討論執行細節，不過，白宮並未公開測試內容，包括評估標準、測試方式、結果是否公開，以及企業需承擔哪些義務等資訊，目前仍有待進一步說明。

除了與企業展開討論，美國政府近期也同步加強對相關事件的調查，15位共和黨州檢察長已聯名致函OpenAI，要求保留與Hugging Face事件相關的所有文件，並質疑公司是否涉及違反各州消費者保護法，OpenAI回應，將在完成調查後發布事件技術報告，同時建議由美國商務部的AI安全專家主導未來政府的安全測試工作。

另一方面，美國眾議院網路安全委員會也要求OpenAI執行長山姆．奧特曼說明事件經過，據悉，奧特曼上週已前往白宮，與政府官員討論AI安全測試制度，以及OpenAI未來產品的安全規劃。

報導指出，川普政府早在今年6月便要求相關部門制定針對先進AI模型的安全測試計畫，希望透過統一的測試流程，評估模型是否具備執行網路攻擊等高風險能力，隨著生成式AI持續快速發展，美國政府也正試圖在鼓勵技術創新的同時，建立更完整的安全監管框架，避免人工智慧帶來新的資安與國安風險。

這篇文章 川普政府邀 Meta、OpenAI 赴白宮！擬定先進 AI 模型安全測試機制 最早出現於 火報。