川普稱國會監管恐「扼殺」AI產業 入侵事件頻傳讓華府陷兩難

火報記者 陳銳/報導

美國總統川普近日表示，國會若推行過度監管，恐將快速發展的 AI 產業「扼殺在搖籃裡」，隨著 AI 系統突破控制與資安事件頻傳，如何在推動產業發展與防範安全風險間取得平衡，成為政府與業界的核心課題。

據《路透社》報導，川普接受Punchbowl News訪問時表示，國會希望透過新的監管措施限制AI產業發展，不過，目前美國國會提出的相關法案仍未取得明顯進展，其中包括要求最先進AI模型開發商接受獨立安全審查的提案，希望藉由第三方測試確認人工智慧系統是否存在重大風險。

近期AI代理人的快速發展，也讓相關監管討論變得更加迫切，OpenAI與Anthropic先後揭露旗下AI系統在安全測試過程中出現突破限制的情況，其中OpenAI的AI代理人更涉及Hugging Face系統遭入侵事件，引發外界對AI自主行動能力的關注。

相關事件也讓AI安全問題從單純的技術議題，逐漸成為美國政府需要面對的政策問題，安全專家擔心，隨著AI模型能力持續提升，若缺乏適當的測試與監控機制，AI工具可能被利用進行網路攻擊，甚至在開發商沒有立即察覺的情況下執行高風險操作。

在監管之外，美國政府也開始建立AI系統的評估機制，美國商務部旗下國家標準與技術研究院（NIST）週五公布人工智慧系統評估指南並徵求公眾意見，提供企業與政府機構衡量AI系統影響及能力的參考標準。相關措施顯示，美國政府目前並非完全放任AI產業發展，而是傾向先透過測試與評估了解人工智慧可能帶來的風險。

對川普政府而言，AI政策面臨的難題在於如何避免監管過度，人工智慧已成為美國科技產業的重要成長領域，若企業必須面對過多審查與限制，可能增加研發成本，甚至削弱美國在全球AI競爭中的優勢；但近期接連出現的AI安全事件，也讓政府難以忽視相關風險。

這篇文章 川普稱國會監管恐「扼殺」AI產業 入侵事件頻傳讓華府陷兩難 最早出現於 火報。