加州AI安全法案 是拯救未來的曙光 還是扼殺創新的枷鎖？

火報記者 陳銳/報導

在全球範圍內，人工智能的快速發展既帶來了前所未有的機遇，也帶來了無法忽視的風險。近期，加州推出了一項具爭議性的AI安全法案，引發廣泛討論。 美國加州近日通過了一項具爭議性的「SB 1047」前沿人工智慧法案，該法案迅速成為全球關注的焦點。

許多人擔心，這項法案若正式實施，將對該州的科技創新造成嚴重影響，甚至可能扼殺AI技術的未來發展。然而，與此同時，來自全球最具影響力的人工智能企業的一百多名現任與前任員工，聯合發表公開信，力挺這項法案，要求加州州長Gavin Newsom儘快簽署。

這封公開信的簽署者來自OpenAI、Google、Meta以及xAI等企業，這些科技巨頭正處於人工智能技術的最前沿。他們在信中表達了對未來AI技術潛在風險的擔憂，認為當前最強大的AI模型可能會引發全球災難性問題，例如擴大生物武器的製造與使用，或是引發針對關鍵基礎設施的網絡攻擊。

他們強調，對這類AI模型實施嚴格的安全監管不僅是必要的，也是現實可行的，因此呼籲儘快通過法案以防範重大風險。 該法案要求，所有AI企業在公佈AI系統之前，必須進行嚴格的安全測試，並承擔因模型錯誤運行而帶來的責任。此外，法案還設立了保護科技工作者的舉報人機制，以防內部風險被隱瞞。

儘管該法案已經獲得加州州議會和參議院的支持，但州長Gavin Newsom依然未表態是否簽署，而最終決定的期限僅剩不到數週。 然而，法案的支持者們卻認為，隨著人工智能技術的爆炸性發展，潛在的風險同樣在快速擴大。如果不對AI進行合理的規範，未來或將面臨無法預測的災難性後果。特別是xAI創辦人Elon Musk和OpenAI的競爭對手Anthropic，均已公開表態支持法案，並呼籲加強監管力度。

隨著全球科技力量的競爭加劇，創新與監管的平衡顯得尤為重要。加州，這個科技創新的核心地帶，如今面臨的決策，不僅將影響本州的AI發展，也可能決定全球未來科技的方向。當各方角力愈演愈烈，這場關乎科技與人類命運的博弈，最終將如何收場？

這篇文章 加州AI安全法案 是拯救未來的曙光 還是扼殺創新的枷鎖？ 最早出現於 火報。