美國官員坦言：科學持續演進讓 AI 安全保障愈加複雜

火報記者 陳銳/報導

人工智慧的快速發展正以驚人的速度改變著我們的世界，但其伴隨而來的安全問題卻成為一道棘手的難題。在技術和科學仍在持續進步的情況下，政策制定者如何應對這些未知的挑戰？

人工智慧正在迅猛進化，但如何確保其安全性卻成為全球共同面對的一大挑戰。美國人工智慧安全研究所（AI Safety Institute）所長伊麗莎白·凱利近日在紐約的路透社 NEXT 會議上發表了一番言論，她直言，當前的技術安全議題像是一場在移動沙地上的戰鬥。

「我們的政策制定者需要制定保障措施，但科學和技術正在不斷變化，這使得一切變得格外複雜，」凱利表示。「例如，開發人員本身都在努力解決如何防止人工智慧系統被濫用的問題，而這些解決方案並不能直接轉化為可操作的政策。」

凱利特別提到，人工智慧安全的其中一個棘手領域是網路安全。她指出，很多人可以輕易繞過人工智慧實驗室建立的所謂「安全護欄」，這種行為被稱為「越獄」。當技術專家尚未明確哪些安全措施有效時，政策建議自然變得模糊且難以推行。

除了網路安全，另一個關鍵議題是「合成內容」。當前，人工智慧生成的圖像或影片雖然能加入數位浮水印作為識別標誌，但篡改這些標誌的技術卻變得過於簡單，導致當局難以為業界制定可靠的標準。「這意味著我們的技術還未達到保障消費者信任的程度，」凱利補充道。

為了應對這些挑戰，拜登政府創立的美國人工智慧安全研究所正積極透過學術、產業和非政府組織的合作夥伴關係，共同探索解決方案。該研究所也著手進行技術評估，試圖為人工智慧安全提供更全面的資訊和指引。

凱利強調，人工智慧安全並不是一個黨派議題，而是一個需要跨越政治分歧的全球性挑戰。「不論誰上台，這都將是一個根本性的問題，我們需要用開放的態度去迎接未知的未來。」

這篇文章 美國官員坦言：科學持續演進讓 AI 安全保障愈加複雜 最早出現於 火報。