IBM 推出業界首款統一AI代理的治理和安全的軟件

IBM 推出業界首款統一AI代理的治理和安全的軟件
  • 全新的集成軟件可幫助企業確保以安全負責的方式應用和擴展AI代理及其他生成式AI技術。
  • 借助以上工具,企業可以對代理執行「紅隊測試」和審計,並檢測「影子代理」等安全威脅。

香港 2025年7月7日 /美通社/ -- 隨著越來越多的企業開始推動AI 代理的規模應用,IBM 於近日推出業內首款整合了AI 安全與 AI 治理、並提供企業風險態勢統一視圖的軟件。


IBM 推出業界首款統一AI代理的治理和安全的軟件

IBM 推出業界首款統一AI代理的治理和安全的軟件

該產品的新功能增強並集成了watsonx.governanceGuardium AI Security的能力,旨在幫助客戶以安全且負責任的方式,實現AI技術(包括AI代理)的規模應用。watsonx.governance是IBM 的端到端 AI 治理工具,Guardium AI Security軟件則用於保護AI 模型、數據和應用的安全。

IBM 數據和 AI業務總經理 RitikaGunnar 表示:「AI 代理有能力重塑企業的生產力,但其優勢也會帶來挑戰。如果這些自主的系統得不到妥善的治理或保護,可能會帶來嚴重的後果。」

本次發佈的新產品包括:

AI代理安全的集成和自動化

IBM 不斷增強 IBM Guardium AI Security 與 watsonx.governance 的集成,為企業提供業內首發的統一解決方案,可同時管理與 AI 用例相關的安全風險和治理風險。該集成支持用戶根據 12 種不同框架(包括《歐盟人工智能法案》和 ISO 42001)驗證其合規標準的流程。

IBM 還與AllTrue.ai合作為Guardium AI Security 打造新功能,包括能夠檢測雲環境、代碼庫和嵌入式系統中新的 AI 用例,以及為去中心化的 AI 生態提供全面的可視性與保護。一旦發現安全隱患,IBM Guardium AI Security 可自動觸發 watsonx.governance 中相應的治理流程。

IBM Guardium AI Security 的更新還包括自動化的「紅隊測試」功能,旨在幫助企業檢測和修復 AI 用例中的漏洞和錯誤配置。為了消除代碼注入、敏感數據暴露和數據洩露等風險,該功能可幫助用戶量身定制安全策略,同時對輸入和輸出提示進行分析。上述功能已在 IBM Guardium AI Security正式上線,它們與 watsonx.governance 的集成將在今年晚些時候陸續推出。

IBM 安全和Runtime產品副總裁 Suja Viswesan表示:「AI 的未來取決於我們如何確保其安全。安全能力的構建應該從AI應用的第一步就開始,這對於企業保護數據安全、滿足合規要求以及建立持久信任至關重要。」

IDC 安全與信任團隊研究總監 Jennifer Glenn表示:「企業安全團隊面臨的最大挑戰之一,就是將安全事件與違規行為轉變成可量化的業務風險,AI 和AI代理的快速引用進一步加劇了這一挑戰。將 AI 治理與 AI 安全統一起來,為企業提供必要的背景信息,這將幫助他們輕鬆發現風險並確定優先級,更直觀地看到忽略風險可能帶來的嚴重後果。」

增強的 AI代理評估和全生命週期治理

IBM watsonx.governance可監控和管理 AI 代理從開發到部署的整個生命週期,並直接在AI 代理中構建評估節點,監控回答相關性、上下文相關性和忠誠度等指標,並幫助用戶找出表現不佳的根因。AI 代理上線的風險評估、AI 代理審計跟蹤和AI 代理工具目錄等新功能,於 6 月 27 日推出。

即刻可用的合規能力

IBM watsonx.governance Compliance Accelerators 預置了全球各地的部分法規、標準和框架,幫助用戶瞭解相關義務,從而調整自己的 AI 用例。這些內容涵蓋了《歐盟人工智能法案》、美聯儲 SR 11-7 文件以及紐約市第 144 號地方法律等重要法規,以及 ISO/IEC 42001 等全球標準和 NIST AI RMF 等框架。watsonx.governance Compliance Accelerators 已作為watsonx.governance的附加組件正式上線。

為了向 AWS(亞馬遜雲科技)客戶提供更多價值和便利,watsonx.governance 已支持在印度的 AWS 數據中心使用,包含增強的模型監控功能。

此次推出的新功能和集成工具為企業提供了制勝AI代理時代所需的全面治理和安全能力。這些創新成果還與 IBM 更廣泛的watsonx AI 解決方案聯動,幫助企業以負責任和安全的方式加速生成式 AI的規模應用。

關於 IBM 未來方向和意向的聲明可能會隨時更改或撤銷,恕不另行通知,僅代表目標和目的。

關於 IBM

IBM 是全球領先的混合雲、人工智能及企業服務提供商,幫助超過 175 個國家和地區的客戶,從其擁有的數據中獲取商業洞察,簡化業務流程,降低成本,並獲得行業競爭優勢。金融服務、電信和醫療健康等關鍵基礎設施領域的數千家政府和企業實體依靠 IBM 混合雲平台和紅帽 OpenShift 快速、高效、安全地實現數字化轉型。IBM 在人工智能、量子計算、行業雲解決方案和企業服務方面的突破性創新為我們的客戶提供了開放和靈活的選擇。對企業誠信、透明治理、社會責任、包容文化和服務精神的長期承諾是 IBM 業務發展的基石。瞭解更多信息,請訪問: www.ibm.com/

傳媒查詢:

郭韜gguotao@cn.ibm.com

Google新聞-PChome Online新聞


最新國際新聞
人氣國際新聞
行動版 電腦版