【FinTech Insight】預見AI金融應用潛在風險：從演算法治理到監理沙盒

新一輪的科技革命下，人工智慧、區塊鏈、雲端服務、大數據分析、物聯網等日臻成熟，不僅帶動全球數位經濟大幅成長，也革命性地改變金融產業的運作模式，進而產生許多創新的平臺經濟商業模式。

平臺經濟崛起，金融監理導入智慧化

平臺經濟（Platform Economics），是一種以平台為中介、通過數據驅動和技術應用的網路經濟活動，以促成雙邊或多方供求之間的交易。而平臺經濟快速發展的正面成果，則以金融科技（Financial Technology）與具備資訊技術優勢的全球性大型科技公司（BigTech）參與金融市場服務為代表，同時推動了傳統金融機構的數位化轉型。

不過，由於金融業屬於高度受政府監管的行業，換句話說，所有商品或服務都要符合法令規範。因此，為確保金融市場的穩定，國際主要國家已就金融機構導入技術應用進行監管，目的在於提高金融機構採用新興科技的安全性，降低金融機構與第三方之間的網路與營運風險。目的是希望在追求金融服務數位化轉型與普惠金融之目標下，依然可以維持金融業健康運行的秩序。

世界經濟論壇：AI可能引爆全球金融危機

2022年11月，美國OpenAI公司推出人工智慧聊天機器人程式ChatGPT，推出以來，引起全世界的使用熱潮，但其造成的「人力取代」問題，也帶給金融機構和社會帶來新的風險。

根據世界經濟論壇（World Economic Forum，WEF）在《2023年未來工作報告》中預測，數位化和自動化將推動全球近四分之一的工作崗位發生變化，行政崗位如收銀員、售票員等預計將受到最大影響。在未來幾年，全球將新增數千萬個工作崗位，同時也將有更多工作崗位消失，徹底顛覆就業市場。

由此可見，技術驅動的產業數位化和自動化是大勢所趨。在低成本、高效率以及專注於創造客戶價值的經營模式下，企業更有動力導入AI結合大數據技術應用。然而，企業對AI技術的熟悉程度不足，卻有可能引發下一波金融危機。

2023年5月，「AI教父」電腦科學家欣頓（Geoffrey Hinton）發出警告，AI演算法驚人的學習能力可能會助長網路上虛假照片、影片等各類資訊的泛濫；美國證券交易委員會（SEC）主席蓋瑞．詹斯勒（Gary Gensler）則表示，下一次金融危機可能會源自企業對AI的使用。如果企業在無法確認資料可信的前提下，企圖通過AI技術提供精準的產品或服務，可能會失敗，甚至因資訊不對稱而引發新的金融危機。

訂定跨產業標準，降低藏在AI演算法中的歧視

這點出了一個重點：儘管金融與非金融機構相當依賴數位科技與平臺架構，但新技術應用背後隱藏的風險卻值得重視。例如WEF與國際貨幣基金組織（International Monetary Fund）就曾對AI技術的應用指出三項問題，包含：隱私、歧視及知識產權問題。因此，各國政策制定者應針對這些問題，訂定產業共通標準規則。

鑑於人工智慧的核心在於演算法，而演算法是由人類設計，其決策結果有可能產生偏見與歧視，在這樣的情況下，「演算法治理」是能夠將新技術應用帶來的風險，限制在一定的可控範圍內的必要思維，標準的訂定則是手段，共通目的是確保風險可控情況下，維持金融與經濟體系的正常運轉。

此外，可透過金融監理沙盒機制，建立健全公開透明的AI監管體系，監測AI等數位科技在金融業務、企業營運乃至經濟體系中的應用狀況，預測可能的技術漏洞，驗證新技術應用是否會對經濟發展和消費者權益產生損害，不啻為確保金融與非金融機構在數位技術和平臺系統發展中的重要預備措施。