金融AI Agent 1／國泰玉山二家金控登NVIDIA GTC TAIPEI 揭黃仁勳心機
[周刊王CTWANT] 輝達執行長黃仁勳所到之處，總掀起新旋風，今年在Computex台北國際電腦展演講時的「背板」，則成了市場及業界的新亮點，首度出現金融業，包括國泰金（2882）、中信金（2891）及玉山金（2884）旗下的玉山銀行，究竟這三家為何榜上有名？CTWANT記者調查，原來與黃仁勳今年初高喊的「AI Agent」（AI代理）有關。
CTWANT記者進一步採訪，輝達今年新業務是將AI Agent向各產業推廣應用，背板上的國泰金、玉山金控受輝達邀請，出席5月21日於北市南港漢來大飯店登場的「NVIDIA GTC TAIPEI」論壇，分享雙方策略合作初步成果，即是呈現金融業AI Agent實際應用的可能樣貌。
國泰金由副總暨國泰世華銀行數據長梁明喬帶隊，偕同數據暨人工智慧科技部經理謝昌宏，花了40分鐘演講說明國泰如何透過本土金融知識訓練，強化大型語言模型金融知識專業，在進階授信人員證照考試中，以90分高分通過取得證照，驗證AI Agent在金融領域的發展潛力。
玉山金則由科技長張智星領軍，在輝達論壇上分享兩點，一是以「驅動理財」為主題，將銀行理專提供VIP客戶相關研究報告資料等服務，透過AI Agent讓一般民眾也可即時取得全球總體經濟等專業分析的技術，另一是防詐偵測模型訓練流程上取得突破，比以往加快880倍。
對於外界好奇為何今年黃仁勳演講背板上會出現國泰金，梁明喬告訴記者，其實「國泰金多年前即開始使用NVIDIA GPU，雙方團隊很早就認識。」
「去年12月，國泰目標發展AI Agent，而雙方有共識開展，進一步策略合作，輝達顧問密集與國泰技術團隊討論，使用其技術框架等，花了二個多月時間，完成這次共同分享初步成果。」梁明喬表示。
梁明喬說，「要訓練『金融AI Agent』專業度，我們在模型上利用NVIDIA NeMo框架進行預訓練Pre-training、微調Fine-tuning等技術手法，藉NVIDIA的加速運算完成70至80億參數量的大型語言模型訓練，輸入大量台灣金融授信知識、法規文獻及實務案例等作為訓練語料。」
同時，還透過NVIDIA NeMo Curator框架，擴增訓練資料達4至5倍，大幅縮短資料準備時間，並輔以NVIDIA TensorRT框架加速模型評估流程。
「進階授信證照及格成績是70分，若只是用一般的語言模組測試是不及格的66分，但經過台灣本土金融知識訓練後，用了三個大型語言模型，以高達90分成績展現通過進階授信人員證照考試能力，精準回應進階金融問答，具備AI在金融領域的應用潛力。」梁明喬說。
也就是說，今年5月21日在NVIDIA GTC TAIPEI論壇中，國泰金秀出與輝達花兩個月，訓練出具備台灣在地金融知識的「金融腦」，相當一位銀行行員須取得進階授信證照的專業程度。
延伸閱讀
- 記者：周刊王CTWANT
- 更多財經新聞 »
