挾電信業大數據突破技術 遠傳化身教練助企業AI轉型
「想喝牛奶,就要買牧場養牛嗎?」面對企業主的AI焦慮,遠傳電信資訊長胡德民直言,比起砸錢建構算力,先釐清想用AI解決什麼問題才是關鍵,遠傳擔綱企業AI轉型路上的教練,讓企業不必養牛,也能每天享用最新鮮的AI成果。
生成式AI浪潮席捲而來,不少企業還在觀望、評估、嘗試建模型時,遠傳善用全台電信業唯一獲微軟授權的LSP合作夥伴,自行研發出AI平台「遠傳智靈」,從內部應用驗證起步,轉化為對外輸出的商用解方,更從上百家大型企業中脫穎而出,斬獲經濟部首屆「智慧創新大賞」-「AI應用類-企業公開組」銀牌獎殊榮,創下電信業的最佳成績。
在AI訓練場上,遠傳猶如一名懂技術、帶策略、會陪跑的「教練」,練就了一身精壯的AI肌肉,再協助企業打破迷思與瓶頸,穩健有序地進行AI轉型。
遠傳發展AI內部先行 打詐與IT維運成果亮眼
遠傳資訊長胡德民接受中央社記者專訪時指出,「我們必須先驗證AI這件事,在遠傳內部行不行得通」,目前「遠傳智靈」已廣泛應用於遠傳內部的IT維運、客服平台、智慧助理、財務等系統,也協助friDay影音優化使用者體驗。
胡德民舉例,一般業界研發的「個人化推薦」點擊率僅約3%,但遠傳friDay影音導入「遠傳智靈」生成式AI,優化個人化推薦功能後,點擊率激增8倍、成效顯著。只要對著AI說「推薦我失戀適合看的片」、「我想看女主角對抗病魔的劇」,AI就能理解並推薦適合片單,不僅改善使用者體驗,也增加舊片重播機會、提高片庫授權價值,讓長尾效益更具商業價值。
此外,遠傳打造全台首個AI預測詐騙偵測系統「打詐智靈」,建立詐騙行為特徵資料庫,持續強化模型效能,即時偵測的效率大幅提高。胡德民指出,「每月可攔阻逾10萬通詐騙電話、5000則簡訊」,因為借助科技防範得宜,根據165統計,遠傳在詐騙門號中的比例向來是最低。
AI也助陣IT維運,胡德民說,遠傳內部需維運超過400 套系統,夜班人力有限,特別是在缺工的時代,更難應付突發狀況。AI介入後,值班人員能以自然語言詢問AI,「過去30分鐘有哪些系統異常?」讓年資較淺的工程師也能快速定位問題,縮短處理時效。
胡德民進一步舉例,人力資源部門天天處理近7000名員工對於病假、喪假、薪資補貼辦法的細節諮詢,AI的出現解決他們工作的最大痛點,更別說客服部門,遠傳把所有客服留言彙整成珍貴的數據資料庫,催生AI客服「愛瑪」,在門市與線上為客戶解惑。
大數據是電信業天然優勢 遠傳精煉「皇冠上的鑽石」
「遠傳智靈」的技術突破點,在於系統核心採用RAG(Retrieval Augmented Generation,檢索增強生成)與自主代理式AI技術。胡德民解釋,就是讓AI學習語言的過程大進化,從傳統比對式進化到理解、推理問題背後的動機,RAG模型會從指定的知識庫中檢索相關信息,「只要給他正確、充足的資料,AI就能夠得心應手,而且進步得非常快」。
遠傳是電信業者,擁有發展AI的天然優勢,胡德民指出,「電信公司必備的文化本來就是大數據,是一個靠大數據堆砌起來的行業」,遠傳發展AI,相對在數據、人才的儲備上已具備扎實的基礎。「有好的數據基礎,生成式AI就能錦上添花,成為皇冠上的那顆鑽石,如果沒有數據,它就會一本正經的胡說八道」。
胡德民比喻,訓練生成式AI就像教小孩,你要告訴他該學習什麼、餵給他正確的知識,「如果不給他課本,不告訴他考試會考什麼題目,就指望他能夠考100分,這根本不make sense(合理)」。
追求可負擔的AI 遠傳:Begin from small
胡德民表示,企業面對AI,「絕對不是先考慮買什麼AI機房」,而是要先盤點「AI能幫忙解決什麼問題,或創造什麼價值?」
他進一步說,遠傳一開始就決定「不砸大錢、開墾牧場養牛,只為喝一杯鮮奶」,而是運用現有的AI工具、LLM(大型語言模型),所以更具備效益,「當人家還在看牛肉麵食譜時,我已經吃兩碗了」。
「至於AI能否解決問題,則有4個要素:場景、數據、工具、人才,缺一不可」,胡德民說明,場景就是找到想透過AI解決的問題,以及足夠和正確的數據資料庫,至於工具方面,企業若資源有限,不需要投資自有AI算力中心,只要善用公有雲、開源工具,就能快速驗證、調整、擴張AI應用。
胡德民認為,「尤其台灣有90%都是中小企業,要追求的是Affordable AI,一個負擔得起的AI」,希望企業面對AI是Begin from small(從小事做起),才能快速驗證道路的對錯。
人才也是AI的關鍵資產,胡德民指出,許多人擔心AI會導致傳統人力失業,但遠傳電信總經理井琪曾對員工說,「AI不會取代任何員工,但不懂AI的人,將被懂AI的人取代。」藉此鼓勵員工不要畏懼AI,而是要擁抱AI。
AI輸出智慧醫療與城市翻倍成長新經濟
遠傳也積極將這套實戰型AI平台推向外部企業,未來可廣泛運用於高科技、傳統製造、零售流通、金融、醫療、智慧城市及校園等各行各業多元場域。
胡德民指出,AI可以從提高企業員工生產力的「白領賦能」,延伸走向「白袍賦能」,遠傳與亞東醫院失智中心合作,整合過去衛教、FAQ的資料,透過RAG知識導入,生成式AI衛教助手能迅速回覆病患與家屬問題,大幅降低醫護人員的工作負荷,避免第一線護理師「天天被100、200通電話轟炸」情況,目前類似應用正在複製到像是慢性病等醫療群體與機構,政府也有意推展至基層診所,協助醫病結構同步AI升級。
此外,遠傳也在發展的偏鄉5G醫療、5G救護車,以及智慧城市、智慧校園等範疇,如能源管理、智慧路燈、充電樁監控等,都會是生成式AI的應用場景。胡德民十分看好龐大的商機,預估AI相關業務每年將倍數成長,「案子應接不暇,未來3年都排滿了」。
生成式AI浪潮席捲而來,不少企業還在觀望、評估、嘗試建模型時,遠傳善用全台電信業唯一獲微軟授權的LSP合作夥伴,自行研發出AI平台「遠傳智靈」,從內部應用驗證起步,轉化為對外輸出的商用解方,更從上百家大型企業中脫穎而出,斬獲經濟部首屆「智慧創新大賞」-「AI應用類-企業公開組」銀牌獎殊榮,創下電信業的最佳成績。
在AI訓練場上,遠傳猶如一名懂技術、帶策略、會陪跑的「教練」,練就了一身精壯的AI肌肉,再協助企業打破迷思與瓶頸,穩健有序地進行AI轉型。
遠傳發展AI內部先行 打詐與IT維運成果亮眼
遠傳資訊長胡德民接受中央社記者專訪時指出,「我們必須先驗證AI這件事,在遠傳內部行不行得通」,目前「遠傳智靈」已廣泛應用於遠傳內部的IT維運、客服平台、智慧助理、財務等系統,也協助friDay影音優化使用者體驗。
胡德民舉例,一般業界研發的「個人化推薦」點擊率僅約3%,但遠傳friDay影音導入「遠傳智靈」生成式AI,優化個人化推薦功能後,點擊率激增8倍、成效顯著。只要對著AI說「推薦我失戀適合看的片」、「我想看女主角對抗病魔的劇」,AI就能理解並推薦適合片單,不僅改善使用者體驗,也增加舊片重播機會、提高片庫授權價值,讓長尾效益更具商業價值。
此外,遠傳打造全台首個AI預測詐騙偵測系統「打詐智靈」,建立詐騙行為特徵資料庫,持續強化模型效能,即時偵測的效率大幅提高。胡德民指出,「每月可攔阻逾10萬通詐騙電話、5000則簡訊」,因為借助科技防範得宜,根據165統計,遠傳在詐騙門號中的比例向來是最低。
AI也助陣IT維運,胡德民說,遠傳內部需維運超過400 套系統,夜班人力有限,特別是在缺工的時代,更難應付突發狀況。AI介入後,值班人員能以自然語言詢問AI,「過去30分鐘有哪些系統異常?」讓年資較淺的工程師也能快速定位問題,縮短處理時效。
胡德民進一步舉例,人力資源部門天天處理近7000名員工對於病假、喪假、薪資補貼辦法的細節諮詢,AI的出現解決他們工作的最大痛點,更別說客服部門,遠傳把所有客服留言彙整成珍貴的數據資料庫,催生AI客服「愛瑪」,在門市與線上為客戶解惑。
大數據是電信業天然優勢 遠傳精煉「皇冠上的鑽石」
「遠傳智靈」的技術突破點,在於系統核心採用RAG(Retrieval Augmented Generation,檢索增強生成)與自主代理式AI技術。胡德民解釋,就是讓AI學習語言的過程大進化,從傳統比對式進化到理解、推理問題背後的動機,RAG模型會從指定的知識庫中檢索相關信息,「只要給他正確、充足的資料,AI就能夠得心應手,而且進步得非常快」。
遠傳是電信業者,擁有發展AI的天然優勢,胡德民指出,「電信公司必備的文化本來就是大數據,是一個靠大數據堆砌起來的行業」,遠傳發展AI,相對在數據、人才的儲備上已具備扎實的基礎。「有好的數據基礎,生成式AI就能錦上添花,成為皇冠上的那顆鑽石,如果沒有數據,它就會一本正經的胡說八道」。
胡德民比喻,訓練生成式AI就像教小孩,你要告訴他該學習什麼、餵給他正確的知識,「如果不給他課本,不告訴他考試會考什麼題目,就指望他能夠考100分,這根本不make sense(合理)」。
追求可負擔的AI 遠傳:Begin from small
胡德民表示,企業面對AI,「絕對不是先考慮買什麼AI機房」,而是要先盤點「AI能幫忙解決什麼問題,或創造什麼價值?」
他進一步說,遠傳一開始就決定「不砸大錢、開墾牧場養牛,只為喝一杯鮮奶」,而是運用現有的AI工具、LLM(大型語言模型),所以更具備效益,「當人家還在看牛肉麵食譜時,我已經吃兩碗了」。
「至於AI能否解決問題,則有4個要素:場景、數據、工具、人才,缺一不可」,胡德民說明,場景就是找到想透過AI解決的問題,以及足夠和正確的數據資料庫,至於工具方面,企業若資源有限,不需要投資自有AI算力中心,只要善用公有雲、開源工具,就能快速驗證、調整、擴張AI應用。
胡德民認為,「尤其台灣有90%都是中小企業,要追求的是Affordable AI,一個負擔得起的AI」,希望企業面對AI是Begin from small(從小事做起),才能快速驗證道路的對錯。
人才也是AI的關鍵資產,胡德民指出,許多人擔心AI會導致傳統人力失業,但遠傳電信總經理井琪曾對員工說,「AI不會取代任何員工,但不懂AI的人,將被懂AI的人取代。」藉此鼓勵員工不要畏懼AI,而是要擁抱AI。
AI輸出智慧醫療與城市翻倍成長新經濟
遠傳也積極將這套實戰型AI平台推向外部企業,未來可廣泛運用於高科技、傳統製造、零售流通、金融、醫療、智慧城市及校園等各行各業多元場域。
胡德民指出,AI可以從提高企業員工生產力的「白領賦能」,延伸走向「白袍賦能」,遠傳與亞東醫院失智中心合作,整合過去衛教、FAQ的資料,透過RAG知識導入,生成式AI衛教助手能迅速回覆病患與家屬問題,大幅降低醫護人員的工作負荷,避免第一線護理師「天天被100、200通電話轟炸」情況,目前類似應用正在複製到像是慢性病等醫療群體與機構,政府也有意推展至基層診所,協助醫病結構同步AI升級。
此外,遠傳也在發展的偏鄉5G醫療、5G救護車,以及智慧城市、智慧校園等範疇,如能源管理、智慧路燈、充電樁監控等,都會是生成式AI的應用場景。胡德民十分看好龐大的商機,預估AI相關業務每年將倍數成長,「案子應接不暇,未來3年都排滿了」。
- 記者:中央社記者江明晏台北16日電
- 更多財經新聞 »