邊緣AI 4大商機噴發



隨著全球興起生成式AI風潮,大型語言模型(LLM)快速發展,AI投資逐漸受到企業重視,根據iThome CIO調查數據顯示,大約有二二%的企業提高對生成式AI的投資,而有十%的企業調整AI戰略,更聚焦在生成式AI在企業內部可能的應用場景,除了測試生成式AI如何應用在內部營運提升營運效率,也逐漸向特定營運或生產場景應用,帶動生成式AI應用部署從公有雲、企業資料中心,漸漸向邊緣運算、物聯網擴散,研究機構IDC指出,和企業資料中心核心端相比,生成式AI應用未來更大的發展將在邊緣端,在推論需求快速增長的驅動下,預期許多企業今年將擴大邊緣部署,將帶動邊緣基礎設施擴展。

邊緣端AI發展加速

在過去的兩年裡,大型語言模型發展相當快速,除了向文字、圖片的多模態發展,同時,雲端服務供應商也向小語言模型發展,降低語言模型的參數規模,以更適合在運算資源有限的系統部署,像是Google在二三年釋出可在手機上執行推論的Gemini Nano模型,去年再推出採用相同技術的Gemma,瞄準邊緣生成式AI需求;Meta在去年釋出Llama 3.2 1B/3B模型,讓開發人員得以針對邊緣運算及行動裝置開發具有文字生成功能的裝置端應用程式,讓資料留在裝置端處理,降低資料上傳到雲端可能的資料外洩風險;微軟則是釋出最新小語言模型Phi-3,根據參數規模的不同分成mini、small及medium三個版本,並強調小模型可用於運算效能有限或離線環境,讓許多資源受限的組織將模型部署於低成本裝置,或是在頻寬受限環境下,確保一定的回應速度。

另外,近期受到中國大語言模型DeepSeek問世,為AI產業發展帶來新的變革,由於DeepSeek模型擁有低成本、開源等特性,讓AI應用的開發門檻大幅降低,加速AI普及化,進一步推動邊緣AI裝置,如機器人、PC、智慧型手機、智慧穿戴裝置等需求。根據Precedence Research研究指出,二四年全球邊緣AI市場規模約為二一一.九億美元,預計到三四年將達到約一四三○.六億美元,二四年~三四年的年複合成長率(CAGR)為二一.○四%。

機器人具高成長潛力

去年三月,輝達(Nvidia)執行長黃仁勳在GTC大會上展示了多款人形機器人,同時公布了Project GR00T計畫,透過全新的運算平台Jetson Thor結合最新架構的AI晶片Blackwell、與專為機械手臂設計的基礎模型Isaac Manipulator、以及用於自主移動機器人(AMR)的AI視覺辨識Issac Perceptor,提高機器人對於人類行為的認知能力,進而執行複雜任務,並增進人機互動的自然性。Digitimes認為隨著AI、感測器、材料等技術突破與成本下降,加上勞動力短缺影響,全球人形機器人產業正加速發展,未來五~十年人形機器人將迎來爆發性成長,預估至二○三五年將創造近二六○億美元的產值。(全文未完)

全文及圖表請見《先探投資週刊2339期精彩當期內文轉載》
◎封面故事:AI PC給力 精成科併購效益大
◎特別企劃:擇優布局低基期股的好時機
◎國際趨勢:美國通膨巨獸 出柙在即
◎中港直擊:萬科慘賠爆雷 營運盈轉虧
◎營收報表:上市上櫃1月營收完整版
【最新活動看板】
◎先探i投資YouTube開播了
◎先探i投資Podcast《談股論金》每週一晚上更新
◎加入先探Telegram掌握第一手投資情報!
◎跟著生技女王腳步,奠定生技產業基本功
◎【免費講座】生技巡迴講座 你不可不知的細胞治療商機
◎【先探講堂】2025先探投資雙老師 朱家泓+林穎
◎先探一年52期送「三井武田小資獨享鍋 SG-6058」
◎先探一季13期送《老謝的世界紀行》一本
◎先探4期送《ETF存股》一本,並可免費參加3月27日「雨果:靠ETF準備退休金」分享會


本期其他文章
前期其他文章