輝達L40S迷人之處在哪？

今年以來，隨著全球大語言模型訓練和推理生成式ＡＩ（Generative AI）應用百花齊放，帶動高階ＡＩ伺服器和高效能運算（ＨＰＣ）資料中心市場需求水漲船高，也因而使主要大廠輝達（Nvidia）推出的ＡＩ晶片A100及H100成為科技廠瘋搶的主要產品。然由於A100和H100晶片均需採用台積電CoWoS先進封裝，受限於產能不足，因此造成輝達ＡＩ晶片全面缺貨。

＠L40S成輝達營運新利器

為了解決缺貨窘境，輝達也在八月上旬宣布推出新款ＧＰＵ產品L40S，其是前身L40的升級版，因此仍擁有L40的強項：渲染與３Ｄ設計繪圖、串流影片處理、工業數位化等功能；此外，亮點在於，L40S從原先單純影像處理型ＡＩ晶片，切入生成式ＡＩ領域；也就是說，L40S不但是一款專業影像處理ＧＰＵ，同時也支援新一代數據中心工作負載，可執行生成式ＡＩ和大型語言模型ＬＬＭ推理與訓練。

然而，L40S並沒有搭載HBM，也不支援NVLink，而是採用PCIe Gen 4傳輸介面，如果是多卡串聯的情況，彼此無法分享記憶體，且傳輸速率只有三二GB/s，遠低於A100、H100傳輸速率的九○○GB/s。因此，在大規模ＡＩ演算法訓練，L40S的效能可能還是落後HGX A100、H100準系統，但應用在ＡＩ推論或小規模的ＡＩ演算法訓練，都有優於A100成績；與A100相比，L40S在ＡＩ訓練效能提升七○％，在生成式ＡＩ效能提升二○％。

再者，L40S因採用PCIe Gen 4傳輸介面，與通用伺服器的相容性較高，故可在不更改設計的情況下直接加裝；且其成本相對便宜，從零售價格來看，L40S單卡售價約一○○○○～一一○○○美元，較A100單卡售價約一二○○○～一五○○○美元來得更低。更重要的是，因無須採用CoWoS封裝，故不會受到產能瓶頸的限制，上述優勢都讓市場樂觀看待此產品或能有效填補低階市場的空缺。

＠華碩推新ＡＩ伺服器搶市

而台廠中，L40S相關推理卡由鴻海獨家代工ＯＡＭ板。鴻海一直是輝達的長期合作夥伴，不論是ＡＩ晶片模組、基板、主機板、伺服器到機櫃，鴻海可以說是一條龍服務，打造輝達ＡＩ伺服器供應鏈的完整解決方案。另外，除了其他伺服器廠商也可以自行採購L40S推理卡，並根據客戶需求來設計伺服器外，輝達亦有推出自有品牌ＯＶＸ伺服器，採用４Ｕ設計、搭載八張L40S推理卡，而首波通過認證的台灣供應商包括廣達旗下的雲達、技嘉及華碩。

其中，日前華碩宣布搭載最新Nvidia L40S GPU的ESC8000和ESC4000伺服器開始開放下單，不僅大幅加快ＡＩ伺服器供應速度，亦提供絕佳性價比。華碩此次以首度入列輝達伺服器新品首發夥伴引起市場關注，事實上，公司耕耘伺服器業務多年，近年業績穩定增長，分為品牌及白牌兩大事業體，其中自有品牌為台灣第三大，僅次於Dell及HPE；白牌則鎖定中型資料中心，如VH、德國Hetzner等網路託管商皆為其客戶。

隨著近年力拱ＡＩ應用，華碩ＡＩ伺服器在市場上也順利取得初步成果，而為衝刺ＡＩ伺服器業務，也積極招兵買馬，先前也喊出力拚伺服器業績五年成長十倍的目標，年複合成長率上看四○％。台系法人指出，華碩去年伺服器業務規模僅約百億，占比約二％，但因其與輝達顯卡長期合作，並在板卡市場上居龍頭地位，ＧＰＵ取得容易，目前已開始出貨H100、L40S等ＡＩ伺服器，將帶動整體伺服器業務在今、明兩年均可望有四成的年增幅度，營收貢獻明年將可望衝二○○億大關。（全文未完）

全文及圖表請見《先探投資週刊2264期精彩當期內文轉載》
◎封面故事：被動元件正待東風吹起
◎特別企劃：台灣五○換血 注意資金轉向
◎焦點議題：遊戲機 掌中乾坤大
◎國際趨勢：派樂騰賺錢?仍待時間考驗
◎中港直擊：拚多多讓你購物省多多
【最新活動看板】
◎先探i投資YouTube開播了
◎加入先探Telegram掌握第一手投資情報！
◎先探【Pressplay】乙哥聊天室 強棒出擊
◎跟著生技女王腳步，奠定生技產業基本功
◎金融、品酒、旅遊 論投資的藝術饗宴
◎【先探講堂】廖鴻祿：股票分析的方法與步驟
◎你沒有學到的資產配置！巴菲特的獲利秘密，你必須知道
◎訂先探送石墨烯枕，讓家人舒適健康好入眠