華為新技術輝達早有同款？ 切分多方算力資源
[周刊王CTWANT] 華為21日發表了革命性的AI容器軟體Flex：ai，同步在魔擎社群開源。而輝達（Nvidia）早在2024年以7億美元收購的以色列 AI 基礎設施公司Run:ai，其核心產品正是具備類似功能的軟體平台。
與輝達不同的是，輝達只能綁定自家算力卡，華為Flex：ai透過軟體創新，可對輝達、昇騰以及其他第三方算力資源實現統一管理與高效利用，有效屏蔽不同算力之間的差異，為AI訓練與推理提供更高效的資源支持。
Flex：ai透過算力切分技術，將單張圖形處理器（GPU）或神經網路處理器（NPU）算力卡切分為多份虛擬算力單元來彈性調度使用，切分粒度精細至10％，並可讓算力資源平均利用率提升30%。
華為公司副總裁周躍峰表示，傳統容器技術的建構時間已無法完全滿足AI工作負載需求，AI時代需要真正的AI容器。其次是傳統容器主要針對CPU、內存等通用資源進行管理與調度，無法對GPU/NPU智慧調度，導致很小的AI任務也得獨佔整張算力卡。
最後是傳統容器以固定分配、通用調度為主，而AI工作負載需要以「任務完成效率」為目標，感知不同任務特性，實現動態彈性資源分配。周躍峰表示，Flex：ai將在發表後同步開源在魔擎社區中。Flex：ai將與華為此前開源的AI工具共同組成完整的ModelEngine開源生態。
延伸閱讀
- 記者：周刊王CTWANT
- 更多財經新聞 »
