輝達小型語言模型 讓數位人類更聽話
這款名為Nemotron-4 4B Instruct的模型,提供了更好的角色扮演、檢索增強生成和功能調用能力,能使遊戲角色更直接地理解玩家指令、回應玩家並執行更精確相關的動作。
編譯/莊閔棻
輝達在今年的科隆遊戲展(Gamescom)上宣布,其數位人類技術套件「ACE」現已包含首款由RTX AI 裝置端運行的小型語言模型(SLM),這款名為Nemotron-4 4B Instruct的模型,提供了更好的角色扮演、檢索增強生成和功能調用能力,能使遊戲角色更直接地理解玩家指令、回應玩家並執行更精確相關的動作。
![輝達小型語言模型 讓數位人類更聽話](/newsdata/game/technice/20240822/72429917935994338104.jpg)
據報導,該模型作為輝達NIM 微服務的一部分,能支援遊戲開發者透過雲端和自己的設備部署,並優化了低記憶體使用量,提供更快的回應速度,讓開發者能更好地利用GeForce RTX 遊戲電腦和筆記型電腦,以及輝達RTX 工作站。
更多新聞:比國家氣象總署還準 輝達推新 AI 模型
小型語言模型的優勢
一般來說,AI 模型的準確性和性能取決於訓練數據集的大小和品質,大型語言模型(LLM)通常涵蓋大量數據,但往往會包含過多的無關資訊,而小型語言模型(SLM)則專注於特定用途,即使數據量較少,也能更快速地提供更準確的回應,這在與數位人類進行自然對話時非常重要。
而Nemotron-4 4B 則是從更大的 Nemotron-4 15B LLM 濃縮而來,這一過程讓較小的模型能模仿較大模型的輸出,同時移除不必要的部分,以縮小模型參數,隨後,該模型再進行量化處理,降低了權重的精度。
藉由更少的參數,Nemotron-4 4B用更小的記憶體,能提供更快的首次回應時間,同時仍保持高度準確度,其小型化特點,使整合了NIM微服務的遊戲和應用程式,能在更多消費者現有的 GeForce RTX AI 電腦和筆記型電腦,及輝達RTX AI 工作站上本地運行。
ACE 的應用前景
ACE允許開發者通過雲端或 RTX AI 電腦和工作站,部署尖端的生成式 AI 模型,為遊戲和應用帶來 AI 技術,借助 ACE,非玩家角色(NPC)可以在遊戲中,與玩家進行動態互動和即時對話。
ACE 包含了關鍵的 AI 模型,如語音轉文字、語言模型、文字轉語音和面部動畫等,其模組化設計,使開發者可以根據需求,選擇所需的 NIM 微服務,輝達Riva自動語音識別(ASR)技術,可將用戶語音轉換為高精確度的即時文本,並支援多語言語音和翻譯微服務。
接著,經過轉錄後的文本可透過 LLM(如 Google 的 Gemma、Meta 的 Llama 3 或 Nemotron-4 4B)生成回應,然後再透過 Riva 的文字轉語音技術,生成音頻回應,最後,輝達的 Audio2Face 技術,則能生成與多語言對話同步的面部表情,實現生動的數位人類互動。
ACE 不僅支援多種 輝達和第三方 AI 模型,還允許開發者根據體驗、工作負載和成本,在雲端或本地設備上進行混合推理,現在ACE NIM 微服務已在多個遊戲和技術展示中應用,包括 Covert Protocol 和 Mecha BREAK 等。
展望未來
此外,數位人類的應用也不僅局限於遊戲角色,在 SIGGRAPH 大會上,輝達就曾展示了一個名為 「James」 的數位互動機器人,可以用情感、幽默等方式與人進行互動,隨著數位人類技術的發展,其應用前景將擴展至客戶服務、醫療保健、零售、遠端呈現和機器人等多個領域。
參考資料:Nvidia Blogs
※探索職場,透視薪資行情,請參考【科技類-職缺百科】幫助你找到最適合的舞台!
這篇文章 輝達小型語言模型 讓數位人類更聽話 最早出現於 科技島-掌握科技新聞、科技職場最新資訊。
- 記者:洪嘉宏
- 更多遊戲新聞 »