概覽
NVIDIA Nemotron 是什麼?
NVIDIA Nemotron™ 是一系列高效能、多模態的開放式 AI 模型,專為長期執行、能自我進化的代理程式打造。Nemotron 模型專為快速完成任務所設計,可為複雜代理程式流程提供高推理傳輸量與優異的準確度。
透過透明的訓練資料與廣泛的平台支援,包括 NVIDIA RTX PRO™ 與 NVIDIA DGX Spark™,Nemotron 模型可公開取得並整合至整個 AI 生態系統,讓可靠且高效能的 AI 代理程式能從邊緣到雲端部署於任何地方。
影片
NVIDIA 為什麼打造 Nemotron
聆聽 NVIDIA 應用深度學習研究副總裁 Bryan Catanzaro 分享 Nemotron 的願景,以及為何開放技術是打造可信賴企業級 AI 的必要條件。
優勢
NVIDIA Nemotron 模型可為代理 AI 帶來哪些優勢?
開放模型
NVIDIA 的開放資料與最佳化技術,可為開發人員與企業提供強大、透明且適應性強的模型。 這些模型與訓練資料已透過 Hugging Face 平台公開發布。
高運算效率
Nemotron 系列經過最佳化,可透過最高傳輸量與混合式 MoE 架構,加速完成代理式任務。
高精準度
Nemotron 模型從頭開始建構,具備卓越知識、透過優質訓練資料進行後期訓練,並結合強化學習,確保長期執行的代理式系統達到頂尖準確率。
安全、簡單的部署作業
Nemotron 模型系列以最佳化 NVIDIA NIM™ 微服務的形式提供,提供極致的推論效能和彈性部署選項,確保卓越的安全性、隱私與可移植性。
技術
建構代理 AI 的基礎元件
使用 NVIDIA NeMo 為客製化代理 AI 建置與最佳化 AI 代理,透過 NVIDIA NIM 實現快速且企業就緒的部署,並利用 NVIDIA Blueprints 透過可客製化的參考工作流程來加速開發。
入門選項
如何開始使用 NVIDIA Nemotron 模型
Nemotron Coalition
為了推動開放模型的願景,NVIDIA 正與生態系統中的合作夥伴 (包括模型建置商與 AI 原生公司) 合作透過共享專業知識、資料、評估與實際意見回饋,改善 Nemotron 模型。
最終實現了更強大的模型、讓合作夥伴更快打造自訂 AI 解決方案,並提供有利於開發人員及更廣泛 AI 生態系統的開放基礎。
常見問題
NVIDIA Nemotron 不僅是開放式模型,更是真正開源。NVIDIA 發布訓練資料集、技術與模型權重,讓開源社群能從我們的學習成果受益,運用這些資源自行打造模型。
NVIDIA 開放模型授權屬於寬容式授權,允許使用者在不需標註 NVIDIA 的情況下,使用、修改、散佈及商業部署這些模型及其衍生產品,以鼓勵生成式 AI 的創新及持續發展。
是的,您可以從 Hugging Face 下載 NVIDIA Nemotron 模型,在正式環境免費執行。
NVIDIA 亦提供 Nemotron 模型作為 NVIDIA NIM 微服務,實現安全可擴充的部署,但使用此服務需具備 NVIDIA AI Enterprise 授權。您可以試用 Nemotron 模型,並從 build.nvidia.com 下載 NIM 微服務。
是的,NVIDIA 致力於發布更多 Nemotron 模型、資料集和技術,實現開源生態系。
NVIDIA Nemotron 模型以最尖端的開放式模型為建置基礎,可更快打造更優異的模型。此外,NVIDIA 還發布模型權重、訓練資料集和訓練技術,讓開發人員社群能利用 Nemotron 的不同部分自行訓練模型。
NVIDIA 提供各種工具,例如 NVIDIA Dynamo、TensorRT-LLM 和 NIM,在正式環境大規模執行 Nemotron 模型。您也可以使用熱門的開源函式庫,例如 SGLang 與 vLLM。
後續步驟
準備好開始了嗎?
利用正確的工具與技術,將 NVIDIA Nemotron 模型從開發階段推向實際生產。
聯絡我們
歡迎洽詢 NVIDIA 產品專家,瞭解如何利用 NVIDIA AI Enterprise 的安全性、API 穩定性與支援服務,從測試階段推進到正式環境。
掌握 NVIDIA 代理 AI 的最新消息
訂閱即可透過電子郵件獲得最新的代理 AI、最新消息與突破性技術等。