概要
ダイナミックなオーケストレーションで AI ワークフローを加速
NVIDIA Run:ai は、動的なリソース割り当て、包括的な AI ライフサイクル サポート、戦略的なリソース管理によってインフラにおける主要な課題に対処することで、AI および機械学習の運用を加速します。 さまざまな環境でリソースをプールし、高度なオーケストレーションを活用することで、NVIDIA Run:ai は GPU の効率性とワークロード容量を大幅に向上させます。 パブリック クラウド、プライベート クラウド、ハイブリッド環境、オンプレミス データ センターなどをサポートする NVIDIA Run:ai は、比類のない柔軟性と適応性を提供します。
NVIDIA Run:ai とは?
NVIDIA Run:ai は、AI のライフサイクル全体にわたる動的なオーケストレーションにより AI 運用を加速し、GPU 効率を最大化し、ワークロードを拡張し、手作業なしにハイブリッドな AI インフラにシームレスに統合します。
NVIDIA Run:ai は、AI のライフサイクル全体をシームレスに実行する機能、GPU オーケストレーションを活用した高度な AI ワークロード オーケストレーション、リソース管理を戦略的資産に変える強力なポリシー エンジンの提供により、最適な利用率とビジネス目標との整合性を確保します。
スケーラブルな AI 運用を実現する NVIDIA Run:ai
現在、NVIDIA AI Enterprise の一部となった NVIDIA Run:ai は、AI ワークロードの大規模な実行を簡素化します。GPU の利用率を最大化し、ワークロードのスループットを向上させ、ポリシーとガバナンスを一元管理することで、学習、実験、推論の全段階において、安全で信頼性が高く、効率的な AI 運用を実現します。
特徴
AI ワークロードを大規模に構築、学習、デプロイするための AI ワークロードと GPU オーケストレーション
パフォーマンス
現実世界の AI 高速化: 大規模環境で実証された GPU オーケストレーション
AI スループットを高速化し、シームレスなスケーリングを提供するほか、GPU 使用率を最大化する動的なスケジューリングとオーケストレーション。
ソリューション
NVIDIA Run:ai のオープンソース ソリューション
利点
AI インフラの可能性を最大限に引き出す
AI スケジューリングとインフラ管理のために設計された NVIDIA Run:ai は、AI のライフサイクル全体で AI ワークロードを高速化し、価値の創出を加速します。
GPU 利用率の最大化、コストの最小化、AI 効率性の向上
NVIDIA Run:ai は、ハイブリッド環境全体で GPU リソースを動的にプールし、調整します。 無駄を排除し、リソース利用率を最大化し、ビジネス優先順位に応じて演算性能を調整することで、企業は優れた ROI を実現し、運用コストを削減し、AI の取り組みをより迅速に拡張することができます。
開発からデプロイまで AI をシームレスに加速
NVIDIA Run:ai は、開発から学習、デプロイまで、AI のライフサイクル全体でシームレスな移行を実現します。 リソースを調整し、統合されたパイプラインに多様な AI ツールを統合することで、このプラットフォームはボトルネックを解消し、開発サイクルを短縮し、AI ソリューションを本番環境に迅速に拡張し、具体的なビジネス成果を提供します。
完全な AI 制御のための一元化されたオーケストレーション
NVIDIA Run:ai は、分散型 AI インフラ、ワークロード、ユーザーをエンドツーエンドで可視化し、制御します。 その一元化されたオーケストレーションにより、クラウド、オンプレミス、ハイブリッド環境からのリソースを統合し、実用的な知見、ポリシー主導のガバナンス、および効率的で拡張可能な AI 運用のためのきめ細かいリソース管理で企業を支援します。
あらゆる環境に適応する柔軟な統合
NVIDIA Run:ai は、比類のない柔軟性と可用性で最新の AI ファクトリーをサポートします。 そのオープン アーキテクチャは、パブリック クラウド、プライベート クラウド、ハイブリッド環境、オンプレミス データ センターなどの環境を問わず、あらゆる機械学習ツール、フレームワーク、インフラとシームレスに統合します。
ユース ケース
インテリジェント オーケストレーションによる AI ワークロードの高速化
AI ワークロードのために設計された NVIDIA Run:ai は、演算効率を最大化し、AI 学習と推論を動的に拡張するインテリジェントなオーケストレーションを提供します。
-
拡張された AI
-
フラクショナル推論
-
コールド スタートの緩和
企業 AI の高速化
NVIDIA Run:ai により、企業は AI ワークロードを効率的に拡張し、コストを削減し、AI 開発サイクルを改善することができます。 GPU リソースを動的に割り当てることで、組織は演算の利用率を最大化し、アイドル時間を短縮し、機械学習への取り組みを加速できます。 NVIDIA Run:ai はまた、統合された管理インターフェイスを提供することで AI 運用を簡素化し、データ サイエンティスト、エンジニア、IT などのチーム間のシームレスなコラボレーションを可能にします。
トークン スループットの最大化
共有 GPU インフラで多様な AI ワークロードを同時に実行し、全体のスループットと利用率を劇的に向上させます。 推論、埋め込み、生成タスク全体に GPU を分割して割り当てることで、組織はリソースの競合なしに、より多くのモデルを並列で実行することができます。 単一モデルのフル GPU 実行と比較して、混合ワークロードは、GPU、ホスト、クラスター レベルで大幅に高い総合スループットを実現し、チーム全体で AI 出力を加速しながら、インフラの効率を最大化します。
モデルのコールド スタートの緩和
GPU とホストの間でモデル メモリを動的にスワップすることで、パフォーマンスを犠牲にすることなくモデル デプロイ コストを削減します。 NVIDIA の GPU メモリ スワップ方式は、モデルのアクティブな部分を GPU 上に常駐させながら、非アクティブな部分を透過的にページングすることで、より少ない GPU 数で大規模なモデルの実行を可能にします。 これにより、インフラ支出を削減し、アイドル容量を低減し、そして本番環境へのデプロイにおけるコスト効率の高い推論をサポートします。特に、メモリ集約型の大規模言語モデルのワークロードにおいて有効です。
テクノロジ
NVIDIA 全体で動的なオーケストレーションにより加速された AI 運用を実現
NVIDIA Run:ai は、NVIDIA の AI プラットフォームに高度なオーケストレーションとスケジューリング機能をもたらし、企業が複雑さを最小限に抑え、パフォーマンスを最大化しながら AI オペレーションを拡張できるようにします。
パートナー
NVIDIA のパートナー企業
ご希望のプロバイダーに問い合わせるか、NVIDIA パートナー ネットワークにアクセスして、ソリューションと NVIDIA Run:ai の統合を提供する主要なエコシステム プロバイダーを見つけてください。
次のステップ
さっそく始めませんか?
NVIDIA Run:ai のインテリジェントなオーケストレーションにより、AI を開発からデプロイまで加速します。
NVIDIA Run:ai 関連ドキュメント
NVIDIA Run:ai の製品アップデート、インストールと利用ガイド、サポートの詳細をご覧ください。
最適なパートナーを探すのにサポートが必要ですか?
NVIDIA パートナー ネットワーク ロケーターにアクセスして、NVIDIA Run:ai を提供するために認定された NVIDIA パートナーを見つけましょう。