NVIDIA Vera

NVIDIA Vera は、エージェント型 AI や強化学習を支える、複雑で分岐が多くレイテンシに敏感な処理に向けた、88 基のカスタム NVIDIA Olympus コアを搭載します。高いシングルスレッド性能で、エージェント ランタイム、ツール呼び出し、コード実行、評価ループを高速化します。NVIDIA Spatial Multithreading™ はコア リソースを分割した 176 スレッドを提供し、大規模でも予測可能なスループットを実現します。

NVIDIA Vera は、従来のサーバー メモリより大幅に低い電力で、最大 1.2 テラバイト/秒 (TB/s) の LPDDR5X メモリ帯域幅を提供します。数千もの並列ソフトウェア環境の応答性を維持し、RL の高速な反復、効率的な KV キャッシュ管理、データ集約型のエージェント ワークフローをサポートします。最大 1.5 TB のメモリにより、AI ファクトリー、分析、HPC に必要な容量と効率を提供します。

NVIDIA Vera は、第 2 世代 NVIDIA SCF を活用して、単一のコンピュート ダイ上で 88 基すべてのコア、キャッシュ、メモリ、入出力 (IO)、NVLink-C2C を接続します。3.4 TB/s のバイセクション帯域幅と統合キャッシュ アーキテクチャにより、SCF は、CPU がフル稼働している場合でも、コアに高速で一貫したデータ アクセスを提供します。チップレット間の通信を回避することで、Vera は、大規模なエージェント型ワークロード、分析、AI ファクトリー インフラにおいて、安定した遅延とスループットを維持します。

NVIDIA NVLink-C2C は、Vera CPU と NVIDIA GPU の間で最大 1.8 TB/s のコヒーレントな帯域幅を実現します。NVIDIA Rubin GPU と組み合わせることで、Vera は統合メモリ アーキテクチャを構築し、複雑な AI および HPC ワークロード、大規模なデータセット、KV キャッシュ オフロードにおいて、CPU と GPU の連携を支援します。NVLink-C2C は、データ転送のボトルネックを削減し、最適化を簡素化し、機密データとコードの安全な分離をサポートし、デュアルソケット Vera CPU システムにおける高速接続を可能にします。