NVIDIAがDynamoをリリースし、「AI工場のオペレーティングシステム」と呼ばれています

金十データ3月19日、NVIDIA（NVDA.O）がDynamoを正式にリリースし、それを「AI工場のオペレーティングシステム」と呼んでいます。 Dynamoは「分散推論サービスライブラリ」です。本質的には、ユーザー要求TOKENに対処するために十分なTOKENを生成できない問題に対するオープンソースの解決策です。黄仁勋（ジェンスン　フアン）は推論に関するチャートを示し、X軸にはユーザーごとの毎秒TOKEN数、Y軸には工場ごとの毎秒TOKEN数が表示されています。Dynamo、Grace Blackwell NVLink72スーパーチップのサポートを受けることで、BlackwellはHopperに比べて25倍のパフォーマンス向上を実現できます。推論モデルでは、BlackwellのパフォーマンスはHopperの40倍です。黄仁勋（ジェンスン　フアン）は、「上記の最新技術を活用すると、AI工場を構築する企業は「買えば買うほど、節約できる」と冗談を言いました。