NVIDIA ra mắt Dynamo, được gọi là “hệ điều hành của nhà máy AI”

Dữ liệu Kinhsơ 3 tháng 19, NVIDIA (NVDA.O) chính thức phát hành Dynamo, được gọi là 'hệ điều hành cho nhà máy AI'. Dynamo là một 'thư viện dịch vụ suy luận phân tán'. Về bản chất, đó là một giải pháp mã nguồn mở cho vấn đề giữa việc yêu cầu token của người dùng mà không thể sản xuất đủ token. Jensen Huang đã trình diễn một biểu đồ về suy luận, trục X hiển thị số lượng Token mỗi giây của người dùng, trục Y hiển thị số lượng Token của nhà máy mỗi giây. Dưới sự hỗ trợ của Dynamo, Grace Blackwell và vi mạch siêu chip NVLink72, Blackwell có thể đạt được hiệu suất tăng 25 lần so với Hopper. Trong mô hình suy luận, hiệu suất của Blackwell là 40 lần so với Hopper. Jensen Huang cũng nói đùa rằng, với sự hỗ trợ của công nghệ mới nhất này, các nhà sản xuất AI xây dựng 'mua nhiều, tiết kiệm nhiều'.