Lenovo AIサーバーは初めてローカル展開DeepSeekフルブラッド大型モデル1TB未満、100同時実行をサポート

金十データ3月3日の報告によると、レノボグループは最近、レノボ天問WA7780 G3サーバーをベースにして、業界で初めてDeepSeek-R1/V3 671Bの大規模モデルを単一のマシンで展開し、業界で認められている1TGBのメモリー(実際768GB)を下回りながら、100の同時ユーザーに滑らかな体験を提供しました。レノボのテストデータによると、512 TOKENの標準テスト環境では、このシステムは100の同時ユーザーをサポートし、1秒あたり10 TOKENの安定した出力を持続させることができ、最初のTOKEN応答時間は30秒以内に短縮されました。

原文表示
このページには第三者のコンテンツが含まれている場合があり、情報提供のみを目的としております(表明・保証をするものではありません)。Gateによる見解の支持や、金融・専門的な助言とみなされるべきものではありません。詳細については免責事項をご覧ください。
  • 報酬
  • 1
  • 共有
コメント
0/400
Andruchovip
· 03-03 05:30
作者は素晴らしいです!!!
原文表示返信0
いつでもどこでも暗号資産取引
qrCode
スキャンしてGateアプリをダウンロード
コミュニティ
日本語
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)