Server AI Lenovo pertama kali mampu melakukan penerapan lokal model DeepSeek penuh kurang dari 1TB, mendukung 100 koneksi sekaligus

Data Emas pada 3 Maret melaporkan, baru-baru ini, Grup Lenovo mengumumkan prestasi pertama di industri dengan menerapkan model besar DeepSeek-R1/V3 671B secara mandiri berbasis server Lenovo Tianwa WA7780 G3, mampu menyediakan pengalaman pengguna yang mulus untuk 100 pengguna bersamaan dengan lebih sedikit dari 1TGB RAM yang diakui industri (sebenarnya 768GB). Berdasarkan data pengujian yang dilakukan oleh Lenovo, dalam lingkungan pengujian standar dengan 512 TOKEN, sistem ini dapat mendukung 100 pengguna bersamaan untuk menerima output stabil 10 TOKEN per detik, dengan waktu respons token pertama dipersingkat menjadi kurang dari 30 detik.