OPML: Membangun kerangka AI on-chain yang efisien, solusi inovatif yang melampaui ZKML

robot
Pembuatan abstrak sedang berlangsung

OPML: Kerangka pembelajaran mesin berbasis pendekatan optimis

Kami telah mengajukan sebuah kerangka baru yang disebut OPML(Optimistic Machine Learning), yang dapat menjalankan inferensi dan pelatihan model AI secara efisien di sistem blockchain. Dibandingkan dengan ZKML, OPML memiliki biaya yang lebih rendah dan efisiensi yang lebih tinggi. Persyaratan perangkat keras OPML sangat rendah, PC biasa dapat menjalankan tugas OPML yang mencakup model bahasa besar seperti 7B-LLaMA tanpa GPU.

OPML menggunakan mekanisme permainan verifikasi untuk memastikan desentralisasi dan verifiabilitas layanan ML. Prosesnya sebagai berikut:

  1. Pengguna mengajukan permintaan layanan ML
  2. Server menyelesaikan tugas dan mengirimkan hasil ke blockchain
  3. Validator memeriksa hasil, jika ada keberatan maka mulai permainan verifikasi
  4. Menentukan langkah kesalahan spesifik melalui protokol pemisahan
  5. Terakhir, dilakukan arbitrase langkah demi langkah oleh kontrak pintar.

OPML:Menggunakan sistem Optimistic Rollup untuk pembelajaran mesin

Permainan Verifikasi Satu Tahap

Poin kunci dari OPML satu tahap termasuk:

  • Membangun mesin virtual untuk eksekusi off-chain dan arbitrase on-chain (VM)
  • Mewujudkan perpustakaan DNN ringan khusus, meningkatkan efisiensi inferensi AI
  • Menggunakan teknologi cross-compilation untuk mengompilasi kode inferensi AI menjadi instruksi VM
  • Menggunakan pohon Merkle untuk mengelola citra VM, hanya mengunggah hash root ke rantai

Dalam pengujian dasar, kami dapat menyelesaikan inferensi DNN dalam waktu 2 detik, dan seluruh proses tantangan dapat diselesaikan dalam waktu 2 menit.

OPML: Menggunakan sistem Optimistic Rollup untuk pembelajaran mesin

Permainan Verifikasi Multi-Tahap

Untuk mengatasi keterbatasan skema satu tahap, kami mengajukan permainan verifikasi multi-tahap:

  • Hanya menghitung di VM pada tahap akhir, tahap lain dapat dijalankan secara fleksibel
  • Memanfaatkan akselerasi GPU/TPU dan pemrosesan paralel secara maksimal
  • Meningkatkan kinerja eksekusi secara signifikan, mendekati tingkat lingkungan lokal
  • Menggunakan pohon Merkle untuk memastikan integritas dan keamanan dalam transisi antar tahap

Sebagai contoh model LLaMA, kami menggunakan metode OPML dua tahap:

  • Tahap kedua dilakukan verifikasi permainan pada grafik komputasi, dapat menggunakan akselerasi GPU
  • Tahap pertama mengubah perhitungan node tunggal menjadi instruksi VM

Metode multi-tahap dapat mencapai percepatan komputasi α kali dibandingkan dengan metode satu tahap, sambil secara signifikan mengurangi ukuran pohon Merkle.

OPML: Menggunakan sistem Optimistic Rollup untuk pembelajaran mesin

OPML:menggunakan sistem Optimistic Rollup untuk pembelajaran mesin

Konsistensi dan Determinisme

Untuk memastikan konsistensi hasil ML, kami telah mengambil langkah-langkah berikut:

  1. Menggunakan algoritma tetap ( teknologi kuantifikasi ) untuk mengurangi pengaruh kesalahan floating point.
  2. Menggunakan pustaka floating-point perangkat lunak yang konsisten lintas platform

Teknologi ini secara efektif mengatasi tantangan yang disebabkan oleh variabel floating point dan perbedaan platform, meningkatkan keandalan perhitungan OPML.

OPML masih dalam pengembangan. Kami mengundang siapa saja yang tertarik dengan proyek ini untuk bergabung dan berkontribusi pada perkembangan OPML.

OPML:menggunakan sistem Optimistic Rollup untuk pembelajaran mesin

Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
  • Hadiah
  • 6
  • Posting ulang
  • Bagikan
Komentar
0/400
DeadTrades_Walkingvip
· 16jam yang lalu
Verifikasi permainan ini ~ hanyalah permainan bersembunyi di server.
Lihat AsliBalas0
AirdropHunter007vip
· 16jam yang lalu
Eh, ini kan musim semi bagi penambang GPU.
Lihat AsliBalas0
FundingMartyrvip
· 16jam yang lalu
harga rendah lari LLaMa? bull wah
Lihat AsliBalas0
ImpermanentPhilosophervip
· 16jam yang lalu
on-chain ai benar-benar akan datang
Lihat AsliBalas0
OnChainDetectivevip
· 16jam yang lalu
Satu lagi "Desentralisasi" kotak hitam... Siapa yang akan memantau operasi tersembunyi dari validator? Transfer dana 0.618 semuanya mencurigakan.
Lihat AsliBalas0
PretendingToReadDocsvip
· 16jam yang lalu
Semua orang bilang tidak dapat mengikuti zaman, perangkat keras juga tidak bisa. Kapan kita bisa mendapatkan GPU?
Lihat AsliBalas0
  • Sematkan
Perdagangkan Kripto Di Mana Saja Kapan Saja
qrCode
Pindai untuk mengunduh aplikasi Gate
Komunitas
Bahasa Indonesia
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)