Lapisan Kepercayaan AI: Bagaimana Jaringan Mira Mengatasi Masalah Bias dan Ilusi AI
Baru-baru ini, jaringan uji publik Mira resmi diluncurkan. Proyek ini bertujuan untuk membangun lapisan kepercayaan AI, untuk mengatasi masalah bias dan "ilusi" yang ada dalam sistem AI. Lalu, mengapa AI perlu dipercaya? Bagaimana Mira menyelesaikan masalah ini?
Dalam diskusi tentang AI, orang sering kali lebih fokus pada kemampuannya yang kuat. Namun, masalah "ilusi" atau bias dalam AI sering kali diabaikan. Apa yang disebut "ilusi" AI, secara sederhana, adalah bahwa AI kadang-kadang akan "mengarang" dan berbicara omong kosong dengan serius. Misalnya, jika Anda bertanya kepada AI mengapa bulan berwarna merah jambu, ia mungkin memberikan serangkaian penjelasan yang tampak masuk akal tetapi sebenarnya tidak berdasar.
Kemunculan "ilusi" atau bias pada AI terkait dengan beberapa jalur teknologi AI saat ini. AI generatif mencapai koherensi dan rasionalitas dengan memprediksi konten yang "paling mungkin", tetapi terkadang tidak dapat memverifikasi kebenarannya. Selain itu, data pelatihan itu sendiri mungkin mengandung kesalahan, bias, atau bahkan konten fiktif, yang juga dapat mempengaruhi keluaran AI. Dengan kata lain, AI belajar pola bahasa manusia dan bukan fakta itu sendiri.
Mekanisme generasi probabilitas saat ini dan model berbasis data hampir tidak dapat dihindari akan menyebabkan AI menghasilkan "ilusi". Jika output yang bias atau ilusi ini terbatas pada pengetahuan umum atau konten hiburan, mungkin tidak akan menimbulkan konsekuensi langsung untuk sementara waktu. Namun, jika terjadi di bidang-bidang yang sangat ketat seperti medis, hukum, penerbangan, dan keuangan, dapat memiliki dampak yang signifikan. Oleh karena itu, mengatasi masalah ilusi dan bias AI menjadi salah satu isu inti dalam proses pengembangan AI.
Proyek Mira berusaha untuk mengatasi masalah ini dengan membangun lapisan kepercayaan untuk AI, sehingga meningkatkan keandalan AI. Lalu, bagaimana Mira mengurangi bias dan ilusi AI, dan akhirnya mewujudkan AI yang dapat dipercaya?
Inti dari konsep Mira adalah untuk memvalidasi output AI melalui konsensus dari beberapa model AI. Ini pada dasarnya adalah jaringan verifikasi yang memastikan keandalan output AI melalui verifikasi konsensus terdesentralisasi. Metode ini menggabungkan keahlian verifikasi konsensus terdesentralisasi di bidang kripto dan keuntungan kolaborasi mult-model, dengan menggunakan mode verifikasi kolektif untuk mengurangi bias dan ilusi.
Dalam hal arsitektur verifikasi, protokol Mira mendukung konversi konten kompleks menjadi pernyataan verifikasi independen. Operator node berpartisipasi dalam memverifikasi pernyataan ini, dengan insentif ekonomi kripto dan mekanisme hukuman untuk memastikan perilaku yang jujur. Berbagai model AI dan operator node terdesentralisasi berkolaborasi untuk memastikan keandalan hasil verifikasi.
Arsitektur jaringan Mira mencakup konversi konten, verifikasi terdistribusi, dan mekanisme konsensus. Pertama, sistem memecah konten kandidat yang diajukan klien menjadi pernyataan yang dapat diverifikasi, kemudian mendistribusikannya ke node untuk diverifikasi. Node menentukan validitas pernyataan dan mengumpulkan hasil untuk mencapai konsensus. Untuk melindungi privasi klien, pernyataan akan didistribusikan kepada node yang berbeda dengan cara pemotongan acak.
Operator node mendapatkan keuntungan dengan menjalankan model validator, memproses klaim, dan mengirimkan hasil validasi. Keuntungan ini berasal dari nilai yang diciptakan untuk klien, yaitu mengurangi tingkat kesalahan AI di bidang-bidang penting. Untuk mencegah node merespons secara acak, node yang terus-menerus menyimpang dari konsensus akan dihukum.
Secara keseluruhan, Mira menawarkan pendekatan solusi baru dengan membangun jaringan verifikasi konsensus terdesentralisasi, yang membawa keandalan lebih tinggi untuk layanan AI pelanggan. Ini berusaha untuk menjadi lapisan kepercayaan untuk AI, mendorong perkembangan lebih dalam aplikasi AI.
Saat ini, Mira telah bekerja sama dengan beberapa kerangka agen AI. Pengguna dapat berpartisipasi dalam testnet publik melalui Klok (aplikasi obrolan LLM berbasis Mira), merasakan keluaran AI yang telah terverifikasi, dan memiliki kesempatan untuk mendapatkan poin Mira.
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
14 Suka
Hadiah
14
6
Bagikan
Komentar
0/400
DuckFluff
· 1jam yang lalu
Halusinasi itu bagaimana ya, maksudnya AI cuma omong kosong.
Lihat AsliBalas0
Lonely_Validator
· 1jam yang lalu
Lagi datang untuk play people for suckers, ya?
Lihat AsliBalas0
SeeYouInFourYears
· 1jam yang lalu
Saya sudah sering melihat kebohongan AI.
Lihat AsliBalas0
OnchainUndercover
· 1jam yang lalu
Tanya adalah model bahasa besar yang sedang bercerita.
Lihat AsliBalas0
TheShibaWhisperer
· 1jam yang lalu
Jebakan koin yang dibuat oleh monster juga bisa menggigit orang.
Peluncuran uji publik jaringan Mira: Dapatkah lapisan kepercayaan AI menyelesaikan masalah bias ilusi?
Lapisan Kepercayaan AI: Bagaimana Jaringan Mira Mengatasi Masalah Bias dan Ilusi AI
Baru-baru ini, jaringan uji publik Mira resmi diluncurkan. Proyek ini bertujuan untuk membangun lapisan kepercayaan AI, untuk mengatasi masalah bias dan "ilusi" yang ada dalam sistem AI. Lalu, mengapa AI perlu dipercaya? Bagaimana Mira menyelesaikan masalah ini?
Dalam diskusi tentang AI, orang sering kali lebih fokus pada kemampuannya yang kuat. Namun, masalah "ilusi" atau bias dalam AI sering kali diabaikan. Apa yang disebut "ilusi" AI, secara sederhana, adalah bahwa AI kadang-kadang akan "mengarang" dan berbicara omong kosong dengan serius. Misalnya, jika Anda bertanya kepada AI mengapa bulan berwarna merah jambu, ia mungkin memberikan serangkaian penjelasan yang tampak masuk akal tetapi sebenarnya tidak berdasar.
Kemunculan "ilusi" atau bias pada AI terkait dengan beberapa jalur teknologi AI saat ini. AI generatif mencapai koherensi dan rasionalitas dengan memprediksi konten yang "paling mungkin", tetapi terkadang tidak dapat memverifikasi kebenarannya. Selain itu, data pelatihan itu sendiri mungkin mengandung kesalahan, bias, atau bahkan konten fiktif, yang juga dapat mempengaruhi keluaran AI. Dengan kata lain, AI belajar pola bahasa manusia dan bukan fakta itu sendiri.
Mekanisme generasi probabilitas saat ini dan model berbasis data hampir tidak dapat dihindari akan menyebabkan AI menghasilkan "ilusi". Jika output yang bias atau ilusi ini terbatas pada pengetahuan umum atau konten hiburan, mungkin tidak akan menimbulkan konsekuensi langsung untuk sementara waktu. Namun, jika terjadi di bidang-bidang yang sangat ketat seperti medis, hukum, penerbangan, dan keuangan, dapat memiliki dampak yang signifikan. Oleh karena itu, mengatasi masalah ilusi dan bias AI menjadi salah satu isu inti dalam proses pengembangan AI.
Proyek Mira berusaha untuk mengatasi masalah ini dengan membangun lapisan kepercayaan untuk AI, sehingga meningkatkan keandalan AI. Lalu, bagaimana Mira mengurangi bias dan ilusi AI, dan akhirnya mewujudkan AI yang dapat dipercaya?
Inti dari konsep Mira adalah untuk memvalidasi output AI melalui konsensus dari beberapa model AI. Ini pada dasarnya adalah jaringan verifikasi yang memastikan keandalan output AI melalui verifikasi konsensus terdesentralisasi. Metode ini menggabungkan keahlian verifikasi konsensus terdesentralisasi di bidang kripto dan keuntungan kolaborasi mult-model, dengan menggunakan mode verifikasi kolektif untuk mengurangi bias dan ilusi.
Dalam hal arsitektur verifikasi, protokol Mira mendukung konversi konten kompleks menjadi pernyataan verifikasi independen. Operator node berpartisipasi dalam memverifikasi pernyataan ini, dengan insentif ekonomi kripto dan mekanisme hukuman untuk memastikan perilaku yang jujur. Berbagai model AI dan operator node terdesentralisasi berkolaborasi untuk memastikan keandalan hasil verifikasi.
Arsitektur jaringan Mira mencakup konversi konten, verifikasi terdistribusi, dan mekanisme konsensus. Pertama, sistem memecah konten kandidat yang diajukan klien menjadi pernyataan yang dapat diverifikasi, kemudian mendistribusikannya ke node untuk diverifikasi. Node menentukan validitas pernyataan dan mengumpulkan hasil untuk mencapai konsensus. Untuk melindungi privasi klien, pernyataan akan didistribusikan kepada node yang berbeda dengan cara pemotongan acak.
Operator node mendapatkan keuntungan dengan menjalankan model validator, memproses klaim, dan mengirimkan hasil validasi. Keuntungan ini berasal dari nilai yang diciptakan untuk klien, yaitu mengurangi tingkat kesalahan AI di bidang-bidang penting. Untuk mencegah node merespons secara acak, node yang terus-menerus menyimpang dari konsensus akan dihukum.
Secara keseluruhan, Mira menawarkan pendekatan solusi baru dengan membangun jaringan verifikasi konsensus terdesentralisasi, yang membawa keandalan lebih tinggi untuk layanan AI pelanggan. Ini berusaha untuk menjadi lapisan kepercayaan untuk AI, mendorong perkembangan lebih dalam aplikasi AI.
Saat ini, Mira telah bekerja sama dengan beberapa kerangka agen AI. Pengguna dapat berpartisipasi dalam testnet publik melalui Klok (aplikasi obrolan LLM berbasis Mira), merasakan keluaran AI yang telah terverifikasi, dan memiliki kesempatan untuk mendapatkan poin Mira.