طبقة الثقة في الذكاء الاصطناعي: كيف تحل شبكة ميرا مشاكل التحيز والوهم في الذكاء الاصطناعي

مؤخراً، تم إطلاق الشبكة العامة لاختبار Mira رسميًا. يهدف هذا المشروع إلى بناء طبقة ثقة للذكاء الاصطناعي، لحل مشكلة التحيز و"الأوهام" الموجودة في أنظمة الذكاء الاصطناعي. إذن، لماذا يجب أن يُعتمد على الذكاء الاصطناعي؟ وكيف تحل Mira هذه المشكلة؟

عند مناقشة الذكاء الاصطناعي، غالبا ما يركز الناس على قدراته الكبيرة. ومع ذلك، فإن مشكلة "الهلاوس" أو التحيز في الذكاء الاصطناعي غالبا ما يتم تجاهلها. ما يسمى "الهلاوس" في الذكاء الاصطناعي، ببساطة، يعني أن الذكاء الاصطناعي أحيانا "يختلق"، ويتحدث بجدية عن أشياء غير صحيحة. على سبيل المثال، إذا سألت الذكاء الاصطناعي لماذا القمر وردي، فقد يعطيك سلسلة من التفسيرات التي تبدو معقولة ولكنها في الواقع لا تستند إلى أي شيء.

ظهور "هلاوس" أو تحيزات الذكاء الاصطناعي مرتبط ببعض مسارات تقنية الذكاء الاصطناعي الحالية. يقوم الذكاء الاصطناعي التوليدي بتحقيق التماسك والمنطق من خلال توقع "المحتوى الأكثر احتمالاً"، ولكنه أحيانًا لا يستطيع التحقق من صحة المعلومات. بالإضافة إلى ذلك، قد تحتوي بيانات التدريب نفسها على أخطاء أو تحيزات أو حتى محتوى مختلق، مما يؤثر أيضًا على مخرجات الذكاء الاصطناعي. بعبارة أخرى، يتعلم الذكاء الاصطناعي أنماط اللغة البشرية بدلاً من الحقائق نفسها.

إن آلية توليد الاحتمالات الحالية ونموذج البيانات المدفوعة ستؤدي تقريبًا بلا مفر إلى إنشاء "أوهام" بواسطة الذكاء الاصطناعي. إذا كانت هذه المخرجات المتحيزة أو الوهمية مقتصرة على المعرفة العامة أو المحتوى الترفيهي، فقد لا تتسبب في عواقب مباشرة مؤقتًا. ولكن إذا حدث ذلك في مجالات دقيقة للغاية مثل الطب أو القانون أو الطيران أو المالية، فقد يكون له تأثيرات كبيرة. لذلك، فإن معالجة مشكلة أوهام وتحيز الذكاء الاصطناعي أصبحت واحدة من القضايا الأساسية في عملية تطوير الذكاء الاصطناعي.

تحاول مشروع ميرا حل هذه المشكلة من خلال بناء طبقة ثقة للذكاء الاصطناعي، مما يعزز موثوقية الذكاء الاصطناعي. فكيف تقلل ميرا من تحيزات الذكاء الاصطناعي والأوهام، وتحقق في النهاية ذكاءً اصطناعيًا موثوقًا؟

تتمثل الفكرة الأساسية لـ Mira في التحقق من مخرجات الذكاء الاصطناعي من خلال توافق عدة نماذج ذكاء اصطناعي. إنها في جوهرها شبكة تحقق، تهدف إلى ضمان موثوقية مخرجات الذكاء الاصطناعي من خلال التحقق بالتوافق اللامركزي. تجمع هذه الطريقة بين مزايا التحقق بالتوافق اللامركزي التي تتفوق فيها مجالات التشفير وتعاون النماذج المتعددة، من خلال نموذج تحقق جماعي لتقليل التحيز والأخطاء.

فيما يتعلق بهيكل التحقق، يدعم بروتوكول ميرا تحويل المحتوى المعقد إلى بيانات تحقق مستقلة. يشارك مشغلو العقد في التحقق من هذه البيانات، من خلال حوافز اقتصادية مشفرة وآليات عقابية لضمان السلوك النزيه. تشارك نماذج الذكاء الاصطناعي المختلفة ومشغلو العقد الموزعة معًا لضمان موثوقية نتائج التحقق.

يتضمن هيكل شبكة ميرا تحويل المحتوى والتحقق الموزع وآلية الإجماع. أولاً، يقوم النظام بتفكيك المحتوى المرشح المقدم من العملاء إلى بيانات قابلة للتحقق، ثم يوزعها على العقد للتحقق. تحدد العقد صلاحية البيانات وتجمع النتائج للتوصل إلى توافق. لحماية خصوصية العملاء، يتم توزيع البيانات بطريقة تقسيم عشوائي على عقد مختلفة.

تحصل مشغلي العقد على العائدات من خلال تشغيل نموذج التحقق، ومعالجة التصريحات وتقديم نتائج التحقق. تأتي هذه العائدات من القيمة التي يتم إنشاؤها للعملاء، وهي تقليل معدل الخطأ في مجالات الذكاء الاصطناعي الحيوية. لمنع استجابة العقد بشكل عشوائي، سيتم معاقبة العقد التي تنحرف باستمرار عن الإجماع.

بشكل عام، تقدم ميرا فكرة جديدة لحل المشكلة من خلال بناء شبكة تحقق من الإجماع اللامركزية، مما يوفر موثوقية أعلى لخدمات الذكاء الاصطناعي للعملاء. إنها تحاول أن تصبح طبقة الثقة للذكاء الاصطناعي، مما يعزز التطور العميق لتطبيقات الذكاء الاصطناعي.

حالياً، تتعاون ميرا مع العديد من أطر وكيل الذكاء الاصطناعي. يمكن للمستخدمين المشاركة في الشبكة العامة للاختبار من خلال Klok (وهو تطبيق دردشة يعتمد على LLM الخاص بميرا) لتجربة مخرجات الذكاء الاصطناعي التي تم التحقق منها، ولديهم فرصة لكسب نقاط ميرا.