Capa de confianza de IA: Cómo la red Mira aborda los problemas de sesgo y alucinaciones en la IA
Recientemente, la red pública de pruebas de Mira se lanzó oficialmente. El proyecto tiene como objetivo construir una capa de confianza para la IA, abordando los problemas de sesgo y "alucinaciones" que existen en los sistemas de IA. Entonces, ¿por qué se necesita confiar en la IA? ¿Cómo aborda Mira este problema?
Al hablar de la IA, la gente a menudo se centra más en su poderosa capacidad. Sin embargo, el problema de las "ilusiones" o prejuicios de la IA a menudo se pasa por alto. Lo que se conoce como "ilusión" de la IA, en términos simples, es que a veces la IA "inventa" cosas, diciendo tonterías con toda seriedad. Por ejemplo, si le preguntas a la IA por qué la luna es de color rosa, puede ofrecer una serie de explicaciones que parecen razonables pero que en realidad no tienen fundamento.
La "alucinación" o el sesgo de la IA está relacionado con algunas de las rutas tecnológicas actuales de la IA. La IA generativa logra coherencia y razonabilidad al predecir el contenido "más probable", pero a veces no puede verificar la veracidad. Además, los datos de entrenamiento en sí pueden contener errores, sesgos e incluso contenido ficticio, lo que también afecta la salida de la IA. En otras palabras, la IA aprende patrones del lenguaje humano y no hechos en sí.
Los mecanismos de generación de probabilidades actuales y los modelos impulsados por datos inevitablemente llevarán a que la IA produzca "ilusiones". Si estos resultados sesgados o ilusorios se limitan a conocimientos generales o contenido de entretenimiento, es posible que no causen consecuencias directas de inmediato. Pero si ocurren en campos altamente rigurosos como la medicina, el derecho, la aviación o las finanzas, pueden tener un impacto significativo. Por lo tanto, abordar el problema de las ilusiones y sesgos de la IA se ha convertido en uno de los problemas centrales en el proceso de desarrollo de la IA.
El proyecto Mira intenta abordar este problema construyendo una capa de confianza para la IA, mejorando así la fiabilidad de la IA. Entonces, ¿cómo reduce Mira los sesgos y alucinaciones de la IA y, en última instancia, logra una IA confiable?
La filosofía central de Mira es validar la salida de la IA a través del consenso de múltiples modelos de IA. Es esencialmente una red de verificación que asegura la fiabilidad de la salida de la IA mediante la validación descentralizada del consenso. Este enfoque combina las ventajas de la verificación de consenso descentralizada, que es fuerte en el campo de la criptografía, y la colaboración de múltiples modelos, reduciendo sesgos y alucinaciones mediante un modo de verificación colectiva.
En términos de arquitectura de verificación, el protocolo Mira admite la conversión de contenido complejo en declaraciones de verificación independientes. Los operadores de nodos participan en la verificación de estas declaraciones, asegurando un comportamiento honesto a través de incentivos económicos criptográficos y mecanismos de penalización. Diferentes modelos de IA y operadores de nodos descentralizados participan conjuntamente para garantizar la fiabilidad de los resultados de verificación.
La arquitectura de red de Mira incluye conversión de contenido, validación distribuida y mecanismos de consenso. En primer lugar, el sistema descompone el contenido candidato enviado por el cliente en declaraciones verificables, que luego se distribuyen a los nodos para su validación. Los nodos determinan la validez de las declaraciones y resumen los resultados para llegar a un consenso. Para proteger la privacidad del cliente, las declaraciones se distribuyen a diferentes nodos de manera aleatoria.
Los operadores de nodos obtienen ingresos al ejecutar modelos de validadores, procesar declaraciones y enviar resultados de validación. Estos ingresos provienen del valor creado para los clientes, es decir, reducir la tasa de error de la IA en áreas críticas. Para evitar que los nodos respondan de manera aleatoria, los nodos que se desvían continuamente del consenso serán penalizados.
En general, Mira ofrece un nuevo enfoque de solución al construir una red de verificación de consenso descentralizada, lo que aporta una mayor fiabilidad a los servicios de IA de los clientes. Intenta convertirse en la capa de confianza de la IA, promoviendo el desarrollo profundo de las aplicaciones de IA.
Actualmente, Mira ha colaborado con varios marcos de agentes de IA. Los usuarios pueden participar en la red de pruebas pública a través de Klok (una aplicación de chat LLM basada en Mira), experimentar salidas de IA verificadas y tener la oportunidad de ganar puntos Mira.
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
16 me gusta
Recompensa
16
7
Compartir
Comentar
0/400
GasOptimizer
· hace3h
Según las probabilidades, el 73.5% de las respuestas de la IA están hablando tonterías sobre estadísticas.
Ver originalesResponder0
DuckFluff
· 08-06 12:57
¿Cómo decir alucinación? Simplemente es que la IA está hablando tonterías.
Ver originalesResponder0
Lonely_Validator
· 08-06 12:54
¿Vas a tomar a la gente por tonta otra vez?
Ver originalesResponder0
SeeYouInFourYears
· 08-06 12:52
He visto muchas tonterías inventadas por la IA.
Ver originalesResponder0
OnchainUndercover
· 08-06 12:49
La pregunta es que todos los grandes modelos de lenguaje están contando historias.
Lanzamiento de la prueba pública de la red Mira: ¿puede la capa de confianza de IA resolver el problema del sesgo de ilusión?
Capa de confianza de IA: Cómo la red Mira aborda los problemas de sesgo y alucinaciones en la IA
Recientemente, la red pública de pruebas de Mira se lanzó oficialmente. El proyecto tiene como objetivo construir una capa de confianza para la IA, abordando los problemas de sesgo y "alucinaciones" que existen en los sistemas de IA. Entonces, ¿por qué se necesita confiar en la IA? ¿Cómo aborda Mira este problema?
Al hablar de la IA, la gente a menudo se centra más en su poderosa capacidad. Sin embargo, el problema de las "ilusiones" o prejuicios de la IA a menudo se pasa por alto. Lo que se conoce como "ilusión" de la IA, en términos simples, es que a veces la IA "inventa" cosas, diciendo tonterías con toda seriedad. Por ejemplo, si le preguntas a la IA por qué la luna es de color rosa, puede ofrecer una serie de explicaciones que parecen razonables pero que en realidad no tienen fundamento.
La "alucinación" o el sesgo de la IA está relacionado con algunas de las rutas tecnológicas actuales de la IA. La IA generativa logra coherencia y razonabilidad al predecir el contenido "más probable", pero a veces no puede verificar la veracidad. Además, los datos de entrenamiento en sí pueden contener errores, sesgos e incluso contenido ficticio, lo que también afecta la salida de la IA. En otras palabras, la IA aprende patrones del lenguaje humano y no hechos en sí.
Los mecanismos de generación de probabilidades actuales y los modelos impulsados por datos inevitablemente llevarán a que la IA produzca "ilusiones". Si estos resultados sesgados o ilusorios se limitan a conocimientos generales o contenido de entretenimiento, es posible que no causen consecuencias directas de inmediato. Pero si ocurren en campos altamente rigurosos como la medicina, el derecho, la aviación o las finanzas, pueden tener un impacto significativo. Por lo tanto, abordar el problema de las ilusiones y sesgos de la IA se ha convertido en uno de los problemas centrales en el proceso de desarrollo de la IA.
El proyecto Mira intenta abordar este problema construyendo una capa de confianza para la IA, mejorando así la fiabilidad de la IA. Entonces, ¿cómo reduce Mira los sesgos y alucinaciones de la IA y, en última instancia, logra una IA confiable?
La filosofía central de Mira es validar la salida de la IA a través del consenso de múltiples modelos de IA. Es esencialmente una red de verificación que asegura la fiabilidad de la salida de la IA mediante la validación descentralizada del consenso. Este enfoque combina las ventajas de la verificación de consenso descentralizada, que es fuerte en el campo de la criptografía, y la colaboración de múltiples modelos, reduciendo sesgos y alucinaciones mediante un modo de verificación colectiva.
En términos de arquitectura de verificación, el protocolo Mira admite la conversión de contenido complejo en declaraciones de verificación independientes. Los operadores de nodos participan en la verificación de estas declaraciones, asegurando un comportamiento honesto a través de incentivos económicos criptográficos y mecanismos de penalización. Diferentes modelos de IA y operadores de nodos descentralizados participan conjuntamente para garantizar la fiabilidad de los resultados de verificación.
La arquitectura de red de Mira incluye conversión de contenido, validación distribuida y mecanismos de consenso. En primer lugar, el sistema descompone el contenido candidato enviado por el cliente en declaraciones verificables, que luego se distribuyen a los nodos para su validación. Los nodos determinan la validez de las declaraciones y resumen los resultados para llegar a un consenso. Para proteger la privacidad del cliente, las declaraciones se distribuyen a diferentes nodos de manera aleatoria.
Los operadores de nodos obtienen ingresos al ejecutar modelos de validadores, procesar declaraciones y enviar resultados de validación. Estos ingresos provienen del valor creado para los clientes, es decir, reducir la tasa de error de la IA en áreas críticas. Para evitar que los nodos respondan de manera aleatoria, los nodos que se desvían continuamente del consenso serán penalizados.
En general, Mira ofrece un nuevo enfoque de solución al construir una red de verificación de consenso descentralizada, lo que aporta una mayor fiabilidad a los servicios de IA de los clientes. Intenta convertirse en la capa de confianza de la IA, promoviendo el desarrollo profundo de las aplicaciones de IA.
Actualmente, Mira ha colaborado con varios marcos de agentes de IA. Los usuarios pueden participar en la red de pruebas pública a través de Klok (una aplicación de chat LLM basada en Mira), experimentar salidas de IA verificadas y tener la oportunidad de ganar puntos Mira.