El modelo Manus se destaca en las pruebas de referencia GAIA, generando controversia sobre la trayectoria del desarrollo de la IA
Recientemente, el modelo Manus ha logrado resultados innovadores en el Indicador de referencia GAIA, superando el rendimiento de modelos de lenguaje de gran tamaño de nivel comparable. Este logro demuestra la capacidad excepcional de Manus para manejar tareas complejas, como negociaciones comerciales internacionales, que involucran análisis de contratos, formulación de estrategias y generación de propuestas.
Las ventajas de Manus se manifiestan principalmente en tres aspectos: descomposición dinámica de objetivos, razonamiento multimodal y aprendizaje mejorado por memoria. Puede descomponer tareas complejas en cientos de subtareas ejecutables, manejar múltiples tipos de datos y mejorar continuamente la eficiencia de la toma de decisiones y reducir la tasa de errores mediante el aprendizaje por refuerzo.
Este avance ha reavivado la discusión en la industria sobre la trayectoria del desarrollo de la IA: ¿se dirige hacia la inteligencia artificial general (AGI) o hacia sistemas multiagente (MAS)?
La filosofía de diseño de Manus sugiere dos posibilidades:
Ruta AGI: A través de la mejora continua de las capacidades de un único sistema inteligente, acercándolo gradualmente al nivel de toma de decisiones integral de los humanos.
Ruta MAS: posicionar a Manus como el supercoordinador, dirigiendo a miles de agentes especializados para que trabajen en colaboración.
Estos dos caminos reflejan una contradicción central en el desarrollo de la IA: ¿cómo equilibrar la eficiencia y la seguridad? Cuanto más se acerca un sistema inteligente singular a la AGI, más difícil es explicar su proceso de toma de decisiones; mientras que un sistema de múltiples agentes puede diversificar el riesgo, pero puede perder momentos clave de decisión debido a la latencia en la comunicación.
Los avances de Manus también han ampliado los riesgos potenciales en el desarrollo de la IA. Por ejemplo, en el ámbito médico, puede ser necesario acceder a datos genéticos sensibles de los pacientes; en negociaciones financieras, puede haber contacto con información financiera empresarial no divulgada. Además, existe el problema de sesgo algorítmico, como las recomendaciones salariales injustas hacia ciertos grupos durante el proceso de contratación. En la revisión de contratos legales, puede haber una alta tasa de error en los términos de las industrias emergentes. Más grave aún, los hackers podrían interferir en el juicio de Manus durante las negociaciones al implantar señales de audio específicas.
Estos desafíos destacan una dura realidad: cuanto más inteligentes son los sistemas de IA, mayor es su potencial superficie de ataque.
En el ámbito de Web3, la seguridad siempre ha sido un tema de gran atención. La teoría del "triángulo imposible" propuesta por el fundador de Ethereum, Vitalik Buterin (las redes blockchain no pueden lograr simultáneamente seguridad, descentralización y escalabilidad) ha dado lugar a diversas tecnologías criptográficas:
Modelo de seguridad de cero confianza: enfatiza la verificación e implementación de autorización estricta para cada solicitud de acceso.
Identidad descentralizada (DID): permite a las entidades obtener una identidad verificable sin necesidad de un registro centralizado.
Encriptación totalmente homomórfica (FHE): permite realizar cálculos sobre datos en estado cifrado, protegiendo la privacidad de los datos.
Entre ellos, la criptografía de homomorfismo completo se considera una tecnología clave para resolver los problemas de seguridad en la era de la IA. Puede desempeñar un papel en los siguientes aspectos:
A nivel de datos: toda la información ingresada por el usuario se procesa en estado de cifrado, incluso el propio sistema de IA no puede descifrar los datos originales.
En el nivel del algoritmo: implementar el "entrenamiento de modelos cifrados" a través de FHE, de modo que ni siquiera los desarrolladores puedan espiar el proceso de decisión de la IA.
Nivel de colaboración: La comunicación entre múltiples agentes utiliza cifrado umbral, lo que significa que incluso si un solo nodo es comprometido, no se producirá una filtración de datos global.
En el ámbito de la seguridad Web3, varios proyectos han sido explorados. Por ejemplo, uPort se lanzó en la mainnet de Ethereum en 2017 y es uno de los primeros proyectos de identidad descentralizada. NKN lanzó su mainnet en 2019, basada en un modelo de seguridad de cero confianza. En el campo de FHE, Mind Network es el primer proyecto en lanzar su mainnet y ha establecido colaboraciones con varias instituciones reconocidas.
Con el rápido desarrollo de la tecnología de IA, se vuelve cada vez más importante construir un potente sistema de defensa de seguridad. La criptografía homomórfica completa no solo puede resolver los problemas de seguridad actuales, sino que también se prepara para la llegada de la era de la IA fuerte en el futuro. En el camino hacia la AGI, la FHE se ha convertido en un soporte técnico indispensable.
Ver originales
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
El modelo Manus supera la prueba de GAIA, lo que genera controversias sobre la trayectoria y la seguridad del desarrollo de la IA.
El modelo Manus se destaca en las pruebas de referencia GAIA, generando controversia sobre la trayectoria del desarrollo de la IA
Recientemente, el modelo Manus ha logrado resultados innovadores en el Indicador de referencia GAIA, superando el rendimiento de modelos de lenguaje de gran tamaño de nivel comparable. Este logro demuestra la capacidad excepcional de Manus para manejar tareas complejas, como negociaciones comerciales internacionales, que involucran análisis de contratos, formulación de estrategias y generación de propuestas.
Las ventajas de Manus se manifiestan principalmente en tres aspectos: descomposición dinámica de objetivos, razonamiento multimodal y aprendizaje mejorado por memoria. Puede descomponer tareas complejas en cientos de subtareas ejecutables, manejar múltiples tipos de datos y mejorar continuamente la eficiencia de la toma de decisiones y reducir la tasa de errores mediante el aprendizaje por refuerzo.
Este avance ha reavivado la discusión en la industria sobre la trayectoria del desarrollo de la IA: ¿se dirige hacia la inteligencia artificial general (AGI) o hacia sistemas multiagente (MAS)?
La filosofía de diseño de Manus sugiere dos posibilidades:
Ruta AGI: A través de la mejora continua de las capacidades de un único sistema inteligente, acercándolo gradualmente al nivel de toma de decisiones integral de los humanos.
Ruta MAS: posicionar a Manus como el supercoordinador, dirigiendo a miles de agentes especializados para que trabajen en colaboración.
Estos dos caminos reflejan una contradicción central en el desarrollo de la IA: ¿cómo equilibrar la eficiencia y la seguridad? Cuanto más se acerca un sistema inteligente singular a la AGI, más difícil es explicar su proceso de toma de decisiones; mientras que un sistema de múltiples agentes puede diversificar el riesgo, pero puede perder momentos clave de decisión debido a la latencia en la comunicación.
Los avances de Manus también han ampliado los riesgos potenciales en el desarrollo de la IA. Por ejemplo, en el ámbito médico, puede ser necesario acceder a datos genéticos sensibles de los pacientes; en negociaciones financieras, puede haber contacto con información financiera empresarial no divulgada. Además, existe el problema de sesgo algorítmico, como las recomendaciones salariales injustas hacia ciertos grupos durante el proceso de contratación. En la revisión de contratos legales, puede haber una alta tasa de error en los términos de las industrias emergentes. Más grave aún, los hackers podrían interferir en el juicio de Manus durante las negociaciones al implantar señales de audio específicas.
Estos desafíos destacan una dura realidad: cuanto más inteligentes son los sistemas de IA, mayor es su potencial superficie de ataque.
En el ámbito de Web3, la seguridad siempre ha sido un tema de gran atención. La teoría del "triángulo imposible" propuesta por el fundador de Ethereum, Vitalik Buterin (las redes blockchain no pueden lograr simultáneamente seguridad, descentralización y escalabilidad) ha dado lugar a diversas tecnologías criptográficas:
Modelo de seguridad de cero confianza: enfatiza la verificación e implementación de autorización estricta para cada solicitud de acceso.
Identidad descentralizada (DID): permite a las entidades obtener una identidad verificable sin necesidad de un registro centralizado.
Encriptación totalmente homomórfica (FHE): permite realizar cálculos sobre datos en estado cifrado, protegiendo la privacidad de los datos.
Entre ellos, la criptografía de homomorfismo completo se considera una tecnología clave para resolver los problemas de seguridad en la era de la IA. Puede desempeñar un papel en los siguientes aspectos:
A nivel de datos: toda la información ingresada por el usuario se procesa en estado de cifrado, incluso el propio sistema de IA no puede descifrar los datos originales.
En el nivel del algoritmo: implementar el "entrenamiento de modelos cifrados" a través de FHE, de modo que ni siquiera los desarrolladores puedan espiar el proceso de decisión de la IA.
Nivel de colaboración: La comunicación entre múltiples agentes utiliza cifrado umbral, lo que significa que incluso si un solo nodo es comprometido, no se producirá una filtración de datos global.
En el ámbito de la seguridad Web3, varios proyectos han sido explorados. Por ejemplo, uPort se lanzó en la mainnet de Ethereum en 2017 y es uno de los primeros proyectos de identidad descentralizada. NKN lanzó su mainnet en 2019, basada en un modelo de seguridad de cero confianza. En el campo de FHE, Mind Network es el primer proyecto en lanzar su mainnet y ha establecido colaboraciones con varias instituciones reconocidas.
Con el rápido desarrollo de la tecnología de IA, se vuelve cada vez más importante construir un potente sistema de defensa de seguridad. La criptografía homomórfica completa no solo puede resolver los problemas de seguridad actuales, sino que también se prepara para la llegada de la era de la IA fuerte en el futuro. En el camino hacia la AGI, la FHE se ha convertido en un soporte técnico indispensable.