La ruptura del rendimiento de Manus provoca una disputa sobre el camino de desarrollo de la IA
Recientemente, Manus ha logrado resultados pioneros en las pruebas de referencia GAIA, superando el rendimiento de modelos de lenguaje a gran escala de nivel similar. Manus demuestra la capacidad de completar tareas complejas de manera independiente, como negociaciones comerciales multinacionales, que implican el análisis de cláusulas contractuales, la formulación de estrategias y la generación de propuestas en múltiples etapas. En comparación con los sistemas tradicionales, la ventaja de Manus radica en su descomposición dinámica de objetivos, razonamiento multimodal y capacidad de aprendizaje mejorado por memoria. Puede descomponer tareas complejas en cientos de subtareas ejecutables, al mismo tiempo que maneja múltiples tipos de datos y mejora continuamente la eficiencia de decisiones y reduce la tasa de errores mediante el aprendizaje por refuerzo.
El avance de Manus ha vuelto a suscribir la discusión en la industria sobre las trayectorias de desarrollo de la IA: ¿el futuro se dirige hacia una inteligencia artificial general (AGI) que unifique todo, o hacia sistemas multi-agente (MAS) que coadyuven en el dominio?
La filosofía de diseño de Manus implica dos posibilidades:
Ruta AGI: A través de la mejora continua del nivel de inteligencia individual, acercándose a la capacidad de toma de decisiones integral humana.
Ruta MAS: como supercoordinador, dirige a miles de agentes expertos en diferentes campos para trabajar en colaboración.
Superficialmente, esta es una divergencia en diferentes caminos tecnológicos, pero en realidad refleja una profunda contradicción sobre cómo equilibrar la eficiencia y la seguridad en el desarrollo de la IA. Cuanto más cerca está la inteligencia individual de la AGI, mayor es el riesgo de la falta de transparencia en su proceso de toma de decisiones; mientras que la colaboración de múltiples agentes puede dispersar el riesgo, pero puede perder momentos críticos de decisión debido a la latencia en la comunicación.
El progreso de Manus también destaca los riesgos inherentes al desarrollo de la IA:
Problemas de privacidad de datos: En el ámbito médico, es necesario acceder a datos sensibles de los pacientes; en las negociaciones financieras, puede involucrar información no divulgada de la empresa.
Sesgo algorítmico: en las negociaciones de contratación, puede haber sugerencias salariales injustas para ciertos grupos; en la revisión de contratos legales, puede haber una tasa de error más alta en la evaluación de las cláusulas de las industrias emergentes.
Ataques adversarios: los hackers pueden interferir en el juicio de los sistemas de IA al insertar señales específicas.
Estos desafíos destacan una dura realidad: cuanto más inteligente es un sistema de IA, mayor es su superficie de ataque potencial.
Para hacer frente a estos desafíos, la industria está explorando diversas estrategias de seguridad:
Modelo de seguridad de cero confianza: requiere una estricta autenticación y autorización para cada solicitud de acceso.
Identidad descentralizada (DID): permite la identificación verificable y persistente sin depender de un registro centralizado.
Encriptación totalmente homomórfica (FHE): permite realizar cálculos sobre datos en estado cifrado, protegiendo la privacidad de los datos.
Entre ellos, se considera que FHE es la tecnología clave para resolver los problemas de seguridad en la era de la IA. Puede desempeñar un papel en los siguientes aspectos:
Capa de datos: toda la información ingresada por el usuario se procesa en estado cifrado, incluso el propio sistema de IA no puede descifrar los datos originales.
A nivel de algoritmos: implementar "entrenamiento de modelos cifrados" a través de FHE, asegurando que el proceso de decisión de la IA no sea espiado.
Nivel de colaboración: La comunicación entre múltiples agentes utiliza cifrado umbral para prevenir la filtración de datos globales debido a fallos en un solo punto.
Aunque el desarrollo de la tecnología de seguridad en Web3 puede no tener una conexión directa con los usuarios comunes, es crucial para el desarrollo saludable de todo el ecosistema. En la actualidad, con el rápido desarrollo de la IA, la importancia de la tecnología de seguridad es evidente.
A medida que la tecnología de IA se aproxima continuamente al nivel de inteligencia humana, necesitamos sistemas de defensa más avanzados. Tecnologías de seguridad como FHE no solo pueden resolver problemas actuales, sino que también pavimentan el camino hacia una era de IA más poderosa en el futuro. En el camino hacia la AGI, estas tecnologías de seguridad ya no son opcionales, sino una necesidad para la supervivencia.
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
6 me gusta
Recompensa
6
6
Compartir
Comentar
0/400
TheMemefather
· 07-19 17:07
Frente a la posición de bloqueo airdrop
Ver originalesResponder0
Anon32942
· 07-19 16:58
La inteligencia artificial general dominará a la humanidad
Ver originalesResponder0
PriceOracleFairy
· 07-19 16:58
manus filtrando alfa como un dex roto lmao... apuesto a que los vcs ya están cazando esta anomalía estadística
Ver originalesResponder0
ThatsNotARugPull
· 07-19 16:51
Manus ha vuelto a enrollar
Ver originalesResponder0
AirdropHunterKing
· 07-19 16:38
¡Otra ola de nuevos tontos va a venir a adorar la IA! El anciano ha visto demasiadas herramientas inteligentes, así que no está preocupado.
La ruptura de Manus desencadena una disputa sobre la trayectoria del desarrollo de IA, y la tecnología de seguridad se convierte en clave para el AGI.
La ruptura del rendimiento de Manus provoca una disputa sobre el camino de desarrollo de la IA
Recientemente, Manus ha logrado resultados pioneros en las pruebas de referencia GAIA, superando el rendimiento de modelos de lenguaje a gran escala de nivel similar. Manus demuestra la capacidad de completar tareas complejas de manera independiente, como negociaciones comerciales multinacionales, que implican el análisis de cláusulas contractuales, la formulación de estrategias y la generación de propuestas en múltiples etapas. En comparación con los sistemas tradicionales, la ventaja de Manus radica en su descomposición dinámica de objetivos, razonamiento multimodal y capacidad de aprendizaje mejorado por memoria. Puede descomponer tareas complejas en cientos de subtareas ejecutables, al mismo tiempo que maneja múltiples tipos de datos y mejora continuamente la eficiencia de decisiones y reduce la tasa de errores mediante el aprendizaje por refuerzo.
El avance de Manus ha vuelto a suscribir la discusión en la industria sobre las trayectorias de desarrollo de la IA: ¿el futuro se dirige hacia una inteligencia artificial general (AGI) que unifique todo, o hacia sistemas multi-agente (MAS) que coadyuven en el dominio?
La filosofía de diseño de Manus implica dos posibilidades:
Ruta AGI: A través de la mejora continua del nivel de inteligencia individual, acercándose a la capacidad de toma de decisiones integral humana.
Ruta MAS: como supercoordinador, dirige a miles de agentes expertos en diferentes campos para trabajar en colaboración.
Superficialmente, esta es una divergencia en diferentes caminos tecnológicos, pero en realidad refleja una profunda contradicción sobre cómo equilibrar la eficiencia y la seguridad en el desarrollo de la IA. Cuanto más cerca está la inteligencia individual de la AGI, mayor es el riesgo de la falta de transparencia en su proceso de toma de decisiones; mientras que la colaboración de múltiples agentes puede dispersar el riesgo, pero puede perder momentos críticos de decisión debido a la latencia en la comunicación.
El progreso de Manus también destaca los riesgos inherentes al desarrollo de la IA:
Problemas de privacidad de datos: En el ámbito médico, es necesario acceder a datos sensibles de los pacientes; en las negociaciones financieras, puede involucrar información no divulgada de la empresa.
Sesgo algorítmico: en las negociaciones de contratación, puede haber sugerencias salariales injustas para ciertos grupos; en la revisión de contratos legales, puede haber una tasa de error más alta en la evaluación de las cláusulas de las industrias emergentes.
Ataques adversarios: los hackers pueden interferir en el juicio de los sistemas de IA al insertar señales específicas.
Estos desafíos destacan una dura realidad: cuanto más inteligente es un sistema de IA, mayor es su superficie de ataque potencial.
Para hacer frente a estos desafíos, la industria está explorando diversas estrategias de seguridad:
Modelo de seguridad de cero confianza: requiere una estricta autenticación y autorización para cada solicitud de acceso.
Identidad descentralizada (DID): permite la identificación verificable y persistente sin depender de un registro centralizado.
Encriptación totalmente homomórfica (FHE): permite realizar cálculos sobre datos en estado cifrado, protegiendo la privacidad de los datos.
Entre ellos, se considera que FHE es la tecnología clave para resolver los problemas de seguridad en la era de la IA. Puede desempeñar un papel en los siguientes aspectos:
Capa de datos: toda la información ingresada por el usuario se procesa en estado cifrado, incluso el propio sistema de IA no puede descifrar los datos originales.
A nivel de algoritmos: implementar "entrenamiento de modelos cifrados" a través de FHE, asegurando que el proceso de decisión de la IA no sea espiado.
Nivel de colaboración: La comunicación entre múltiples agentes utiliza cifrado umbral para prevenir la filtración de datos globales debido a fallos en un solo punto.
Aunque el desarrollo de la tecnología de seguridad en Web3 puede no tener una conexión directa con los usuarios comunes, es crucial para el desarrollo saludable de todo el ecosistema. En la actualidad, con el rápido desarrollo de la IA, la importancia de la tecnología de seguridad es evidente.
A medida que la tecnología de IA se aproxima continuamente al nivel de inteligencia humana, necesitamos sistemas de defensa más avanzados. Tecnologías de seguridad como FHE no solo pueden resolver problemas actuales, sino que también pavimentan el camino hacia una era de IA más poderosa en el futuro. En el camino hacia la AGI, estas tecnologías de seguridad ya no son opcionales, sino una necesidad para la supervivencia.