Le modèle Manus a excellé dans les tests de référence GAIA, suscitant des controverses sur la trajectoire du développement de l'IA.
Récemment, le modèle Manus a réalisé des performances révolutionnaires dans le benchmark GAIA, surpassant les grands modèles de langage de même niveau. Cet accomplissement démontre l'excellence de Manus dans le traitement de tâches complexes, telles que les négociations commerciales internationales, impliquant l'analyse de contrats, la formulation de stratégies et la génération de solutions.
Les avantages de Manus se manifestent principalement dans trois domaines : la décomposition dynamique des objectifs, le raisonnement multimodal et l'apprentissage renforcé de la mémoire. Il peut décomposer des tâches complexes en centaines de sous-tâches exécutables, tout en traitant plusieurs types de données, et en améliorant continuellement l'efficacité des décisions et en réduisant le taux d'erreurs grâce à l'apprentissage par renforcement.
Cette avancée a de nouveau suscité des discussions dans l'industrie sur la voie de développement de l'IA : l'avenir est-il celui de l'intelligence artificielle générale (AGI) ou des systèmes multi-agents (MAS) ?
La philosophie de conception de Manus suggère deux possibilités :
Chemin AGI : En améliorant continuellement les capacités d'un système intelligent unique, il se rapproche progressivement du niveau de décision global de l'homme.
Chemin MAS : Positionner Manus en tant que super coordinateur pour diriger des milliers d'agents spécialisés à travailler en collaboration.
Ces deux voies reflètent une contradiction centrale dans le développement de l'IA : comment équilibrer efficacité et sécurité ? Plus un système intelligent unique se rapproche de l'AGI, plus son processus de décision devient difficile à expliquer ; tandis qu'un système multi-agents, bien qu'il puisse répartir les risques, pourrait manquer des moments clés de décision en raison de retards de communication.
Les progrès de Manus amplifient également les risques potentiels dans le développement de l'IA. Par exemple, dans le domaine médical, il peut être nécessaire d'accéder aux données génétiques sensibles des patients ; dans les négociations financières, il peut y avoir un accès à des informations financières d'entreprise non divulguées. De plus, il existe des problèmes de biais algorithmique, comme des recommandations salariales injustes pour certains groupes pendant le processus de recrutement. En ce qui concerne l'examen des contrats juridiques, il pourrait y avoir un taux d'erreur élevé sur les termes des industries émergentes. Plus grave encore, des hackers pourraient interférer avec le jugement de Manus lors des négociations en injectant des signaux audio spécifiques.
Ces défis mettent en évidence une réalité sévère : plus les systèmes d'IA sont intelligents, plus leur surface d'attaque potentielle est large.
Dans le domaine du Web3, la sécurité a toujours été un sujet de préoccupation majeur. La théorie du "triangle impossible" proposée par le fondateur d'Ethereum, Vitalik Buterin (les réseaux de blockchain ne peuvent pas réaliser simultanément la sécurité, la décentralisation et l'évolutivité) a engendré diverses technologies cryptographiques :
Modèle de sécurité Zero Trust : met l'accent sur une authentification et une autorisation strictes de chaque demande d'accès.
Identité décentralisée (DID) : permet aux entités d'obtenir une identité vérifiable sans avoir besoin d'un enregistrement centralisé.
Chiffrement homomorphe complet (FHE) : permet de calculer des données en état chiffré, protégeant la vie privée des données.
Parmi eux, le chiffrement homomorphe est considéré comme la technologie clé pour résoudre les problèmes de sécurité à l'ère de l'IA. Il peut jouer un rôle dans plusieurs domaines :
Niveau des données : toutes les informations saisies par l'utilisateur sont traitées sous un état crypté, même le système d'IA lui-même ne peut pas déchiffrer les données originales.
Niveau algorithme : réaliser "l'entraînement de modèles cryptés" via FHE, même les développeurs ne peuvent pas apercevoir le processus de décision de l'IA.
Niveau de collaboration : La communication entre plusieurs agents intelligents utilise le chiffrement par seuil, de sorte qu'une seule attaque sur un nœud ne conduise pas à une fuite de données globale.
Dans le domaine de la sécurité Web3, plusieurs projets ont été explorés. Par exemple, uPort a été lancé sur la blockchain principale d'Ethereum en 2017, étant l'un des premiers projets d'identité décentralisée. NKN a lancé sa blockchain principale en 2019, basée sur un modèle de sécurité zéro confiance. Dans le domaine de l'FHE, Mind Network est le premier projet à avoir lancé une blockchain principale et a établi des partenariats avec plusieurs institutions renommées.
Avec le développement rapide des technologies d'IA, il devient de plus en plus important de construire un système de défense sécurisé puissant. Le chiffrement homomorphe complet (FHE) non seulement résout les problèmes de sécurité actuels, mais prépare également l'avenir pour l'avènement de l'ère de l'IA forte. Sur la route vers l'AGI, le FHE est devenu un soutien technologique indispensable.
Voir l'original
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
Le modèle Manus surmonte le test GAIA, soulevant des controverses sur le chemin de développement et la sécurité de l'IA.
Le modèle Manus a excellé dans les tests de référence GAIA, suscitant des controverses sur la trajectoire du développement de l'IA.
Récemment, le modèle Manus a réalisé des performances révolutionnaires dans le benchmark GAIA, surpassant les grands modèles de langage de même niveau. Cet accomplissement démontre l'excellence de Manus dans le traitement de tâches complexes, telles que les négociations commerciales internationales, impliquant l'analyse de contrats, la formulation de stratégies et la génération de solutions.
Les avantages de Manus se manifestent principalement dans trois domaines : la décomposition dynamique des objectifs, le raisonnement multimodal et l'apprentissage renforcé de la mémoire. Il peut décomposer des tâches complexes en centaines de sous-tâches exécutables, tout en traitant plusieurs types de données, et en améliorant continuellement l'efficacité des décisions et en réduisant le taux d'erreurs grâce à l'apprentissage par renforcement.
Cette avancée a de nouveau suscité des discussions dans l'industrie sur la voie de développement de l'IA : l'avenir est-il celui de l'intelligence artificielle générale (AGI) ou des systèmes multi-agents (MAS) ?
La philosophie de conception de Manus suggère deux possibilités :
Chemin AGI : En améliorant continuellement les capacités d'un système intelligent unique, il se rapproche progressivement du niveau de décision global de l'homme.
Chemin MAS : Positionner Manus en tant que super coordinateur pour diriger des milliers d'agents spécialisés à travailler en collaboration.
Ces deux voies reflètent une contradiction centrale dans le développement de l'IA : comment équilibrer efficacité et sécurité ? Plus un système intelligent unique se rapproche de l'AGI, plus son processus de décision devient difficile à expliquer ; tandis qu'un système multi-agents, bien qu'il puisse répartir les risques, pourrait manquer des moments clés de décision en raison de retards de communication.
Les progrès de Manus amplifient également les risques potentiels dans le développement de l'IA. Par exemple, dans le domaine médical, il peut être nécessaire d'accéder aux données génétiques sensibles des patients ; dans les négociations financières, il peut y avoir un accès à des informations financières d'entreprise non divulguées. De plus, il existe des problèmes de biais algorithmique, comme des recommandations salariales injustes pour certains groupes pendant le processus de recrutement. En ce qui concerne l'examen des contrats juridiques, il pourrait y avoir un taux d'erreur élevé sur les termes des industries émergentes. Plus grave encore, des hackers pourraient interférer avec le jugement de Manus lors des négociations en injectant des signaux audio spécifiques.
Ces défis mettent en évidence une réalité sévère : plus les systèmes d'IA sont intelligents, plus leur surface d'attaque potentielle est large.
Dans le domaine du Web3, la sécurité a toujours été un sujet de préoccupation majeur. La théorie du "triangle impossible" proposée par le fondateur d'Ethereum, Vitalik Buterin (les réseaux de blockchain ne peuvent pas réaliser simultanément la sécurité, la décentralisation et l'évolutivité) a engendré diverses technologies cryptographiques :
Modèle de sécurité Zero Trust : met l'accent sur une authentification et une autorisation strictes de chaque demande d'accès.
Identité décentralisée (DID) : permet aux entités d'obtenir une identité vérifiable sans avoir besoin d'un enregistrement centralisé.
Chiffrement homomorphe complet (FHE) : permet de calculer des données en état chiffré, protégeant la vie privée des données.
Parmi eux, le chiffrement homomorphe est considéré comme la technologie clé pour résoudre les problèmes de sécurité à l'ère de l'IA. Il peut jouer un rôle dans plusieurs domaines :
Niveau des données : toutes les informations saisies par l'utilisateur sont traitées sous un état crypté, même le système d'IA lui-même ne peut pas déchiffrer les données originales.
Niveau algorithme : réaliser "l'entraînement de modèles cryptés" via FHE, même les développeurs ne peuvent pas apercevoir le processus de décision de l'IA.
Niveau de collaboration : La communication entre plusieurs agents intelligents utilise le chiffrement par seuil, de sorte qu'une seule attaque sur un nœud ne conduise pas à une fuite de données globale.
Dans le domaine de la sécurité Web3, plusieurs projets ont été explorés. Par exemple, uPort a été lancé sur la blockchain principale d'Ethereum en 2017, étant l'un des premiers projets d'identité décentralisée. NKN a lancé sa blockchain principale en 2019, basée sur un modèle de sécurité zéro confiance. Dans le domaine de l'FHE, Mind Network est le premier projet à avoir lancé une blockchain principale et a établi des partenariats avec plusieurs institutions renommées.
Avec le développement rapide des technologies d'IA, il devient de plus en plus important de construire un système de défense sécurisé puissant. Le chiffrement homomorphe complet (FHE) non seulement résout les problèmes de sécurité actuels, mais prépare également l'avenir pour l'avènement de l'ère de l'IA forte. Sur la route vers l'AGI, le FHE est devenu un soutien technologique indispensable.