Модель Manus продемонструвала відмінні результати в бенчмарк-тестуванні GAIA, викликавши суперечки щодо шляхів розвитку ШІ
Нещодавно модель Manus досягла проривних результатів у бенчмарку GAIA, її продуктивність перевищила продуктивність великих мовних моделей того ж рівня. Це досягнення демонструє видатні можливості Manus у виконанні складних завдань, таких як міжнародні бізнес-угоди, що включають аналіз контрактів, розробку стратегій та генерування пропозицій.
Переваги Manus в основному проявляються в трьох аспектах: динамічне розбиття цілей, крос-модальне міркування та підсилене навчання пам'яті. Він може розбити складні завдання на сотні виконуваних підзавдань, одночасно обробляючи різні типи даних та постійно підвищуючи ефективність прийняття рішень і знижуючи ймовірність помилок за допомогою навчання з підкріпленням.
Цей прогрес знову викликав обговорення в галузі щодо шляхів розвитку ШІ: чи майбутнє за загальним штучним інтелектом (AGI), чи за багатими агентними системами (MAS)?
Дизайн концепції Manus натякає на дві можливості:
Шлях AGI: шляхом постійного підвищення можливостей окремої інтелектуальної системи, щоб вона поступово наближалася до рівня комплексного прийняття рішень людиною.
MAS шлях: Визначити Manus як суперкоординатора, що керує тисячами агентів у спеціалізованих галузях для спільної роботи.
Ці два шляхи відображають один з основних конфліктів у розвитку ШІ: як збалансувати ефективність і безпеку? Одноразова інтелектуальна система, чим ближче вона до AGI, тим важче її процес прийняття рішень пояснити; а система з багатьма агентами, хоча й може розподілити ризики, може пропустити ключові моменти прийняття рішень через затримки в комунікації.
Прогрес Manus також підкреслив потенційні ризики в розвитку ШІ. Наприклад, у медичних сценаріях може знадобитися доступ до чутливих генетичних даних пацієнтів; у фінансових переговорах можуть бути розкриті невідомі фінансові дані компанії. Крім того, існує проблема алгоритмічної упередженості, наприклад, несправедливі пропозиції щодо зарплати для певних груп під час набору персоналу. Щодо перевірки юридичних контрактів, то може бути високий рівень помилок у трактуванні умов нових галузей. Ще серйозніше, хакери можуть через впровадження певних аудіосигналів заважати оцінці Manus під час переговорів.
Ці виклики підкреслюють сувору реальність: чим розумніші системи штучного інтелекту, тим ширшою є їхня потенційна площина атак.
У сфері Web3 безпека завжди була предметом великої уваги. Теорія "неможливого трикутника", запропонована засновником Ethereum Віталіком Бутеріним (блокчейн-мережа не може одночасно забезпечити безпеку, децентралізацію та масштабованість), стала основою для розвитку різних криптотехнологій:
Модель нульової довіри: підкреслює необхідність суворої аутентифікації та авторизації для кожного запиту на доступ.
Децентралізовані ідентифікатори (DID): дозволяють сутностям отримувати перевірені ідентифікації без централізованої реєстрації.
Повна гомоморфна криптографія (FHE): дозволяє виконувати обчислення над даними в зашифрованому стані, захищаючи конфіденційність даних.
Серед них, гомоморфне шифрування вважається ключовою технологією для вирішення проблем безпеки в епоху ШІ. Воно може відігравати роль у кількох аспектах:
На рівні даних: Вся інформація, введена користувачем, обробляється в зашифрованому стані, навіть сама AI-система не може розшифрувати вихідні дані.
Алгоритмічний рівень: реалізація "шифрованого навчання моделей" через FHE, навіть розробники не можуть заглянути в процес прийняття рішень AI.
Координаційний рівень: комунікація між кількома агентами здійснюється за допомогою шифрування з порогом, навіть якщо один з вузлів буде зламано, це не призведе до витоку глобальних даних.
У сфері безпеки Web3 вже було проведено кілька досліджень. Наприклад, uPort, який було випущено у 2017 році на основі основної мережі Ethereum, є одним з перших проектів децентралізованої ідентичності. NKN випустила основну мережу, засновану на моделі безпеки з нульовою довірою, у 2019 році. А у сфері FHE Mind Network є першим проектом, який запустив основну мережу та встановив партнерські відносини з кількома відомими установами.
З розвитком технологій ШІ стає дедалі важливішим створення потужної системи безпеки. Повна гомоморфна криптографія не лише вирішує поточні проблеми безпеки, але й готує нас до приходу епохи сильного ШІ. На шляху до AGI FHE вже став невід'ємною технологічною підтримкою.
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
Модель Manus подолала тест GAIA, що викликало суперечки щодо шляхів розвитку штучного інтелекту та безпеки.
Модель Manus продемонструвала відмінні результати в бенчмарк-тестуванні GAIA, викликавши суперечки щодо шляхів розвитку ШІ
Нещодавно модель Manus досягла проривних результатів у бенчмарку GAIA, її продуктивність перевищила продуктивність великих мовних моделей того ж рівня. Це досягнення демонструє видатні можливості Manus у виконанні складних завдань, таких як міжнародні бізнес-угоди, що включають аналіз контрактів, розробку стратегій та генерування пропозицій.
Переваги Manus в основному проявляються в трьох аспектах: динамічне розбиття цілей, крос-модальне міркування та підсилене навчання пам'яті. Він може розбити складні завдання на сотні виконуваних підзавдань, одночасно обробляючи різні типи даних та постійно підвищуючи ефективність прийняття рішень і знижуючи ймовірність помилок за допомогою навчання з підкріпленням.
Цей прогрес знову викликав обговорення в галузі щодо шляхів розвитку ШІ: чи майбутнє за загальним штучним інтелектом (AGI), чи за багатими агентними системами (MAS)?
Дизайн концепції Manus натякає на дві можливості:
Шлях AGI: шляхом постійного підвищення можливостей окремої інтелектуальної системи, щоб вона поступово наближалася до рівня комплексного прийняття рішень людиною.
MAS шлях: Визначити Manus як суперкоординатора, що керує тисячами агентів у спеціалізованих галузях для спільної роботи.
Ці два шляхи відображають один з основних конфліктів у розвитку ШІ: як збалансувати ефективність і безпеку? Одноразова інтелектуальна система, чим ближче вона до AGI, тим важче її процес прийняття рішень пояснити; а система з багатьма агентами, хоча й може розподілити ризики, може пропустити ключові моменти прийняття рішень через затримки в комунікації.
Прогрес Manus також підкреслив потенційні ризики в розвитку ШІ. Наприклад, у медичних сценаріях може знадобитися доступ до чутливих генетичних даних пацієнтів; у фінансових переговорах можуть бути розкриті невідомі фінансові дані компанії. Крім того, існує проблема алгоритмічної упередженості, наприклад, несправедливі пропозиції щодо зарплати для певних груп під час набору персоналу. Щодо перевірки юридичних контрактів, то може бути високий рівень помилок у трактуванні умов нових галузей. Ще серйозніше, хакери можуть через впровадження певних аудіосигналів заважати оцінці Manus під час переговорів.
Ці виклики підкреслюють сувору реальність: чим розумніші системи штучного інтелекту, тим ширшою є їхня потенційна площина атак.
У сфері Web3 безпека завжди була предметом великої уваги. Теорія "неможливого трикутника", запропонована засновником Ethereum Віталіком Бутеріним (блокчейн-мережа не може одночасно забезпечити безпеку, децентралізацію та масштабованість), стала основою для розвитку різних криптотехнологій:
Модель нульової довіри: підкреслює необхідність суворої аутентифікації та авторизації для кожного запиту на доступ.
Децентралізовані ідентифікатори (DID): дозволяють сутностям отримувати перевірені ідентифікації без централізованої реєстрації.
Повна гомоморфна криптографія (FHE): дозволяє виконувати обчислення над даними в зашифрованому стані, захищаючи конфіденційність даних.
Серед них, гомоморфне шифрування вважається ключовою технологією для вирішення проблем безпеки в епоху ШІ. Воно може відігравати роль у кількох аспектах:
На рівні даних: Вся інформація, введена користувачем, обробляється в зашифрованому стані, навіть сама AI-система не може розшифрувати вихідні дані.
Алгоритмічний рівень: реалізація "шифрованого навчання моделей" через FHE, навіть розробники не можуть заглянути в процес прийняття рішень AI.
Координаційний рівень: комунікація між кількома агентами здійснюється за допомогою шифрування з порогом, навіть якщо один з вузлів буде зламано, це не призведе до витоку глобальних даних.
У сфері безпеки Web3 вже було проведено кілька досліджень. Наприклад, uPort, який було випущено у 2017 році на основі основної мережі Ethereum, є одним з перших проектів децентралізованої ідентичності. NKN випустила основну мережу, засновану на моделі безпеки з нульовою довірою, у 2019 році. А у сфері FHE Mind Network є першим проектом, який запустив основну мережу та встановив партнерські відносини з кількома відомими установами.
З розвитком технологій ШІ стає дедалі важливішим створення потужної системи безпеки. Повна гомоморфна криптографія не лише вирішує поточні проблеми безпеки, але й готує нас до приходу епохи сильного ШІ. На шляху до AGI FHE вже став невід'ємною технологічною підтримкою.