Новий етап розвитку ШІ: прориви та виклики моделі Manus

Нещодавно модель Manus досягла революційних результатів у бенчмаркінгу GAIA, перевершивши можливості інших великих мовних моделей того ж класу. Це досягнення означає, що Manus може самостійно вирішувати складні завдання, такі як міжнародні бізнес-переговори, що включають аналіз контрактів, розробку стратегій та координацію команди.

Переваги Manus в основному проявляються в трьох аспектах: динамічне розподіл цілей, крос-модальне міркування та посилене навчання пам'яті. Він може розбити складні завдання на сотні виконуваних підзавдань, одночасно обробляючи різні типи даних і постійно покращуючи ефективність прийняття рішень через підкріплене навчання, знижуючи рівень помилок.

Цей прогрес знову викликав обговорення в індустрії щодо шляхів розвитку ШІ: чи рухатися в напрямку універсального штучного інтелекту (AGI) з єдиною моделлю, чи зосередитися на співпраці багатих агентних систем (MAS)?

Дизайнерська концепція Manus натякає на дві можливості:

1. Шлях AGI: шляхом безперервного підвищення можливостей окремої інтелектуальної системи, наблизити її до рівня комплексного ухвалення рішень людиною.

2. Шлях MAS: використання Manus як суперкоординатора для координації спільної роботи багатьох агентів у різних професійних сферах.

Вибір між цими двома шляхами фактично відображає проблему балансу між ефективністю та безпекою в розвитку ШІ. Чим ближче одиничний агент до AGI, тим складніше пояснити його процес прийняття рішень; тоді як співпраця багатьох агентів може знизити ризики, але може пропустити критичні моменти прийняття рішень через затримки зв'язку.

Розвиток Manus також підкреслює вроджені ризики AI-систем:

1. Проблема конфіденційності даних: у таких сферах, як охорона здоров'я та фінанси, Manus потрібно отримати доступ до чутливих даних.

2. Алгоритмічна упередженість: у таких сферах, як управління людськими ресурсами, можуть виникати несправедливі рішення.

3. Вразливість безпеки: Хакери можуть перешкоджати оцінці Manus певними способами.

Ці питання відображають тривожну тенденцію: чим розумніші системи ШІ, тим ширша їхня потенційна зона атаки.

Щоб впоратися з цими викликами, галузь досліджує різні рішення безпеки:

1. Модель нульового довіри: сувора автентифікація та авторизація для кожного запиту на доступ.

2. Децентралізовані ідентичності (DID): забезпечення перевіряємого та стійкого ідентифікаційного процесу без централізованої реєстрації.

3. Повна гомоморфна криптографія (FHE): дозволяє виконувати обчислення над даними в зашифрованому стані, захищаючи приватність.

Серед них FHE вважається ключовою технологією для вирішення проблем безпеки в епоху ШІ. Вона може відігравати роль у таких аспектах:

• Дані на рівні: інформація користувача обробляється в зашифрованому стані, навіть сама система штучного інтелекту не може розшифрувати первинні дані.

• Алгоритмічний рівень: реалізація "навчання зашифрованих моделей" через FHE, що гарантує конфіденційність процесу прийняття рішень.

• Співпраця: зв'язок між кількома агентами використовує порогове шифрування для підвищення загальної безпеки системи.

У сфері Web3 деякі проекти вже почали досліджувати застосування цих технологій безпеки. Наприклад, один проект випустив децентралізоване рішення для ідентифікації на основі Ethereum, інший проект зосередився на реалізації моделі нульового довіри. Ще один проект став першим FHE проектом, який запустився в основній мережі, і співпрацює з кількома відомими установами.

З наближенням технології штучного інтелекту до рівня людського інтелекту, створення потужної системи безпеки стає надзвичайно важливим. Просунуті технології шифрування, такі як FHE, можуть не лише вирішити поточні проблеми безпеки, але й прокласти шлях для майбутніх потужніших систем штучного інтелекту. На шляху до AGI ці технології безпеки відіграватимуть все більш важливу роль.