Cột mốc mới trong sự phát triển AI: Những đột phá và thách thức của mô hình Manus

Gần đây, mô hình Manus đã đạt được những thành tựu đột phá trong bài kiểm tra GAIA, với hiệu suất vượt trội hơn các mô hình ngôn ngữ lớn cùng cấp. Thành tựu này có nghĩa là Manus có khả năng xử lý độc lập các nhiệm vụ phức tạp, như đàm phán kinh doanh xuyên quốc gia, bao gồm phân tích hợp đồng, xây dựng chiến lược và phối hợp nhóm.

Ưu điểm của Manus chủ yếu được thể hiện ở ba khía cạnh: phân giải mục tiêu động, suy luận đa phương thức và học tăng cường bộ nhớ. Nó có thể phân tách các nhiệm vụ phức tạp thành hàng trăm nhiệm vụ con có thể thực hiện được, đồng thời xử lý nhiều loại dữ liệu khác nhau, và liên tục nâng cao hiệu quả quyết định thông qua học tăng cường, giảm tỷ lệ lỗi.

Diễn biến này lại khơi dậy cuộc thảo luận trong ngành về con đường phát triển AI: là phát triển theo hướng một mô hình trí tuệ nhân tạo tổng quát (AGI), hay là chủ yếu dựa trên hợp tác của các hệ thống đa tác nhân (MAS)?

Triết lý thiết kế của Manus gợi ý hai khả năng:

1. Đường đi AGI: Nâng cao khả năng của một hệ thống trí tuệ nhân tạo đơn lẻ để đạt được mức độ ra quyết định tổng hợp gần giống với con người.

2. Đường MAS: Sử dụng Manus như một điều phối viên siêu, chỉ huy nhiều tác nhân chuyên môn hợp tác làm việc.

Hai lựa chọn này thực sự phản ánh vấn đề cân bằng giữa hiệu suất và an toàn trong sự phát triển của AI. Khi một tác nhân đơn lẻ càng gần AGI, quá trình ra quyết định của nó càng khó lý giải; trong khi hợp tác giữa nhiều tác nhân có thể phân tán rủi ro, nhưng có thể bỏ lỡ thời điểm quyết định quan trọng do độ trễ trong giao tiếp.

Sự phát triển của Manus cũng làm nổi bật những rủi ro vốn có của hệ thống AI:

1. Vấn đề quyền riêng tư dữ liệu: Trong các lĩnh vực như y tế, tài chính, Manus cần truy cập dữ liệu nhạy cảm.

2. Thiên vị thuật toán: Có thể xảy ra các quyết định không công bằng trong các lĩnh vực như nhân sự.

3. Lỗ hổng an ninh: Hacker có thể can thiệp vào phán đoán của Manus theo những cách cụ thể.

Những vấn đề này phản ánh một xu hướng đáng lo ngại: Hệ thống AI càng thông minh, thì diện tấn công tiềm ẩn càng rộng.

Để đối phó với những thách thức này, ngành công nghiệp đang khám phá nhiều giải pháp an ninh khác nhau:

1. Mô hình an ninh không tin cậy: Thực hiện xác thực và ủy quyền nghiêm ngặt cho mỗi yêu cầu truy cập.

2. Danh tính phi tập trung (DID): Thực hiện xác thực và nhận diện danh tính bền vững mà không cần đăng ký tập trung.

3. Mã hóa toàn phần (FHE): cho phép tính toán dữ liệu trong trạng thái được mã hóa, bảo vệ quyền riêng tư.

Trong đó, FHE được coi là công nghệ then chốt để giải quyết các vấn đề an ninh trong thời đại AI. Nó có thể phát huy tác dụng trong các lĩnh vực sau:

• Mặt dữ liệu: Thông tin người dùng được xử lý trong trạng thái mã hóa, ngay cả hệ thống AI cũng không thể giải mã dữ liệu gốc.

• Cấp độ thuật toán: Thực hiện "đào tạo mô hình mã hóa" thông qua FHE, đảm bảo tính riêng tư trong quá trình ra quyết định.

• Mặt phối hợp: Việc giao tiếp giữa nhiều tác nhân thông minh sử dụng mã hóa ngưỡng, nâng cao tính an toàn của toàn bộ hệ thống.

Trong lĩnh vực Web3, một số dự án đã bắt đầu khám phá việc ứng dụng các công nghệ bảo mật này. Ví dụ, một dự án đã phát hành giải pháp danh tính phi tập trung trên mạng chính của Ethereum, trong khi một dự án khác tập trung vào việc thực hiện mô hình bảo mật không tin cậy. Còn một dự án khác đã trở thành dự án FHE đầu tiên ra mắt trên mạng chính và hợp tác với nhiều tổ chức nổi tiếng.

Khi công nghệ AI ngày càng gần gũi với mức độ thông minh của con người, việc xây dựng một hệ thống phòng thủ an toàn mạnh mẽ trở nên vô cùng quan trọng. Các công nghệ mã hóa tiên tiến như FHE không chỉ giải quyết các vấn đề an ninh hiện tại mà còn mở đường cho các hệ thống AI mạnh mẽ hơn trong tương lai. Trong hành trình hướng tới AGI, những công nghệ an ninh này sẽ đóng vai trò ngày càng quan trọng.