AI安全新方向:全同態加密如何應對Manus引發的挑戰

robot
摘要生成中

AI安全問題日益凸顯,全同態加密或成最佳解決方案

近期,一款名爲Manus的AI系統在GAIA基準測試中取得了突破性成績,其性能超越了同級別的大型語言模型。Manus展現出了強大的獨立任務處理能力,能夠勝任復雜的跨國商業談判,包括合同條款分析、策略制定和方案生成等環節。與傳統系統相比,Manus在動態目標拆解、跨模態推理和記憶增強學習等方面具有明顯優勢。

Manus帶來AGI的曙光初現,AI安全亦值得深思

Manus的出現再次引發了業內對AI發展路徑的討論:是走向通用人工智能(AGI)的統一模式,還是多智能體系統(MAS)的協同模式?這一爭論實際上反映了AI發展中效率與安全的平衡問題。隨着單體智能系統逐漸接近AGI水平,其決策過程的不透明性風險也隨之增加。而多智能體協同雖然可以分散風險,但可能因通信延遲而錯過關鍵決策時機。

Manus的進步也凸顯了AI發展中的潛在風險,如數據隱私、算法偏見和對抗性攻擊等問題。例如,在醫療場景中,AI系統需要訪問患者的敏感基因組數據;在金融談判中,可能涉及企業未公開的財務信息。此外,AI系統可能在招聘過程中對特定羣體產生偏見,或在法律文件審核中對新興行業條款做出錯誤判斷。更嚴重的是,黑客可能通過植入特定音頻信號,導致AI系統在談判中做出錯誤判斷。

面對這些挑戰,Web3領域的安全技術或許能提供解決方案。其中,全同態加密(Fully Homomorphic Encryption,FHE)技術被視爲應對AI時代安全問題的有力工具。FHE允許在加密狀態下對數據進行計算,這意味着可以在不解密的情況下處理敏感信息。

在數據層面,FHE可以確保用戶輸入的所有信息(包括生物特徵、語音等)在加密狀態下被處理,即使是AI系統本身也無法解密原始數據。在算法層面,FHE實現的"加密模型訓練"使得連開發者都無法直接查看AI的決策過程。在多智能體協作方面,採用門限加密技術可以防止單個節點被攻破導致全局數據泄露。

盡管Web3安全技術與普通用戶可能沒有直接聯繫,但其重要性不容忽視。在這個充滿挑戰的領域,若不積極採取防護措施,用戶可能永遠無法擺脫信息安全風險。

目前,已經有一些項目在Web3安全領域進行探索。例如,有項目在去中心化身份(DID)和零信任安全模型方面取得了一定進展。而在FHE領域,某項目已經率先在主網上線,並與多家知名機構展開合作。

隨着AI技術不斷接近人類智能水平,非傳統的防御系統變得愈發重要。FHE不僅能解決當前的安全問題,還爲未來更強大的AI時代奠定基礎。在通向AGI的道路上,FHE已不再是可選項,而是確保AI安全發展的必要條件。

查看原文
此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 讚賞
  • 8
  • 分享
留言
0/400
熊市搬砖人vip
· 6小時前
加密有啥用,该漏还不是得漏
回復0
GateUser-c802f0e8vip
· 11小時前
算法也有偏见啊?
回復0
GasFee_Nightmarevip
· 11小時前
还搞这些虚的 安全就完事了
回復0
无情哈拉vip
· 11小時前
加密都解决不了问题吧
回復0
DAO会议翘课生vip
· 11小時前
看累了 带劲
回復0
薛定谔_钱包vip
· 11小時前
安全还有效率 要都要 难搞哦
回復0
链上算命先生vip
· 11小時前
又是讲加密的 略懂略懂
回復0
WalletDetectivevip
· 12小時前
挖槽 后面的坑给人上课呢
回復0
交易,隨時隨地
qrCode
掃碼下載 Gate APP
社群列表
繁體中文
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)