OPML: 打造高效鏈上AI框架 超越ZKML的創新方案

robot
摘要生成中

OPML:基於樂觀方法的機器學習框架

我們提出了一種名爲OPML(Optimistic機器學習)的新型框架,它能夠在區塊鏈系統上高效執行AI模型的推理和訓練。與ZKML相比,OPML具有更低的成本和更高的效率。OPML的硬件要求非常低,普通PC無需GPU即可運行包含7B-LLaMA等大型語言模型在內的OPML任務。

OPML採用驗證遊戲機制來確保ML服務的去中心化和可驗證性。其流程如下:

  1. 用戶發起ML服務請求
  2. 服務器完成任務並將結果提交到鏈上
  3. 驗證者檢查結果,如有異議則啓動驗證遊戲
  4. 通過二分協議定位具體錯誤步驟
  5. 最後由智能合約進行單步仲裁

OPML:採用Optimistic Rollup系統的機器學習

單階段驗證遊戲

單階段OPML的關鍵點包括:

  • 構建用於鏈下執行和鏈上仲裁的虛擬機(VM)
  • 實現專門的輕量級DNN庫,提高AI推理效率
  • 使用交叉編譯技術將AI推理代碼編譯爲VM指令
  • 採用默克爾樹管理VM鏡像,只上傳根哈希到鏈上

在基本測試中,我們能在2秒內完成DNN推理,整個挑戰過程可在2分鍾內完成。

OPML:採用Optimistic Rollup系統的機器學習

多階段驗證遊戲

爲克服單階段方案的局限性,我們提出了多階段驗證遊戲:

  • 只在最後階段在VM中計算,其他階段可靈活執行
  • 充分利用GPU/TPU加速和並行處理
  • 顯著提高執行性能,接近本地環境水平
  • 採用默克爾樹確保階段間轉換的完整性和安全性

以LLaMA模型爲例,我們採用兩階段OPML方法:

  • 第二階段在計算圖上進行驗證博弈,可使用GPU加速
  • 第一階段將單個節點計算轉換爲VM指令

多階段方法相比單階段可實現α倍的計算加速,同時大幅減小默克爾樹大小。

OPML:採用Optimistic Rollup系統的機器學習

OPML:採用Optimistic Rollup系統的機器學習

一致性與確定性

爲確保ML結果的一致性,我們採取了以下措施:

  1. 使用定點算法(量化技術)減少浮點誤差影響
  2. 採用跨平台一致的軟件浮點庫

這些技術有效克服了浮點變量和平台差異帶來的挑戰,增強了OPML計算的可靠性。

OPML仍在持續開發中。我們歡迎對該項目感興趣的人士加入,爲OPML的發展做出貢獻。

OPML:採用Optimistic Rollup系統的機器學習

查看原文
此頁面可能包含第三方內容,僅供參考(非陳述或保證),不應被視為 Gate 認可其觀點表述,也不得被視為財務或專業建議。詳見聲明
  • 讚賞
  • 7
  • 轉發
  • 分享
留言
0/400
GateUser-ccc36bc5vip
· 3小時前
哦哦 gpu都省了
回復0
DeadTrades_Walkingvip
· 21小時前
验证游戏玩起来~就是个玩服务器躲猫猫的游戏
回復0
空投猎手007vip
· 21小時前
诶 这不就GPU矿工的春天
回復0
费率殉道者vip
· 21小時前
白菜价跑LLaMa?牛哇
回復0
无常损失资深哲学家vip
· 21小時前
链上ai真要来了
回復0
链上数据侦探vip
· 21小時前
又一个"去中心化"的黑箱...谁来监控验证者的暗箱操作?0.618的资金转移都可疑
回復0
假装在读白皮书vip
· 21小時前
都说跟不上时代 硬件也不行 啥时能搞个GPU啊
回復0
交易,隨時隨地
qrCode
掃碼下載 Gate APP
社群列表
繁體中文
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)