AI x Crypto: ゼロからピークまで

はじめに

人工知能業界は最近急成長しており、新たな産業革命と見なされています。大型モデルの登場は各業界の効率を著しく向上させ、ボストンコンサルティンググループはGPTがアメリカの労働効率を約20%向上させたと考えています。大型モデルの一般化能力は新しいソフトウェア設計のパラダイムと見なされており、ソフトウェアにより良いパフォーマンスと幅広いモダリティサポートを提供します。深層学習技術はAI業界に第四の繁栄をもたらし、この波は暗号通貨業界にも影響を与えています。

本報告では、AI業界の発展の経緯、技術の分類、そして深層学習が業界に与える影響について詳しく探討します。深層学習におけるGPU、クラウドコンピューティング、データソース、エッジデバイスなどの産業チェーンを深く分析し、その発展の現状とトレンドを考察します。本質的に暗号通貨とAI業界の関係を探り、暗号通貨関連のAI産業チェーンの構造を整理します。

! 新人科学丨AI×暗号:ゼロからピークまで

AI業界の歴史

AI業界は20世紀50年代に始まり、人工知能のビジョンを実現するために、学術界と産業界は異なる時代背景の中で多様な実現ルートを発展させてきました。

現代の人工知能技術は主に「機械学習」手法を採用し、データを通じてシステム性能を改善するために機械を反復させます。主な手順は、データをアルゴリズムに入力し、モデルをトレーニングし、テストを実施してデプロイし、自動予測タスクを完了することです。

機械学習には3つの流派があります：コネクショニズム、シンボリズム、そして行動主義です。これらはそれぞれ、人間の神経系、思考、行動を模倣しています。

現在、神経ネットワークを代表とするコネクショニズムが主導的地位を占めており(、深層学習とも呼ばれています)。神経ネットワークは入力層、出力層、そして複数の隠れ層を持ち、層数とニューロン(のパラメータ)が十分に多い場合、複雑な汎用タスクをフィットさせることができます。パラメータを不断に調整することで、最終的に最適な状態に達する、これが「深さ」の由来です。

! 新参者科学人気丨AI×暗号:ゼロからピークまで

深層学習技術は、初期の神経ネットワークからフィードフォワード神経ネットワーク、RNN、CNN、GANを経て、最終的にGPTなどの現代的大規模モデルで使用されるトランスフォーマー技術に進化しました。トランスフォーマー技術は神経ネットワークの一つの進化方向であり、変換器モジュールを追加することで、多様なモーダルデータを数値表現にエンコードして神経ネットワークに入力し、多モーダル処理を実現します。

AIの発展は三回の技術の波を経験しました:

1. 1960年代、記号主義技術の発展が第一次の波を引き起こし、汎用自然言語処理と人間と機械の対話の問題を解決しました。この時期にエキスパートシステムも誕生しました。

2. 1997年、IBMのディープブルーがチェスのチャンピオンに勝利し、AI技術の第二の高潮を迎えました。

3. 2006年に、ディープラーニングの概念が提案され、テクノロジーの第3の波が開かれました。 ディープラーニングアルゴリズムは、RNNやGANからTransformerやStable Diffusionまで進化を続けており、コネクショニズムが全盛期を迎えています。

第3波では、いくつかの画期的なイベントが見られました。

• 2011年、IBM Watsonが『危険なエッジ』のクイズ番組で人間に勝った
• 2014年、グッドフェローがGANを提案しました
• 2015年、ヒントンらは『ネイチャー』誌に深層学習アルゴリズムを提案した
• 2016年、AlphaGoはLee Sedolを破りました
• 2017年、GoogleはTransformerアルゴリズムの論文を発表しました
• 2018年、OpenAIはGPTをリリース
• 2020年、OpenAIはGPT-3をリリースしました
• 2023年、ChatGPTはリリースされ、瞬く間に1億人のユーザーに達しました

! 【新人科学丨AI×暗号:ゼロからピークまで](https://img-cdn.gateio.im/webp-social/moments-0c9bdea33a39a2c07d1f06760ed7e804.webp)

ディープラーニング産業チェーン

現在の大規模言語モデルは主に神経ネットワークに基づく深層学習手法を採用しています。GPTを筆頭とする大規模モデルは新たなAIブームを引き起こし、市場のデータと計算能力の需要が急増しています。本節では、深層学習アルゴリズムの産業チェーンの構成と発展状況について探ります。

大規模モデルのトレーニングは主に3つのステップに分かれます:

1. 事前学習: 大量のデータを入力し、最適なパラメータを見つけることが最も計算力を消費します。

2. ファインチューニング: 少量の高品質データを使用してモデルの品質を向上させる。

3. 強化学習: 報酬モデルを構築して出力品質を評価し、パラメータを自動的に反復します。

大規模モデルのパフォーマンスに影響を与える主な要因は、パラメータの数、データの量と質、計算能力の3つです。必要な計算量を推定するための経験則が利用できます。

算力は主にNvidiaのA100、H100などのGPUチップを使用します。GPUはTensor Coreモジュールを介して浮動小数点演算を行い、チップの性能は主にFP16/FP32精度におけるFLOPSに依存します。

大規模モデルのトレーニングには、膨大な計算量とストレージスペースが必要です。GPT-3を例に取ると、1750億のパラメータと1800億トークンのデータがあり、1回の事前トレーニングには584日かかります。GPT-4ではパラメータとデータ量がさらに10倍増加し、計算能力は100倍必要です。

! 新人科学丨AI×暗号:ゼロからピークまで

産業チェーンは主に以下を含みます:

• ハードウェアGPUプロバイダー:Nvidiaが主導
• クラウドサービスプロバイダー: 伝統的なクラウドベンダーとAI垂直クラウドサービスプロバイダー
• トレーニングデータソースプロバイダー: 検索エンジン、ソーシャルプラットフォームなど
• データベースプロバイダー: ベクトルデータベース
• エッジデバイス: 冷却システム、エネルギー供給
• アプリケーション:まだ始まったばかりの段階

! 新人科学丨AI×暗号:ゼロからピークまで

クリプト×AIの関係性

ブロックチェーン技術はZKと組み合わさり、分散化と非信頼化の思想に進化します。本質的には価値ネットワークであり、各取引はトークンの価値変換に基づいています。

トークンエコノミクスは、ネットワークに多次元の価値を与えることができ、従来の企業の証券をはるかに超えています。トークンは、あらゆる革新やアイデアに価値を与えることができます。

AI業界において、トークンエコノミーは産業チェーンの各段階の価値を再構築し、より多くの参加を促すことができます。ブロックチェーン技術の不可逆性と非信任特性は、信頼を必要とするAIアプリケーションの実現にも寄与します。

要するに、トークンエコノミーは価値の再構築と発見を促進し、分散型台帳は信頼の問題を解決し、価値を世界規模で再び流動させます。

! 新人科学丨AI×暗号:ゼロからピークまで

Crypto業界バリューチェーンプロジェクト概要

GPU供給側

代表プロジェクトはRenderのようなものです。GPUクラウドコンピューティング市場はAIモデルのトレーニング推論だけでなく、従来のレンダリングタスクにも利用でき、単一市場リスクを低減します。

2024年のGPU計算能力の需要は約750億ドルで、2032年には7730億ドルに達し、CAGRは33.86%です。

GPUのイテレーションに伴い、大量の余剰GPUが共有ネットワークでロングテールの価値を発揮することになります。しかし、オンチェーンGPU共有にはデータ転送帯域幅の問題があります。

! 新参者科学丨AI×暗号:ゼロからピークまで

ハードウェア帯域幅

代表プロジェクトとしてMeson Networkがあります。しかし、共有帯域幅は偽の需要である可能性があり、地理的に分散しているため、遅延がローカルストレージよりも高くなる可能性があります。

! 新人科学丨AI×暗号:ゼロからピークまで

データ

代表プロジェクトとしてEpiK Protocol、Synesis One、Masaなどがあります。Web3データプロバイダーの利点は、より広範なデータ収集チャネルにあります。ZK方向のプロジェクトはMasaのように将来性があります。

! 【新人科学丨AI×暗号:ゼロからピークまで](https://img-cdn.gateio.im/webp-social/moments-8358c377eb2c07467848b3b46dbf1056.webp)

ZKMLの

同型暗号技術を使用してプライバシー計算とトレーニングを実現します。代表的なプロジェクトには、Axiom、Risc Zero、Ritualなどがあります。

! 新人科学丨AI×暗号:ゼロからピークまで

AIアプリケーション

主に従来のブロックチェーンアプリケーションと自動化の汎用能力です。AIエージェントは重要な方向性となり、代表的なプロジェクトとしてFetch.AIがあります。

! 新人科学丨AI×暗号:ゼロからピークまで

AIパブリックチェーン

AIモデルやエージェントのために構築された適応ネットワーク、例えばTensorやAlloraなど。トークンエコノミクスに基づくことで、推論コストを大幅に削減できます。

! 新人科学丨AI×暗号:ゼロからピークまで

まとめ

深層学習技術はすべてのAIの発展方向ではないが、実際の応用シーンはすでに存在する。トークンエコノミーはAI産業チェーンの価値を再構築でき、ブロックチェーン技術は信頼の問題を解決できる。

GPU共有プラットフォームは、余剰計算能力を利用してコストを削減できるが、帯域幅の問題により緊急でない小規模モデルのトレーニングにのみ適している。

全体的に見ると、AIとクリプトの組み合わせは実際の有用性を持ち、価値体系を再構築し、信頼の問題を解決し、残余価値を発見することができます。

! 新人科学丨AI×暗号:ゼロからピークまで