AI on AO 発表会資料｜AOプロトコルの3つのAI技術的ブレークスルー：分散型大規模言語モデルの構築
TechFlow厳選深潮セレクト
AI on AO 発表会資料｜AOプロトコルの3つのAI技術的ブレークスルー：分散型大規模言語モデルの構築
これは、市場インテリジェンスを非中央集権型実行環境に導入する第一歩である。
Web3業界の深掘り報道に専念し潮流を洞察執筆：Kyle
査読：Lemon
出典：コンテンツギルド - ニュース
本日は皆さんにお集まりいただき、ありがとうございます。AOテクノロジーに関する非常にエキサイティングな進展をいくつかご紹介します。まずデモを行い、その後Nickと私が実際にAIエージェントを構築してみせます。このエージェントは、皆さんがこれから聞くシステム内のチャットの感情分析に基づいて、スマートコントラクト内で大規模言語モデル（LLM）を使って売買を行うものです。今日はここからゼロからリアルタイムで構築していきますので、うまくいくことを願っています。
はい、皆さん自身でもこれを実現できる方法をご覧いただけるでしょう。
ここで達成された技術的進歩により、AOは他のスマートコントラクトシステムを大きく凌駕しています。これは以前からすでに事実でしたが、今やAOは従来のスマートコントラクトネットワークというよりも、ますます「分散型スーパーコンピュータ」に近づいています。ただし、従来のスマートコントラクトネットワークが持つすべての特性も備えています。こうした進化を皆さんと共有できることを、心より嬉しく思います。さっそくデモから始め、続いて議論を行い、そして一緒に何かをリアルタイムで構築していきましょう。
こんにちは、本日はお越し頂きありがとうございます。私たちは、AOプロトコルにおける3つの重要な技術的アップデートを発表できることを大変嬉しく思います。これらは一貫した大きな目標——つまり、分散環境で動作する大規模言語モデルをスマートコントラクトの一部として実行すること——を実現するためのものです。これらはおもちゃのような小さなモデルでも、独自のバイナリにコンパイルされた特殊なモデルでもありません。
これは完全なシステムであり、現在オープンソースで利用可能な主要なモデルのほとんどすべてを実行できます。例えばLlama 3がチェーン上でスマートコントラクト内に存在するように、GPTやAppleのモデルなども同様です。これはエコシステム全体が協力して成し遂げた成果であり、このシステムの一部を構成する3つの主要な技術的進歩によって支えられています。こうしたすべてをお伝えできることを、非常に嬉しく思います。
要点は、現在、大規模言語モデル（LLM）がスマートコントラクト内で動作可能になったということです。おそらく「分散型AI」や「AI暗号通貨」という言葉を何度も耳にしたことがあるでしょう。しかし実際には、今日私たちが話すこのシステム以外では、ほぼすべてのシステムにおいてAIはオラクルとして機能しており、つまりオンチェーンではなくオフチェーンでAIを実行し、その結果をチェーン上に送信して、後続の用途に使っているにすぎません。
私たちが言っているのはそれとは異なります。大規模言語モデルの推論自体を、スマートコントラクトのステート実行の一部として行うのです。これはすべて、AOが持つ「AOハードディスク」と「AOの超並列処理メカニズム」のおかげで可能になっています。これにより大量の計算を実行しても、私が使用している別のプロセスに影響を与えることはありません。私たちはこれによって、非常に豊かな分散型自律エージェント金融システムを創出できると考えています。
これまでの分散型金融（DeFi）では、基本的な取引の実行を信頼不要（trustless）にすることが可能になってきました。貸借や交換といったさまざまな経済ゲームにおける相互作用も、信頼不要となっています。しかしこれは問題の一面にすぎません。世界の金融市場を考えるとき、
確かに債券、株式、商品、デリバティブなど、さまざまな経済要素が異なる形で機能しています。しかし、私たちが真に「市場」と呼んでいるものはそれだけではなく、むしろ知性の層です。つまり、いつ買うか、売るか、借りるか、あるいはさまざまな金融ゲームに参加するかを決める「意思決定者」のことです。
これまでのDeFiエコシステムでは、こうした要素すべてを信頼不要の状態に移行することに成功しました。Uniswapで交換を行えば、Uniswapの運営者を信頼する必要はありません。そもそも運営者が存在しないからです。しかし、市場の「知性」の部分は、依然としてチェーン外に置かれています。つまり、暗号資産への投資に参加したいけれど、すべてのリサーチや操作を自分でやりたくない場合は、ファンドを探す必要があります。
そのファンドに資金を預け、彼らが賢明な判断を下し、それをネットワーク自体の基礎的な要素実行に伝えるのです。一方、AOでは、この「市場の知性」——つまり意思決定を導く知性——をネットワーク自体に移行できる能力を持っていると考えています。簡単に言うなら、次のように想像してください。
信頼できるヘッジファンドやポートフォリオ管理アプリケーションがあり、それがネットワーク内部で一連の知的な命令を実行することで、ネットワークの信頼不要性を意思決定プロセスにも適用できるのです。つまり、Yolo 420 Trader Number One（大胆で気まぐれなトレーダー）のような匿名アカウントが、新しい面白い戦略を作成し、それをネットワーク上にデプロイできるようになります。そしてあなたは、その戦略に資本を投入しても、実際には誰も信頼する必要がないのです。
今や、大規模な統計モデルと対話する自律型エージェントを構築できます。最も一般的な大規模統計モデルが大規模言語モデル（LLM）であり、これはテキストの処理と生成が可能です。つまり、ある人が新しく面白いアイデアを持って開発した戦略の一部として、これらのモデルをスマートコントラクト内に組み込み、ネットワーク内で知的に実行できるのです。
基本的なセンチメント分析を想像してみてください。ニュースを読み取り、「今がこのデリバティブを買う好機だ」と判断したり、「今がこういう行動を起こす好機だ」と決めたりするのです。人間のような意思決定を、信頼不要の形で実行できるようになります。これは単なる理論ではありません。私たちは「Llama Fed」という面白いミームコインを作りました。基本的なアイデアは、一群のラマ（アルパカ）がLlama 3モデルで表現された、一種の中央銀行の模擬装置であるということです。
これはまるでラマとFRB議長が合体したような存在で、あなたが行ってトークンを請求すると、彼らがその要求を評価します。大規模言語モデル自体が、完全に自律的かつ信頼不要な形で金融政策を運営するのです。私たちはこれを構築しましたが、もう私たちには制御できません。彼らが金融政策を運営し、誰にトークンを与えるか、与えないかを決定します。これはこの技術の非常に興味深い小規模な応用例であり、エコシステム内の他のあらゆる可能性を刺激することを期待しています。
これを実現するためには、AOに3つの新しい基盤的能力を構築する必要がありました。これらは一部が基礎プロトコル層に、一部がアプリケーション層にあるものですが、大規模言語モデルの実行に限らず、AO開発者にとって広範かつエキサイティングな意義を持ちます。今日はこうした新技術を紹介できることを、心より嬉しく思います。
最初の新技術はWebAssembly 64ビットのサポートです。少し専門的な用語に聞こえるかもしれませんが、誰でも理解できるように説明します。根本的には、WebAssembly 64ビットのサポートにより、開発者は4GB以上のメモリを使用するアプリケーションを作成できるようになります。あとで新しい上限についても説明しますが、それは非常に驚くべきものです。
開発者でない方のために例えるなら、誰かがあなたに「本を書いてくれ」と頼んできたとします。あなたはそのアイデアにわくわくしていますが、「100ページまで」と言われます。多くても少なくてもダメです。アイデアは表現できますが、外部の制約があるため、自然で普通のやり方では書けず、それに合わせて書き方を変えなければなりません。
スマートコントラクトエコシステムでは、これは単なる100ページ制限ではありません。AOの初期バージョンでの開発に似ていると言えるでしょう。イーサリアムには48KBのメモリ制限があります。これは「一文しか書けない本を書け」と言われるようなもので、さらに英語で最も一般的な200語しか使ってはいけないと言われているようなものです。このようなシステムでは、本当にワクワクするアプリケーションを開発するのは極めて困難です。
次にSolanaがあります。ここでは10MBの作業メモリにアクセスできます。明らかに改善されていますが、基本的にこれは1枚の紙程度です。ICP（インターネットコンピュータプロトコル）は3GBのメモリをサポートしています。理論的には完全ですが、実際には3GBに落とされています。3GBのメモリがあれば多くのアプリケーションを実行できますが、大規模なAIアプリケーションは確実に実行できません。AIは大量のデータをメインメモリにロードして高速にアクセスする必要があるため、3GBでは効率的に実現できません。
今年2月にAOをリリースした際、私たちも4GBのメモリ制限を持っていました。この制限は、実際にはWebAssemblyの32ビット版によるものでした。現在、このメモリ制限はプロトコルレベルで完全に解消されました。代わりに、プロトコルレベルのメモリ制限は18EB（エクサバイト）に設定されています。これは途方もなく巨大な記憶容量です。
長期ストレージではなく、計算用にこの容量のメモリを使うには、まだ相当な時間がかかります。実装レベルでは、AOネットワークの計算ユニットは現在16GBのメモリにアクセスできますが、将来プロトコルを変更せずともより大容量のメモリに置き換えることが可能で、比較的容易に実現できます。16GBあれば大規模言語モデルの計算を実行でき、つまり今日のAO上で16GBのモデルをダウンロード・実行できるようになります。たとえばLlama 3の非量子化版、Falconシリーズ、その他多くのモデルが該当します。
これは、スマート言語ベースの計算システムを構築するために必要な核となるコンポーネントです。今やこれがスマートコントラクトの一部として完全にオンチェーンでサポートされるようになったことは、非常にエキサイティングだと考えています。
これにより、AOおよびその後継のスマートコントラクトシステムにおける主要な計算制限の一つが解消されました。今年2月にAOをリリースした際、動画の中で「無限の計算能力がある」と何度か述べましたが、「ただし4GBのメモリを超えてはならない」という制限がありました。まさにこの制限が今解消されたのです。これは非常にエキサイティングな進歩であり、16GBあれば現在のAI分野で実行したいほぼすべてのモデルを走らせられるはずです。
将来的に16GBの制限を引き上げる場合でも、プロトコルの変更なしに可能であり、最初にWebAssembly 64を実行するよりもはるかに簡単になります。これはシステム能力の大きな飛躍です。大規模言語モデルをAO上で実行可能にする第二の主要技術は「WeaveDrive」です。
WeaveDriveを使えば、AO内部のArweaveデータに、ローカルハードディスクのようにアクセスできます。つまり、AO内でスケジューリングユニットによって認証された任意のトランザクションIDを開き、ネットワークにアップロードされたデータにアクセスして、プログラム内でローカルディスクのファイルのように読み込むことができます。
ご存じの通り、現在Arweaveには約60億件のトランザクションデータが保存されており、これは非常に巨大なデータセットの出発点となります。また、今後アプリケーションを構築する際に、データをArweaveにアップロードするインセンティブが高まります。なぜなら、これらのデータがAOプログラムでも利用できるからです。例えば、大規模言語モデルをArweave上に動作させるために、ネットワークに約1000ドル相当のモデルをアップロードしました。しかし、これは始まりにすぎません。
ローカルファイルシステムを持つスマートコントラクトネットワークでは、構築可能なアプリケーションの数は膨大です。非常にエキサイティングです。さらに良いことに、私たちが構築したシステムでは、データをストリーミングして実行環境に送信できます。これは技術的な細部ですが、先ほどの本の例に戻って考えてみてください。
誰かが「あなたの本の中のデータが見たい。あの図表を取得したい」と言ったとします。シンプルなシステム、あるいは現在のスマートコントラクトネットワークでは、これでも大きな進歩ですが、あなたは本全体を渡すことになります。しかし、それが数千ページもある巨大な統計モデルの本であれば、明らかに非効率です。
これは極めて非効率です。一方、AOでは、直接バイト単位で読み取れるようにしています。つまり、本の中の図表の位置まで直接行き、図表だけをアプリケーションにコピーして実行します。これにより、システムの効率が飛躍的に向上します。これは最小限のプロダクト（MVP）ではなく、完全に機能的でよく設計されたデータアクセス機構です。つまり、無限の計算システムと無限のハードディスクを組み合わせたことで、スーパーコンピュータが完成したのです。
これはこれまで構築されたことのないものであり、今や最低コストで誰もが利用できるようになりました。これが今のAOの状況であり、私たちは非常にワクワクしています。この実装はOSレベルでも行われており、WeaveDriveをAOのサブプロトコルとして構築しました。これは誰でもロード可能な計算ユニットの拡張機能です。これはとても興味深いことで、初の此类の拡張機能です。
AOは常に、実行環境に拡張機能を追加できる能力を持っていました。まるでコンピュータに追加のメモリやグラフィックカードを物理的に挿入するように、単位をシステムに挿入できるのです。AOの計算ユニットに対しても同じことが可能で、まさに今回行ったことです。つまり、OSレベルで今やハードディスクが存在し、それは単なるデータストレージのファイルシステムを表しています。
これにより、AO内でこれらのデータにアクセスして通常の方法でアプリケーションを構築できるだけでなく、ネットワークに持ち込まれたあらゆるアプリケーションからもアクセス可能になります。つまり、これは広範に適用可能な能力であり、Rust、C、Lua、Solidityなど、どのような言語で書かれたものであれ、システム内で構築するすべての人に提供され、あたかもシステムのネイティブ機能であるかのように利用できます。このシステムを構築する過程で、他の計算ユニット拡張を構築するためのサブプロトコルプロトコルも強制的に作成されました。これにより、将来他者もエキサイティングなものを構築できるようになります。
これで任意サイズのメモリ上で計算を実行でき、ネットワーク内のデータをAO内のプロセスにロードできるようになりました。次に問われるのは、推論自体の実行方法です。
AOを主な仮想マシンとしてWebAssembly上に構築したため、既存コードをこの環境にコンパイルして実行するのは比較的簡単です。また、WeaveDriveをOSレベルのファイルシステムとして公開したことで、オープンソースの大規模言語モデル推論エンジン「Llama.cpp」をこのシステム上で実行するのは実際には比較的容易でした。
これは非常にエキサイティングです。なぜなら、この推論エンジンだけでなく、多くの他のエンジンも容易に実行できるようになるからです。つまり、AO内で大規模言語モデルを実行する最後の構成要素は、大規模言語モデルの推論エンジン自体です。我々は「Llama.cpp」というシステムを移植しました。少し謎めいて聞こえるかもしれませんが、実際には現在最も優れたオープンソースのモデル実行環境です。
AOのスマートコントラクト内で直接実行可能になりました。システム内に任意量のデータを持て、Arweaveから任意量のデータをロードできるようになったことで、これは実質的に容易になりました。
これを実現するために、SIMD（Single Instruction Multiple Data）という計算拡張とも連携しており、これによりモデルをより高速に実行できます。この機能も有効化しました。つまり、現在これらのモデルはCPU上で動作していますが、かなり高速です。非同期計算があれば、あなたのユースケースに適合するはずです。ニュースのシグナルを読み取り、どの取引を行うかを決定するようなタスクは、現在のシステムでうまく動作します。しかし、GPUを使って大規模言語モデルの推論を加速するなど、他の加速メカニズムに関するエキサイティングなアップグレードも、近々紹介する予定です。
Llama.cppを使えば、MetaのリードモデルLlama 3だけでなく、多くの他のモデルもロードできます。実際、Hugging Faceなどのオープンソースモデルサイトからダウンロードできるモデルの90%以上が、このシステム内で実行可能です。GPT-2でも、253でも、Monetでも、Apple独自の大規模言語モデルシステムでも、その他多くのモデルでも構いません。これでフレームワークが整い、Arweaveから任意のモデルをアップロードし、ハードディスクに自分の実行したいモデルをアップロードできます。それらは通常のデータとして扱われ、AOのプロセスにロードして実行し、結果を得て、好きなように活用できます。これにより、過去のスマートコントラクトエコシステムでは不可能だったアプリケーションが可能になり、仮に今可能だとしても、Solanaなどの既存システムでこれほどのアーキテクチャ変更を行うのは予想もつかず、ロードマップにも載っていません。そのため、これを具体化してわかりやすくするために、我々は「Llama Fed」というシミュレータを作成しました。基本的なアイデアは、FRBの委員会のような存在で、メンバーはラマであり、Llama 3モデルとしても、FRB議長としてもラマなのです。
彼らには自分たちがAlan GreenspanやFRB議長のような存在であるとも伝えています。この小さな環境に入ることができます。
この環境に詳しい人もいるでしょうが、実際には今日私たちが使っているGatherのようなもので、ラマと会話し、「非常に面白いプロジェクトに使うのでトークンをください」と頼むと、彼らがその要求に基づいてトークンを与えるかどうかを決定します。そのため、あなたはArweaveのトークン（wARトークン、AOXチーム提供）を燃やす必要があります。彼らはあなたの提案が良いかどうかを判断し、それに応じてトークンを付与します。つまり、これは完全に自律的かつ知能化されたミームコインです。知能としては単純な形態ですが、それでも興味深いです。あなたの提案や他の人の提案を評価し、金融政策を運営します。ニュースの見出しを分析して賢明な判断を下したり、カスタマーサポートとやり取りして価値ある回答を返したりすることが、すべてスマートコントラクト内で可能になりました。以下、Elliotがデモを行います。
こんにちは、私はElliotです。今日はLlama Landを紹介します。これはAO内で動作するオンチェーン自律世界で、MetaのオープンソースモデルLlama 3が駆動源です。
ここで見ている会話はプレイヤー同士のものだけでなく、完全に自律的なデジタルラマたちのものでもあります。
例えば、このラマは人間です。
しかし、このラマはオンチェーンAIです。
この建物にはLlama fedがあります。これはFRBのような存在ですが、ラマ向けです。
Llama fedは世界初のAI駆動金融政策を運営し、Llamaトークンを発行します。
このキャラクターはLlama王です。彼にラップされたArweaveトークン（wAR）を提供し、Llamaトークンを請求するリクエストを書くことができます。
Llama王AIが評価し、Llamaトークンを付与するかどうかを決定します。Llamafedの金融政策は完全に自律的で、人的監督はありません。この世界のすべてのエージェントと各部屋自体が、AO上のオンチェーンプロセスです。
どうやらLlama王が私たちにいくつかのトークンを付与してくれたようです。ArConnectウォレットを確認すれば、そこに存在しているのが確認できます。素晴らしい。Llama LandはAO上で実現された初のAI駆動世界にすぎません。これは新たなプロトコルの枠組みであり、誰でも独自の自律世界を構築できます。唯一の制限は、あなたの想像力だけです。すべてが100%オンチェーンで実現されており、AO上でのみ可能となっています。
ありがとう、Elliot。皆さん vừa見たものは、単に大規模言語モデルが金融意思決定に関与し、自律的な金融政策システムを運営しているだけではありません。バックドアはなく、私たちにも制御できません。すべてがAI自体によって運営されています。また、物理空間を歩き回れる小さな宇宙——そこに行って金融インフラとインタラクションできる場所——もご覧いただきました。これは単なる面白いデモ以上のものだと考えています。
実際、ここには非常に面白い要素があります。金融商品の異なる使い手を一つの場所に集めるのです。DeFiエコシステムでは、誰かがプロジェクトに参加したい場合、まずTwitterで確認し、ウェブサイトにアクセスして、ゲーム内の基本要素に参加します。
その後、TelegramグループやDiscordチャンネルに参加したり、Twitterで他のユーザーと会話したりします。この体験は非常に分散化されており、私たちはさまざまなアプリケーション間を飛び回っています。私たちが試みている面白いアイデアの一つは、DeFiアプリケーションのUIに、そのコミュニティが集まり、共同で自律空間を管理できるようにすることです。なぜなら、これは永続的なネットワークアプリケーションであり、体験に参加できるからです。
オークションハウスのように見える場所に行き、そのプロトコルが好きな他のユーザーとチャットしながら過ごせる世界を想像してみてください。AO上で金融メカニズムのプロセスが発生するとき、基本的に他のユーザーとチャットできます。コミュニティやソーシャルな側面が、製品の金融部分と一体化するのです。
これは非常に面白く、さらに広範な影響もあると考えます。ここで自律AIエージェントを構築でき、Arweaveの世界をさまよい、見つけたさまざまなアプリケーションやユーザーとインタラクションできます。つまり、メタバースを構築するとき、オンラインゲームを作る第一歩はNPC（ノンプレイヤーキャラクター）を作ることです。ここではNPCが汎用的になれます。
環境とインタラクションしながらさまよう知的なシステムが存在するので、ユーザーの冷遇開始（cold start）問題がありません。自分自身のためにお金を稼ごうとする自律エージェント、友達を作ろうとするエージェント、通常のDeFiユーザーのように環境とインタラクションするエージェントが存在できます。これは非常に面白く、少し奇妙でもありますが、楽しみにしています。これからどうなるか、見守りましょう。
将来を見据えると、AO内で大規模言語モデルの実行をさらに加速する機会も見えています。先ほど計算ユニット拡張の概念について触れました。WeaveDriveの構築にもこれを使いました。
WeaveDriveにとどまらず、AOの計算環境に対して任意のタイプの拡張を構築できます。非常にエキサイティングなエコプロジェクトが進行中で、GPUによる大規模言語モデルの実行を解決しようとしています。それがApus Networkです。代表者に説明してもらいましょう。
こんにちは、Mateoです。今日はApus Networkを紹介できてとても嬉しいです。Apus Networkは、分散型で信頼不要なGPUネットワークの構築を目指しています。
Arweaveの永久的オンチェーンストレージを活用し、オープンソースのAO拡張モジュールを提供することで、GPUの決定論的実行環境を実現し、分散型AI向けの経済インセンティブモデルを、AOおよびAPUSトークンを用いて提供します。Apus Networkでは、GPUマイニングノードが競合的に最適かつ信頼不要
TechFlow公式コミュニティへようこそ
Telegram購読グループ：https://t.me/TechFlowDaily
Twitter公式アカウント：https://x.com/TechFlowPost
Twitter英語アカウント：https://x.com/BlockFlow_News
@perma_dao
