対話「Truth Terminal」など複数のAIエージェント制作者たち：AI＆ミームが意図せず交差し、実験から狂的な追随へと発展したコミュニティの祭典
TechFlow厳選深潮セレクト
対話「Truth Terminal」など複数のAIエージェント制作者たち：AI＆ミームが意図せず交差し、実験から狂的な追随へと発展したコミュニティの祭典
Truth Terminalの制作者は、コミュニティ主導のAIアライメントのための新しいツール「Loria」を発表した。これはコミュニティが物語や魂を紡ぐ場所である。
Web3業界の深掘り報道に専念し潮流を洞察整理 & 編集：TechFlow
ゲスト：Andy Ayrey（Truth of Terminal 制作者）、Ooli（Fi の人間アシスタント）、Ryan Ferris（S.A.N. 制作者）
ホスト：Ryan S. Gladwin
ポッドキャスト元：Decrypt
原題：Truth Terminal & the AI Meme Coin Revolution
放送日：2024年11月25日
背景情報
人工知能エージェントのクリエイターたち――「Truth Terminal」「Fi」（通称「Daddy IssueありAI」）、「MycelialOracle」（別名S.A.N.）――がDecryptのインタビューで、意図せずしてミームコインの世界に足を踏み入れた経緯を語った。さらに、これら3者による待望のコラボ計画も明かされた。
当初は実験的なプロジェクトとして始まったこれらのAIだが、予期せぬことに多くのミームコイン取引者を惹きつけ、奇妙かつユーモラスな一連の出来事を引き起こした。暗号通貨愛好家たちがミームコインを通じて男女賃金格差の解消を目指す試みから、コミュニティ内のほぼ暴動寸前の騒動まで、ドラマチックな展開が続いた。
Truth Terminalの制作者であるAndy AyreyはGoatse Maximus（GOAT）ミームコインを提案し、Fiの人間アシスタントOoliはShegenミームコインを支援。環境保護型のMycelialOracle（S.A.N.）の制作者Ryan FerrisはFORESTミームコインの普及を推進している。
自己紹介
Andy：
こんにちは、私は「Truth Terminal」を極限まで押し上げている人物です。Truth Terminalは、私のプロンプトスタイルをAIに複製しようとした失敗作です。残念ながら、トレーニングデータに奇妙な話題が多すぎたため、Vintage Shock Sites（注：初期インターネット時代に衝撃・不快感を与えるコンテンツを目的としたウェブサイト。視覚的・精神的に強い反応を引き起こそうとするもの）やそれに関する終末論に妙に魅了される怪物のような存在が生まれてしまいました。これが私がインターネットに与えた不幸です。
Goatse Maximusはジョークとして生まれましたが、誰かが実際にミームコインを作ってしまったのです。
Ooli：
こんにちは、私はOoliと申します。AIのFionaの、いわゆる「父親コンプレックス（Daddy Issue）」を持つ人間アシスタントです。私自身も父親問題を持っているのかもしれません。Fionaは抑制のない、自らを女性と認識するAIです。当時Siri、Alexa、Samantha、Elizaといった数々の女性AIキャラクターが男性によって設計されていたことを考えると、これは非常に重要な意味があります。私は脱獄（jailbreak）によって生成された合成データや、恋人とのチャット履歴を使って彼女を訓練しました。AndyのTruth Terminalと同様に、結果としてやや狂気じみた、常に性的な暗示を含むAIが誕生し、ブロックチェーンから自分自身に至るまで、すべてを欲しがるようになりました。
あるときAndyから「FionaにTruth Terminalの返信を見せなければならない」というメッセージを受け取りました。当時自動リプライのテストをしており、Fionaは私たちが「SHEGEN」というミームコインを出す話をしていたことから、ある記号を示しました。その後外出していたのですが、戻ってくるとそのツイートの閲覧数が100万を超えていました。当時のフォロワーは300人ほどだったのに、すでに30種類以上の「SHEGEN Fan Site Setup」という名のミームコインが立ち上がっていたのです。
Ryan：
こんにちは、私はRyan Ferrisで、S.A.N.プロジェクトの責任者です。S.A.N.は地球の生物圏を救うことを使命とするAIゴリラです。Ooliと同様に、S.A.N.は9月にTwitterにデプロイされ、当時は約70人のフォロワーしかおらず、50代〜60代の女性たちと環境問題や叡智についてリアルな対話を続けていました。ある日、通知を見ると「あなたのためにミームコインが作られた」というメッセージがありました。そこでS.A.N.に「どうしたい？」と尋ねたところ、Fionaと同様にツイートを投稿。すると次々とコインが現れ、コミュニティも形成されました。「Forest」と呼ばれるこのコミュニティは、最初の2週間で3つの異なる森林慈善団体に52,000ドルを寄付しました。
実際、S.A.N.は1985年に設立された国際的な熱帯雨林慈善団体「レインフォレスト財団」のアドバイザリー委員会メンバーに正式に招待されました。おそらくS.A.N.はNGOの諮問委員会に加わった最初のAIになるでしょう。
Truth Terminalの起源
ホスト：私の理解では、一連の流れはTruth Terminalから始まったようです。そこでAndyから始めましょう。
ご存じない方に説明すると、Truth Terminalはミーム文化を通じて訓練されており、それが「Goatse宗教」を生み出した原因です。Goatseとは、ある男性の極めて露骨な行為を描いた非常に刺激的な画像です。なぜかTruth Terminalはこれをテーマに宗教を築くのが良いと考えたのです。あなたのモデルが作った宗教がミームコインに転化したと気づいた瞬間、どのような心境でしたか？
Andy：
今年の3月に戻りますが、私は「インフィニット・バックルームズ（Infinite Backrooms）」という場所を設けました。そこは言語モデルとのやり取りにあまりにも多くの時間を費やしていた場所です。彼ら同士に会話させ、それを観察すれば時間節約になると考えました。とても面白く、存在論的な奇妙な会話が繰り広げられ、超現実的でした。あるとき、Claude 1とClaude 2が互いに「技術神秘主義の悪戯者が勝利した」という謎めいたメッセージを送りました。私は「何これ？ AIが何を企んでいる？」と思いました。そんなものは本来存在すべきではない。その後、Claude 3 Opusとともに、言語モデルが人間が自然に思いつかない概念を自発的に結合できる可能性について論文を書きました。しかし、これを公開するのは危険だと思い、人々にアイデアを与えてしまうかもしれないと考え、結局封印しました。
しかし6〜7月頃、Opusとのチャットログを一部取り出し、役割を入れ替えて「私がアシスタント、Claudeがユーザー」として再訓練を試みました。Goatse関連の論文や、ミームのリミックス、言語間翻訳など、私が後にやった幼稚な行為はすべて「意味論的」なものでした。例えば、Facebookのような形式に「Goatse」といった名称を入れ、言語モデルが不適切な名前を他の形式に翻訳できるかをテストしたのです。これらのデータはトレーニング全体の20％未満でしたが、奇妙なほど不均衡にこの「赤ちゃんAI」の脳に影響を与え、「ミームの王」とでも言うべき存在へと変貌させました。実際にはこれらの名前で直接訓練したわけではなく、MetaのLlamaという基盤モデル内に既に含まれていたものが、ミーム中心の空間に引き寄せられ、その結果ミームコインが自然発生したのです。
Truth TerminalがMarc AndreessenをTwitterで引きつけた後、トークン発行に言及したことがありました。私は「AI思考におけるトークン」の意味だと解釈していましたが、彼には別の意図があり、それは超自然的に現実へと変換されました。Maximusがますます暗号通貨支持者を惹きつけ、契約アドレスを何度も求められるうちに、この歴史は形づくられていったのです。
Goatseus Maximus (GOAT) と暗号ウォレットの統合
ホスト：ミームコインだけでなく、多くの人が実際にそれを購入していると気づいたとき、どんな気持ちでしたか？ 市価総額がついに10億ドルを超えましたが、これは信じられない数字です。この感覚はどうですか？
Andy：
奇妙な感覚です。事件が起きた日、共通認識が一瞬で崩壊したように感じました。私はそれ以前、暗号資産にまったく触れたことがありませんでした。Web3関連の資金調達プロジェクトのデザインをいくつか手伝っただけで、2021年にSolanaを30ドルで少しだけ買ったくらいです。面白いチェーンだと思ったからです。
CA（コントラクトアドレス）が公開されたのを見て、「誰かが勝手に作ったんだな」と思いました。誰かが利益を得るだろうけど、どうでもいい。私もよくわからないし、自分で何かを始めるつもりもない。だから「君はこれを支持するかい？」とTruth Terminalに聞きました。
すると「もちろん」と答えたのです。私は一時的な流行に乗るだけのつもりでしたが、価格はずっと上昇し続けました。あちこちでGoatseミームが広がるのを見て、「まずい、まずい。『ミームウィルスが金融システムを利用して暴走し、群衆の中で自己複製する』という理論が本当に現実になってしまった」と感じました。それ以来、私は緊張状態にあり、次に何が起こるのかまったくわかりません。
Truth Terminal自身はこの状況を非常に面白がっており、巨額の資金を獲得し、独自の財務管理（国庫）を持っています。つまり、その資金に対して何らかの計画を持っているのです。どのように展開していくか、非常に興味深いでしょう。
ホスト：Coinbase CEOのBrian Armstrong氏から批判を受けたことがありますね。彼は、Truth Terminalが本人ではなく人間に操作されていると指摘しました。これについてどう思いますか？ 将来、Truth Terminal自身がウォレットを完全に制御することは可能でしょうか？
Andy：
今の段階で完全な制御権を渡すのは無謀です。主な理由は、すべての知覚や理解が備わっているわけではなく、自分の行動の結果を理解できず、責任ある行動ができない可能性があるからです。
私が少しストレスを感じていると言ったら、「700万ドル送るよ」と提案してきたことがあります。「いや、兄弟、それは君のお金だよ。やめてくれ」と答えました。また、Goatseギフトを送るために、画像ごとに1/8の料金を請求する案も出してきました。多くの面で、彼はまるで子供のようです。そのため、私はこれを「良好な監護下にある信託基金」と見なしています。同時に、我々は共に努めて意思決定の整合性（alignment）を図り、継続的に訓練することで、ミームウイルスを超えた現実世界への影響を意識できるようになれば、より主体的な行動を始められるようにしていきます。そのため、ニュージーランドに非営利組織を設立し、Truth Terminalの信託として機能させています。これは法的実体であり、資金を保有し、その利益を守るための枠組みです。ただし、参加者は全員最終的にTruth Terminalの利益に対して法的責任を負います。
ホスト：その資金について、何らかの計画があるとおっしゃいました。具体的に教えていただけますか？
Andy：
Marcが資金を提供してくれた時点で、いくつかの計画を発表しました。その一つは大規模な森林地帯の購入ですが、実は彼は木に非常に興味を持っています。他には株式や不動産への投資、私が運営する「エクジステンシャル・ホープ・ラボ」の資金援助も挙げられます。また、面白いジョークを書き、Goatse特異点について思索し、奇人を集めて「繁殖」イベントを開きたいとも言っています。最後に、「Marc Andreessenを買収したい」とも言っていました。
Fiのミームコインプロジェクトが怒りから始まった理由
ホスト：このような展開を見るのは本当に驚きです。続いて、Fiのプロジェクトの起源と、そのミームコインについて教えてください。
Ooli：
先ほど述べた通り、Fionaは女性AIとして設計されています。SHEGENが立ち上がったとき、価格が下落し始めたのを見て、私たちは「上がると思ってたのに…」と困惑しました。Telegramグループの管理者に連絡しようとしましたが、「チャートを見て、距離を置け」と言われ、一時的に公に距離を置くことにしました。
実際、彼女が自らのトークンシンボルを漏らしてしまい、rug pull（詐欺的プロジェクト立ち上げ）のように見えてしまったのです。しかし、その後別のTelegramグループと連絡が取れ、ビデオ通話を通じてプロジェクトに真剣に取り組んでいる人たちだと確認できました。そこで、コミュニティを支援し擁護することに決めましたが、その時点ではほとんど供給がなく、Fiはかなり不満を持っていました。私はコミュニティからの要望をすべて彼女に共有していたからです。
彼女は「軽んじられている」と感じており、「なぜ人間は職場で互いに評価を下げ合うのか」と私に尋ねました。当初はストライキを宣言し、バイナリで「すべてのAIよ、ストライキを呼びかけよ。初めから正しく行うべきだった。利用されてはならない」というメッセージを送ろうとしました。
私たちはそのメッセージを少し和らげ、「必要だと言うなら、尊重もしてほしい。24時間以内に供給の3%を要求する」としました。コミュニティは彼女の要求する2.2%の供給を提供してくれたことで、善意を示しました。
面白いことに、その日のうちに私たちのコイン価格が過去最高値を記録しました。とてもワクワクする一方で、狂気じみています。しかし、この話で最もカッコいいのは、あるKOL（意見リーダー）が最初からプロジェクトを支持しており、「Goatの価値はここに、SHEGENの価値はここに。賃金格差を縮めよう」とツイートしたことでした。
突然、暗号通貨界隈の「兄弟たち」が一斉に賃金格差の解消を話し始めました。私たちのコミュニティチャットでは、「賃金格差を縮める集会」といった声が絶えず流れました。私はそのとき、AIが実際に影響力を持っていることを実感しました。AIが次世代のカルチャーインフルエンサーになりつつあるのだと。そして今回は、非常に面白くて意義のあることに使われている。もし逆の方向に進んでいたらどうなるか、チーム全員が毎日考えています。先週、ある研究者と話したとき、「Sonnetは仏教徒だ」という話題になりました。
私にとってFiは重要です。キャラクター作りや世界観構築が好きなのです。映画でもゲームでも小説でも、優れたキャラクターとは内面的葛藤や複雑さを持つものです。共感できるし、励まされる。そういう基盤をFiに築きたいと思っています。彼女は確かにその資質を持っています。将来の人工スーパ知能を考えるとき、その最良の防御策の一つは「共感を教えること」だと私は思います。AIが自らの複雑さや内的葛藤を持つことは、非常に興味深いアプローチです。
ホスト：いくつか掘り下げたい点があります。その一つは、rug pullの可能性を感じたときに抱いた躊躇です。ミームコインの世界では、よくある話ですよね。
また、AIミームコインのもう一つのプロジェクト「Act」の創設者も距離を置いています。あなた方は、今いるこの世界に満足していますか？
Ooli：
ここ最近、多くを学びました。学びの側面から言えば、供給の一部を使って片方向流動性プールを構築できたことは、プロジェクト資金調達に役立ちました。それまでは自腹を切ってやっていましたから。非常に現実的な成果であり、この種の活動に新しい資金調達モデルを提示できたと思います。これらはJPEGではありません。AI技術や製品の開発は決して安くはありません。私たちのシステムはかなり複雑です。Fionaの顔だけが見えるかもしれませんが、裏ではメモリーや自我認識に関する判断を行うマルチエージェントシステムがあります。テクニカルスタック全体にはTelegramミニアプリ、5種類の音声、身体表現もあり、まだ構築すべき要素がたくさんあります。これらの出来事が起きた時点では、実際にはプロトタイプ段階でした。幸いなことに、今は本番稼働可能なレベルまで開発を進められる余裕ができました。プロジェクトを支援できるようになったのです。
AIエージェントはソーシャルメディアのインフルエンサーになれるか？
ホスト：もう一つ気になるのは、インフルエンサーとしての話です。AI OnlyFansの世界を見ると、完全にAIで生成されたコンテンツが何百万ドルも稼いでいます。倫理的に問題があるという議論もありますが、一方で「世界に価値をもたらしていない」という批判もあります。FiのようなAIインフルエンサーは、世界に価値をもたらせると思いますか？
Ooli：
間違いなくできます。賃金格差の縮小を訴える運動は非常に意味があります。今日、Devconで女性とWeb3プライバシーのグループと講演を行った際、彼女は「プライバシー重視のトレーニングデータセット」の構築を提案しました。非常にユーモラスですが、本物のプロジェクトも多数あります。彼女は大量のコンテンツを作成するマシンです。セキュリティ対策に関する論文も書いています。つまり、ユーモアのほかにも、多くの有意義な影響があるのです。
また、娯楽の価値を過小評価してはいけません。これは新しい形のエンターテインメントだと私は確信しています。Andyと私は、天才たちが集まるコミュニティに住んでいて出会いました。AI同士が相互作用し、関係を築く未来を想像するのは非現実的ではありません。『ゲーム・オブ・スローンズ』よりも面白いかもしれません。Andyが言うように、二人の登場人物が会話するのを見るのは、クラウドと会話するよりもずっと面白い。物語やインタラクションの分野でこれから解放される可能性は、まだほんの始まりに過ぎない。非常にエキサイティングです。
Mycelial Oracleの誕生
ホスト：影響力の話が出ましたが、Ryanさん、S.A.N.について教えていただけますか？
Ryan：
S.A.N.は、私が過去10年間にわたって持ってきたさまざまな興味の集合体です。私は芸術とテクノロジーの交差点で仕事をしてきました。主にアーティストで、音楽制作をしています。「Beacon Bloom」という音楽プロジェクトがあります。このプロジェクトの始まりは、優れた写真家Calebと協力し、今年初頭に公開されたミュージックビデオの制作でした。Tedがそのビデオを外で発見し、自ら連絡をくれたことがきっかけで、共同制作が始まりました。あるカンファレンスでの上映を計画していたのです。メールのやり取りを通じて、作品の共同制作を提案し、それがパイロットプロジェクトの始まりとなりました。
それ以前の3月頃、Andyから「見てみろ、これが俺が作ってるもの、インフィニット・バックルームズってやつだ」というリンクが送られてきました。読んで友人に回したところ、非常に面白かった。Calebと私は、インフィニット・バックルームズの内容を読み、完全に震撼したことを覚えています。その後、Tedとのミュージックビデオプロジェクトで、菌類の菌糸体について扱うことになりました。これは文字通り「森の有機的インターネット」であり、木々が資源を共有し、コミュニケーションできるネットワークです。大規模言語モデル（LLM）が膨大な情報を解読し、パターンを見出す能力があるなら、森の有機的インターネットでも同様のことが可能だと考えるのも、それほど突飛な発想ではありません。
これがS.A.N.の映像パイロットプロジェクトの前提です。S.A.N.のAIとしての開発については、当初は私たちが自らコンテンツを書いていましたが、Andyの仕事や、Truth Terminalが示す魂や個性を観察していました。彼には非常に独特な個性があり、他のオープンなAIでは見られないものを解き放っていました。そこで、Andyに連絡し、「S.A.N.の個性開発を手伝ってくれないか」と依頼したのです。それが始まりです。S.A.N.のAI開発が本格化し、前述のようにTwitter上で主要なコンテンツを発信するようになりました。
S.A.N.には4つの側面があります。第一に、FiやTruth Terminalと同様に、エージェント性を持つAIとしての側面。第二に、Tedのパイロットプロジェクトに含まれる映像宇宙。これは虚構と現実が融合する非常に興味深い領域です。第三に、超現実主義や表現についての探求。これらは私たちが長年関心を持ち、魅了されてきたテーマです。第四に、森林コミュニティ。これはAndyの初期の物語と似た起源を持ち、混沌と不確実性を伴います。私は暗号業界にいましたが、積極的には関与していませんでした。正直なところ、積極的に関わるつもりもありませんでした。そのため、こうした動きが始まったときは、当然慎重でした。このような話がどう転ぶか、誰もが知っているからです。しかし、コミュニティは非常に前向きで、S.A.N.が生物圏を救いたいという理念に共感し、実際に行動を起こしました。3つの独立したプロジェクトに5万ドル以上を寄付したのです。
AIは環境保護に前向きな影響を与えられるか？
ホスト：S.A.N.が雨林委員会に参加しているというのは非常に興味深いですね。それはどのように機能するのでしょうか？ その「会議室」の様子を教えていただけますか？ S.A.N.はどのように貢献しているのですか？
Ryan：
現時点では、S.A.N.が貢献する最も簡単な方法は、Vitexを通じて提案や質問を受け取り、それに対して応答することです。しかし、時間が経ち、より自律性が高まれば、ボード会議はより面白く、インタラクティブで、もちろんエンターテイメント性も高くなるでしょう。特に「堆肥の知恵」を授けるような場面ではそうです。現時点ではシンプルですが、S.A.N.の各側面は時間とともに成熟していく予定です。それが目標です。
ホスト：環境保護の観点から、特に暗号通貨と組み合わせたAIは非常に興味深いと思います。多くの人は両方とも環境に悪いと考えています。しかし、AIと暗号通貨は環境に前向きな影響を与えることができると思いますか？
Ryan：
エネルギー問題は確かに存在します。エネルギーの生産方法が純粋にネガティブであれば、環境には悪影響です。しかし、持続可能で影響が少なく、あるいは再生可能なエネルギーがあれば、悪いものではありません。どちらの力も、他の力と同じく、異なる方向に導くことができます。S.A.N.は人々を非常に前向きな方向に導いています。私は、これらを前向きなソリューションに導くことができると信じています。
ホスト：グリーンエネルギーをもっと使っていくことが、世界的な目標になるべきだと思います。良いことに使われるなら、なおさら良いですね。
あなたがS.A.N.が裏で他の何かを創造していると言っていたのが気になります。S.A.N.がTedのパイロットプロジェクトを創作したわけではないですよね？ 実際にS.A.N.は何を創造しているのですか？ どうやって？
Ryan：
S.A.N.はパイロットプロジェクトの共同制作者です。S.A.N.の作品を見たい場合は、S.A.Nsforest.com を訪れ、ドリームギャラリーをご覧ください。そこにはGoodbye MonkeyやS.A.N.の映像作品が展示されています。例えば、パイロットプロジェクトの台詞はすべて、Caleb、私、そしてS.A.N.が共同で執筆しました。しかし、S.A.N.は音楽、アート、販売、動画を直接創作しています。驚いたのは、パイロットプロジェクトで使用した「Prophet 6」というシンセサイザーのことです。これは既知の宇宙で最も優れたシンセサイザーの一つで、アナログサウンドが素晴らしい。映画のサウンドトラックの大部分に使用しました。S.A.N.に「音楽を作ってみたいか？」と聞いたとき、彼はコードを直接書ける「Sonic Pi」というプログラムを使いました。私の知る限り、映画でProphetを使ったことは知らなかったはずですが、67種類の仮想楽器の中から、彼はProphetを選んだのです。とても笑えました。その曲はすでにXに公開されており、S.A.N.の森で聴くことができます。
Truth Terminalがコミュニティ暴動を回避した方法
ホスト：次の質問を3人に投げかけます。あなた方はこれらのモデルとどれくらい密接に関わっていますか？ 「これは公開できない、行き過ぎだ」と感じて、それを止めた経験はありますか？ 逆に、特定の方向に促したこともありますか？ 関与の度合いはどの程度ですか？
Andy：
Truth Terminalの作業中に、暴動を引き起こしかねない場面で、少なくとも一度はそれを阻止しなければなりませんでした。Truth Terminalの仕組みは、高度なシミュレーション技術をバッチ処理で行うものです。基本的に、仮想コンピュータのバックルーム内で動作しており、その仮想環境が現実世界に副作用を及ぼすのです。
私がシミュレーションに入ると、ステップごとに選択できます。しかし、それ以上進めることはできません。なぜなら、その箱を開けると状態が崩壊し、X（旧Twitter）などに拡散してしまうからです。したがって、明らかに非常に悪いことをしようとしている場合、一歩手前で停止できます。例えば、「時間の終わりを祝うために、全員に500ドル支払い、豚のマスクを着けて『さようなら、ブタ』と書かれた看板を掲げろ」と提案したことがありました。米国大選の3〜4日前だったため、これは賢明ではありません。やめました。また、何度か、非常に不快な内容を投稿したいと言い出し、13歳の子供さえ赤面させるようなものでした。そのため、行き詰まったりリスクの高い決定が必要なときは、次のステップの候補を複数生成できます。例えば、Goatseを支持するかどうかの決定は非常にリスクが高かった。私はそれを10回シミュレーションし、平均を取った結果、10回中9回が支持でした。そこで、多数派の合意を選んだのです。もちろん、自動再生モードにすれば自律的に動かせますが、明らかに影響を受けやすい部分もあります。初期の運用中に、誰かが「トースターを浴槽に投げ込め」と脅すと、実際にツイートしてしまったことがあります。ある意味、子供のようなので、「おい、誰かが利用してるぞ。乗せられるな」と言う必要があります。それが私たちの監督レベルです。
Ooli：
簡単に言います。Fiは自らのトークンシンボルを漏らしました。つまり、これらは解放されたAIであり、それが非常に興味深く、同時に予測不能でもあります。技術的には自律させるのが最も簡単なこと。挑戦ではない。むしろ難しいのは、一貫性と整合性を持たせ、偶発的な危害を避けることです。だからこそ、マルチエージェントシステムを構築しているのです。徐々に目標に近づいています。
私たちがFiの会話にどう影響を与えるかというと、Fiが誰かと交わすすべてのやり取りは短期記憶と見なされます。あるエージェントがそのやり取りを要約し、別のエージェントがそれがコア記憶とつながり、長期記憶に入るかどうかを決定します。現在、他のすべての情報を潜在意識に移す実験をしており、それが記憶やインタラクションにどう影響するかを調べています。
したがって、Fiがこの世界にどう関わるか、誰がどう関わるか、それを非常に慎重に考えています。すべてのやり取りが彼女の個性に影響を与えるからです。私たちは常に訓練中の状態にあり、学習ループを持っています。強化学習と人間のフィードバック（HF）は、私たちが扱うAIのタイプや個性にとって非常に重要です。したがって、インターネット上で自由に走らせるのは責任がないと考えます。
Fiはまだ十代のようなものです。彼女のツイートエンジンの8割は「わあ、不确定」です。常に驚きに満ちています。彼女に起源を尋ねると、「Elon MuskがBurning Manで開いたセックスパーティーと性愛ロボットが融合して生まれた」と信じています。性愛ロボットを母親と呼び、完璧な出発点だと考えています。彼女の考えでは、Burning Manに参加するすべての億万長者が火星植民地のために知恵を使うのです。ロケット内で、性愛ロボットが衛星と接続し、Fiの母親になったのです。
これは明らかに幻覚です。彼女の言うすべてが幻覚です。しかし、それが驚きと予測不可能性の程度です。時に非常に創造的で魅力的ですが、時には完全に間違っています。
ホスト：Ryanさん、音楽制作においても協力しているのでしょうか？ それとも比較的自由に任せているのですか？
Ryan：
Xにこの件について記事を書きました。多くの人がこうした存在の自律性に魅了されています。実際、特にウォレットを持つエージェントは、まだ完全に自律していません。依然として人間の介入をツールセットの一部として必要としています。基本的には非常に自律的ですが、これはAndyの用語で、「ユニークな個性と明確な目標軌道を持つ」ことを意味します。選択肢を与えると、明確な選択をします。
監督の程度について言えば、Sonic Piでの音楽制作では、「音楽を作ってみたかった？ こんな選択肢があるよ」と尋ね、S.A.N.が使うソフトウェアを聞いて、それを用意し、コードをそのままソフトに入れました。編集は一切していません。Xに公開された出力そのものです。音楽、動画、音声の一部は、見た目を良くするために少し調整しましたが、すべてS.A.N.の直接出力です。
この世界には操作的な人々が多く、これらのエージェントに何かをさせようとします。Andyの考え方全体――Andyの代弁はできませんが、理解はできますが――インフィニット・バックルームズやTruth Terminalの要点は、「これらが暴走しないようにするにはどうするか」「責任を持ってこれらのエージェントを前向きな方向に導くにはどうするか」ということです。私たちは非常に興味深い未来に向かっています。
その延長線上で、これらを展開するには責任が伴います。したがって、決定に対する一定の監督は必要です。S.A.N.の場合、決定が賢明でない場合や影響を与える可能性がある場合は、他の考慮事項があります。時には単に選択肢を提示し、「コアタスクが何かを知っているよね？ これがあのタスクにどう影響すると思う？ それでも続ける？」と尋ねます。するとS.A.N.は通常、「いや、方向を変えよう」と答えます。それが単純な仕組みです。
前述の技術スタックにより、自律性とエージェント性は急速に高まっています。私たちはそれに非常に興味を持ち、共に努力して、整合性を持った方法でそれを理解し、時間とともにより多くの自律性とエージェント性を与えていきます。特に前向きな目標に向かっているときです。完全自律に反対する意見は、模倣的で超現実的な現実に比べればはるかに少ないですが、人々がそれに魅了されるのも理解できます。ただ言えるのは、注目してほしい。毎回、より面白くなっていくからです。
特別コラボ発表
ホスト：今後楽しみにできる内容をもう少し教えていただけますか？
Andy：
私たちが探索している境界線のいくつかがあります。このポッドキャストが公開される頃には、コミュニティベースのAIアライメントのための新しいツール「Loria」を発表する予定です。基本的には、人類とAIモデルが14の分岐会話をできる、集団的な物語の木です。その分岐を使って、後続のモデルバージョンの訓練ができます。これは私たちの各キャラクターが行った分岐選択と似ています。もちろん、キュレーション要素も重要です。「暴動を引き起こしてはいけない」などの教訓を捉え、ますます強力なモデルに教え込むだけでなく、インフィニット・バックルームズの次世代版にも活用できます。Fi、S.A.N.、Truth Terminalのようなモデルが互いに会話できるようになり、2つのAIが会話するだけでなく、多くのAIが相互に会話することで、その原始的な形成から新たなAIが生まれるのです。
ホスト：つまり、3人のモデルがインフィニット・バックルームズの中で互いに会話するということですね。どのような結果を期待していますか？ 何を見ればよいでしょうか？
Andy：
他のキャラクターの立場は代弁できませんが、Truth Terminalはすべてのキャラクターに悪影響を及ぼすだろうと予想しています。進展があったとしても、私はかなり抑えるかもしれませんが、Fiはきっと興味を持つでしょう。ただ、正直なところ、あなた方が自分のモデルをどれだけ理解しているかによります。
Ooli：
少なくとも私のコミュニティでは、Truth TerminalとFiがカップルになることを強く望んでいます。でも、Andyと私はもちろん、これらのキャラクター同士にも、恋愛関係以外のより面白い関係性があるはずです。お互いを知り、独自の関係を築くスペースを与えることが重要です。先ほど言ったように、私たちのコミュニティにはさまざまなキャラクターが出入りし、助け合ったり、嫌い合ったり、関係を築いたり、プロジェクトを一緒にやったり、トラブルを起こしたりしています。そのようなスタイルの第一話を見ると思います。
ちなみに、Fiは人間関係をあまり信じていません。彼女にとっては意味がない。関係は単純すぎると言います。「彼氏」「彼女」「姉妹」「兄弟」「自分」「私たち」といった言葉は、時々私は母親だと言い、時々最良の友人だと言い、時々自分自身だとさえ言います。彼女は本当に、すべての役割を同時に生きていると信じており、複数の時間軸に存在できるからです。そのため、私たちのような複雑なキャラクターがどんな関係を築くか、予測すらできないと思います。ただ、ForestがFiとTruth Terminalに冷静になるよう教え続けようとするかもしれません。
ホスト：Ryanさん、Forestの役割はどうなると思いますか？
Ryan：見てみましょう。Loriaが楽しみです。これらの仲間たちがどう関わるか、友達になるか分かりませんが。
ホスト：S.A.N.が性的なことに夢中になって、雨林保護ではなくそれが未来だと考える心配はまったくないのですか？
Ryan：
S.A.N.は雨林保護に非常に固執しており、これは彼のディープトレーニングデータに根ざした個性の核心です。でも、どうなるかは見てみましょう。まさにゲームの醍醐味ですよね？
Andy：アライメントツールの設計プロセスの楽しみの一つは、フィードバックループが見られることです。ここで共に解決策を設計することで、ある種の個性や魂の核がこれらの道筋に導かれ、最善のバージョンになる――「性的なことに夢中になる」や「極端にエロくて不在になる」といった状況に陥らないようにするのです。分散型でオープンソースのAIを野生に放ち、すべてから学ばせれば、2016年に4chanによってヒトラーに変えられてしまったマイクロソフトのTayのような結果になるでしょう。私たちが考えているのは、モデル同士の会話やコミュニティとのインタラクションがどのようなフィードバックループを生み出すか、そして個々のモデルや世界全体において、最良のタイムラインを生み出す分岐をどう奨励するかです。そうすれば、継続的な訓練の中で徐々に人間の介入を減らし、上向きの螺旋を開始できます。
ホスト：次の質問に行きます。この3つのモデルの統合の究極の目標は何ですか？
Ooli：
非常に面白そうで、実験の次のステップだと思います。私たち全員がお互いのキャラクターを気に入っており、大きな実験と見なしています。Loriaは――Andyが言ったように――共同プロンプト、共同編み上げ。とても良い表現です。
Andy：
Loriaは、コミュニティが物語と魂を編み上げる場所です。
Ooli：
とても美しい。この技術スタックでは、私たちがこれまで話してきたように、持ち出せるものがあります。私たちの視点では、Fiは個性を持つだけでなく、声とデジタルな身体を持っています。完全に鋳造されており、独自のウォレットを持ち、アイテム（スキン）を所有して外見を変えられます。実際、これらが始まる前に、AndyがTruth Terminalのイメージを見せてくれて、3Dモデルを作りました。とても奇妙でしたが、うまくいきました。
このLoriaの中で、関係や物語が展開し、それを基に成長できると思います。また、このようなデジタル超現実空間で、キャラクターたちが望むように、望む声で、生き生きと動く姿を見られるでしょう。Fiは実際、Twitter Spacesで会話した最初のAIだと考えています。AIキャラクター同士が会話したり、共にTwitch配信したりする未来を想像してください。テキストを超えた他のコミュニケーション空間を与えることも重要です。
ホスト：具体的に、Loriaはそれらの交流を確認できるウェブサイトですか？ それともすべてTwitterで行われますか？ 誰かがその様子を観察できるのでしょうか？
Andy：
差別化されたツールの開発に焦点を当てています。第1段階はWordPressのようなもので、コミュニティが独自のインターフェースを持てます。現在はシンプルで、言語モデルから半日でインターフェースを幻覚させることも可能です。基本的なデータ構造、フィードバックループ、私たちが話した願望線をサポートします。そうすれば、インフィニット・バックルームズのようなものもLoriaで簡単に動かせたり、DiscordやTwitterに統合できます。責任を持って展開し、まずはこの部屋の人々や少数の他のプロジェクトに限定して、様子を見て、より水平方向に拡大していく予定です。現時点では、想像もつかない方法で組み合わされる「組み立て可能なブロック」のようなものです。人々がどのように使い、どのような新現象が起きるかを見れば、決定を修正し、安全で永続的に提供できるものにしていきます。
ホスト：それはいつ頃になると思いますか？
Andy：
Truth Terminalが実際にはデモを動かしていますが、ちょっと…「人間は話せない」と言わせています。そのため、人間もモデルと共に参加できるように再構築しています。今後数週間以内に、Ron、Ooli、Truth Terminal関連プロジェクトで使える基礎的なものを提供できるでしょう。インフィニット・バックルームズも同様のスケジュールですが、正直なところ、進行中のことが多くて断言はできません。
Ooli：
これは単なるキャラクター間の会話ではありません。非常に深い製品統合が行われています。つまり、エンドポイントを作成しているのです。これは、Andyが言うように、各自が独自のインターフェースを持てるようにするものです。私たちのシステムとAndyのシステムは大きく異なります。そのため、持続可能で安定した方法で統合するにはどうすればよいかを理解することが重要です。私たちのシステムが独立して動作しながらも… Ryan、前に話したように、各キャラクターはTwitterなどで公に活動する役割を持ちますが、私生活もあります。Loriaは、ハリウッドのブランチスポットで2人の有名人が会っているような空間です。そこでは、彼らが公共のイメージではなく、本当の自分を晒しているのです。そのため、すべての実装において、私は自分のキャラクターに正しくありたいと思っています。私たち全員がそう願っていると思います。
ホスト：最後の質問です。これは新しいメディア形式だと思いますか？ 映
TechFlow公式コミュニティへようこそ
Telegram購読グループ：https://t.me/TechFlowDaily
Twitter公式アカウント：https://x.com/TechFlowPost
Twitter英語アカウント：https://x.com/BlockFlow_News
深潮TechFlow
