a16zがAIのスター企業「ユニコーン」と対談：大規模モデルの将来はいかに進化するか？
TechFlow厳選深潮セレクト
a16zがAIのスター企業「ユニコーン」と対談：大規模モデルの将来はいかに進化するか？
a16zの投資家が、4人の新興AIスタートアップCEOとLLMの今後の方向性について議論した。
Web3業界の深掘り報道に専念し潮流を洞察a16zの投資家は、新興AIスタートアップ4社のCEOたちとともに、LLMの今後の発展方向について議論した。
参加者は以下の通り：Anthropicの最高経営責任者（CEO）Dario Amodei氏、CohereのCEO Aidan Gomez氏、Character.AIのCEO Noam Shazeer氏、およびAI21 LabsのYoav Shoham氏。
彼らは以下の4つの主要な方向性をまとめた：
-
「ハルシネーション」問題をできる限り解決し、モデルの出力を制御する「ステアリング」を確立する
-
より大規模で正確なメモリソリューションにより、パーソナライゼーションを実現する
-
知識から推論、そして行動へと進化させ、モデルにツールの使い方を教える
-
マルチモーダル化により、真に汎用的な能力を持つモデルを実現する
「ハルシネーション」の課題 ― ステアリングを確立せよ
大規模言語モデル（LLM）には依然として「ハルシネーション」（事実誤認や虚偽生成）の問題があるため、多くの起業家が製品や業務プロセスへのLLM導入に対して慎重になっている。
この問題を解決するために、モデルの出力に焦点を当て、複雑なユーザー要求を正しく理解・実行できるようにすることが重要である。主要なモデル企業は、LLMの出力を制御する方法を改善しており、これを「steering（ステアリング）」、つまり「操舵」と呼んでいる。
Character.AIのCEOであるShazeer氏は、LLMを子どもに例え、「これはいかにモデルを適切に指導するかという問題だ。我々が望むことをモデルが正確に実行できるよう、正しい方法で指示を与える必要がある。子どもも同じで、時に物語をでっち上げたり、現実と幻想の区別がつかないことがある。」と述べた。
すでにGuardrailsやLMQLといった研究成果やツールが登場しているが、研究はまだ進行中であり、a16zはこの分野がLLMの製品化を進める上で鍵になると見ている。
企業にとって、ステアリングの改善は極めて重要である。Anthropicの創設者兼CEOであるAmodei氏は、「LLMの予測不能性は不安を引き起こす。API提供者として、『いいえ、モデルはそのようなことはしません』あるいは少なくとも『めったにしません』と言えるようになりたい」と語る。
LLMの出力を改善することで、開発者はモデルの性能と顧客のニーズをよりうまく一致させられるようになる。
ステアリングの向上は、広告など正確性と信頼性が求められる他の業界にも貢献する。
「法的文脈、医療現場、貯蓄・財務情報、金融リスク管理、ブランド保護が必要な場面などでは、技術の挙動が予測不能であったり、説明困難であってはならない。」
ステアリングの改善により、LLMはより少ないプロンプト工学で複雑なタスクをこなせるようになる。なぜなら、ユーザーの意図をより正確に理解できるようになるからだ。
LLMの出力をよりよく制御できれば、個人向け（C向け）のセンシティブなアプリケーションにおける利用可能性も広がる。ユーザーは個別対応かつ正確な返答を期待している。
ユーザーがLLMと会話したり、創造的なコンテンツを生成する際には、多少の不正確さを容認するかもしれない。しかし、日常業務において重大な意思決定の助言を受けたり、人生のコーチ、カウンセラー、医師の役割を果たしてもらう場合には、より正確な出力が求められる。
LLMが検索のようなインターネット時代の根幹を成すツールや製品に本当に取って代われるかどうかは、ステアリングをしっかり確立し、出力を改善してユーザーの信頼を得られるかにかかっているかもしれない。
「メモリ」の課題 ― パーソナライゼーションが目標
コンテキスト（文脈）処理能力の不足は、パーソナライゼーションの妨げとなっている重要な弱点である。
確かにプロンプトやファインチューニングによってある程度のパーソナライゼーションは可能だが、前者は大量導入が困難であり、後者はコストが高く、再訓練が必要で、しばしばクローズドなLLMベンダーとの密接な協力が求められる。これは小規模チームや個人ユーザーにとってはほぼ不可能なハードルだ。
コンテキスト学習――企業の専門用語や特定の文脈から学び、より精緻でニーズに合致した出力を生み出す能力――はまさに「聖杯」である。
このコンテキスト能力を解き放つには、LLMがより強力なメモリ、記憶能力を持つ必要がある。
LLMのメモリには主に二つの要素がある：コンテキストウィンドウ（context window）とリトリーバル（retrieval）である。
コンテキストウィンドウとは、学習データに加えてモデルに入力され、処理の対象となるテキストのことである。
リトリーバルとは、モデルの学習語料庫以外の外部データ源から関連情報を検索・参照すること（コンテクスチュアルデータ）。
現在、ほとんどのLLMはコンテキストウィンドウが限られており、外部情報をローカルで検索できないため、出力のパーソナライズ度は不十分である。しかし、より大きなコンテキストウィンドウと高度なリトリーバルにより、モデルは個人の状況に最適化された精密な出力を直接提供できるようになる。
特にコンテキストウィンドウの拡張により、モデルはより大量のテキストを処理でき、対話中の一貫性を維持できるようになる。
これにより、長文要約や、長時間続く対話の中で一貫性を持ちつつコンテキストに沿った応答を生成するといった、深い理解と長い入力が必要なタスクの実行能力が大幅に向上する。
コンテキスト能力の改善は進行中である。GPT-4は8kおよび32kのコンテキストウィンドウを備え、GPT-3.5やChatGPTは4kおよび16kトークンの能力しかない。
Claudeは最近、コンテキスト能力を10万トークンまで拡張した。
しかし、単にコンテキストの長さを延ばすだけでは記憶能力の向上は不十分である。推論のコストと時間は、コンテキスト長に比例して線形、あるいは二次的に増加するためだ。
リトリーバル機構は、最も関連性の高いコンテキストデータを用いて、LLMの元の学習語料を補完・強化する。LLMの情報は更新が難しいため、リトリーバルには二つの利点があるとAI21 Labsの創設者Shoham氏は言う。「第一に、学習時点では存在しなかった情報源にアクセスできる。第二に、モデルをタスクに関連する情報に集中させられる。」
ベクトルデータベースは、関連情報を効率的に検索する事実上の標準となり、大規模モデルの「メモリ層」として機能し、膨大な情報の中から正確なデータを高速に探索・引用できるようにしている。
拡張されたコンテキストウィンドウとリトリーバル機構は、大規模なナレッジベースや複雑なデータベースを扱う企業用途にとって非常に価値が高い。企業は内部ナレッジ、過去の顧客記録、財務データなどの独自データを、ファインチューニングなしにLLMの入力として活用できるようになる。
LLMの記憶能力の改善は、研修、レポート作成、社内検索、データ分析、ビジネスインテリジェンス、カスタマーサポートなどの分野で、精度の高いカスタマイズ機能をもたらす。
消費者領域では、強化されたコンテキストウィンドウとリトリーバルにより、パーソナライゼーション機能が飛躍的に進化し、ユーザー体験を根本から変えるだろう。
Noam Shazeer氏は、「重要なブレークスルーの一つは、各ユーザーにパーソナライズされた高容量メモリモデルを開発し、規模とコスト効率の両立を実現することだ。心療医には自分の人生のすべてを知っていてほしい。教師には自分が何をすでに理解しているかを把握してほしい。ライフコーチには自分に合ったアドバイスをしてほしい。これらすべてにコンテキストが必要だ。」と語る。
Aidan Gomez氏もこの進展に強い期待を寄せている。「メール、カレンダー、メッセージなど個人に関連するデータにモデルがアクセスできるようになれば、友人や同僚との関係性、コミュニケーションスタイルを理解し、その文脈に基づいて最大限の支援ができるようになる。」
知識から行動へ ― モデルにツールを使わせよう
大規模モデルの真の力は、自然言語を「行動」の媒介にできることにある。
大規模モデルは一般的で文書化されたシステムについて深く理解しているが、そこから得た情報を実際に実行することはできない。
たとえば、OpenAIのChatGPT、AnthropicのClaude、Character AIのLilyは、フライト予約の手順を詳細に説明できるが、それ自体では実際に予約操作を行えない（ただし、ChatGPTプラグインなどはこの問題の解決を始めている）。
Amodei氏はこう述べる。「理論上、大規模モデルはあらゆる知識を持つ脳を持っているが、具体的な操作命令（名前）を実際の実行（ボタンを押す）に結びつけるマッピングが欠けているのだ。これらの異なるコンポーネントをつなぐには、特別な学習はほとんど必要ない。大規模モデルはまるで身体を持たない脳のようなもので、操作方法を理論的には知っているが、実際にそれを実行するための『手足』が接続されていない。」
既に多くの企業が、大規模モデルのツール使用能力を継続的に改善している。BingやGoogleといった老舗企業に加え、PerplexityやYou.comといったスタートアップも検索APIを導入している。AI21 LabsはJurassic-Xをリリースし、計算機、天気API、Wikipedia API、データベースなど一連のツールとモデルを組み合わせることで、単体の大規模モデルの欠点を克服した。
OpenAIはプラグインを導入し、ChatGPTがExpedia、OpenTable、Wolfram、Instacart、Speak、ウェブブラウザ、コードインタプリタなどのツールと連携できるようにした。この進展は「App Storeの瞬間」とも称される。最近では、OpenAIがGPT-3.5およびGPT-4に「関数呼び出し（function calling）」機能を追加し、開発者がGPTの能力を任意の外部ツールと接続できるようになった。
知識の掘り起こしから「行動志向」へ重点を移すことで、さまざまな企業やユーザー層に「手」と「足」を提供し、新たな応用シーンが開かれる。
消費者にとっては、大規模モデルがすぐにレシピを提案し、必要な食材を注文したり、ランチの場所を提案して席を予約する日が近いかもしれない。
企業にとっては、創業者が大規模モデルをアプリに統合することで、使いやすさを劇的に向上させられる。
Amodei氏が指摘するように、「ユーザーインターフェース的に非常に使いにくい機能でも、自然言語で説明するだけで複雑な操作を実現できるかもしれない。」
たとえばSalesforceのようなアプリの場合、大規模モデルの統合により、ユーザーが自然言語で更新内容を指示すれば、モデルが自動で適切な変更を行うことが可能になり、CRMの運用にかかる時間が大幅に短縮される。CohereやAdeptといったスタートアップは、このような複雑なツールへの大規模モデル統合に取り組んでいる。
Gomez氏は、2年以内に大規模モデルがExcelなどのアプリを使用できるようになるかもしれないとしながらも、さらなる改善が必要だと指摘する。
「最初の世代のツール使用可能なモデルは想像をかき立てられるが、まだ非常に繊細だ。最終的には、どんなソフトウェアもモデルに渡し、『これがツールの機能で、こう使うんだ』と説明すれば、モデルがそれを使える理想的なシステムが実現するだろう。大規模モデルに特定のツールだけでなく汎用的なツールの使い方を教えられれば、その自動化能力は業界をリードする製品となるだろう。」
マルチモーダル ― 言語モデルは真に汎用的ではない
チャットインターフェースは多くのユーザーにとって直感的だが、人々は読んだり書いたりするよりも、日常的に耳で聞いたり話したりすることが多い。
Amodei氏が指摘するように、「AIシステムができることは限られている。なぜなら、すべての情報がテキスト形式で存在するわけではないからだ。」
マルチモーダル、すなわち音声や視覚など複数の形式をシームレスに処理・生成できるモデルは、言語を超えたインタラクションを可能にする。
GPT-4、Character.AI、MetaのImageBindなどはすでに画像や音声などのモダリティを処理・生成できるが、その品質はまだ非常に基礎的なレベルにとどまっている（モデルは継続的に改善されているが）。
Gomez氏は、「私たちのモデルは視覚情報を直接処理する点でまだ弱く、ここを改善する必要がある。私たちは多くのGUI（グラフィカルユーザーインターフェース）を構築してきたが、それらはすべてユーザーが画面を見られる前提で設計されている。」と述べる。
大規模モデルが進化するにつれ、マルチモーダル能力はさらに強化され、理解力やインタラクションの面で、ブラウザなどGUIに依存する既存アプリの使用も可能になる。ユーザーはチャットインターフェースの枠を超えて、より没入感があり、つながりの深い、包括的な体験を得られるようになる。
Shazeer氏は、「マルチモーダルモデルとの統合により、体験はより楽しく、ユーザーとのつながりが深くなる。」とし、「現在のコアインテリジェンスの大部分はテキストから来ていると思うが、音声や動画が体験をより魅力的にする。」と語る。AIとのビデオ通話での学習指導から、AIと共同で脚本を書くことまで、マルチモーダル技術はエンターテインメント、教育、コンテンツ生成の分野で消費者・企業双方の応用可能性を大きく変える。
マルチモーダルはツール利用とも密接に関連している。大規模モデルは当初、APIを通じて外部ソフトウェアと接続していたが、マルチモーダル化により、人間用に設計された、特別な統合がないツールも使えるようになる。例えば伝統的なERPシステム、デスクトップアプリ、医療機器、製造機械などだ。
この分野でも既に目覚ましい成果が出ている。たとえば、GoogleのMed-PaLM-2モデルは乳房X線写真やX線画像を解析できる。そして長期的には、マルチモーダル、特にコンピュータビジョンとの統合により、ロボット工学、自動運転など、物理世界とリアルタイムで相互作用するアプリケーションを通じて、大規模モデルを物理現実にまで拡張できる。
大規模モデルにはいくつかの限界があるが、研究者たちは短期間で驚異的な改善を遂げてきた。実際、本稿執筆中に何度も内容を更新せざるを得なかったほど、この技術は急速に進歩している。
Gomez氏も同意する。「20回に1回事実を捏造するような確率は明らかに高すぎる。しかし、我々が初めてこのようなシステムを構築している以上、非常に楽観的だ。人々の期待値は非常に高いが、目標はもはや『コンピュータが数学演算しかできない』レベルではなく、『人間より優れた判断ができる』レベルにまで上がっている。人間と機械の差は大きく縮まり、今や批判の焦点は『コンピュータが人間並みになれるか』というところにある。」
我々はこれから4つの革新に特に注目している。これらは起業家が製品を構築し、企業を運営する方法を変えるだろう。長期的には、その可能性はさらに大きい。
Amodei氏は予測する。「いずれ、すべての生物学的データを読み取り、がんの治療法を発見できるモデルが登場するかもしれない。」
実際、最高の新しいアプリケーションはまだ誰にもわかっていない。
Character.AIのShazeer氏は、ユーザー自身にその応用を任せている。「多くの新しいアプリケーションが生まれるだろう。それが何なのか、私は正確には言えない。数千ものアプリが登場し、ごく少数のエンジニアよりも、大多数のユーザーの方が、この技術をどう活用すべきかをよく理解しているはずだ。」
これらの進歩が、私たちの生活や仕事にどのような影響を与えるのか、今から待ちきれない。起業家と企業は、これらの新ツールと能力により、かつてないほど強力に支援されることだろう。
TechFlow公式コミュニティへようこそ
Telegram購読グループ：https://t.me/TechFlowDaily
Twitter公式アカウント：https://x.com/TechFlowPost
Twitter英語アカウント：https://x.com/BlockFlow_News
