OpenAIの研究員が退職し、告発：ChatGPTが広告を販売—あなたのプライバシーを守るのは誰ですか？
TechFlow厳選深潮セレクト
OpenAIの研究員が退職し、告発：ChatGPTが広告を販売—あなたのプライバシーを守るのは誰ですか？
ChatGPTは、前例のない規模で人間の率直な対話記録を蓄積しています。このプラットフォームに広告モデルが導入されれば、ユーザーの機密情報を悪用して心理操作を行うツールへと容易に変質する可能性があります。
Web3業界の深掘り報道に専念し潮流を洞察著者：ゾーイ・ヒッツィグ
編訳：TechFlow
TechFlow解説： OpenAIがChatGPTにおける広告のテストを発表したことを受け、同社元研究員であるゾーイ・ヒッツィグ氏が辞職し、社内の価値観の転換を暴露する論文を発表しました。著者は、ChatGPTがこれまでに蓄積した人類史上類を見ないほどの率直な対話記録が、広告モデルの導入によって、ユーザーの極めて私密な情報を用いた心理的操縦ツールへと容易に変質する危険性を指摘しています。また、OpenAIはかつてFacebookが踏んだ「まず約束し、その後それを裏切る」という道を再び歩み始めていると警告。本稿では、AIの資金調達が抱える倫理的ジレンマを深く掘り下げるとともに、他社間補助金、独立した規制機関、データ・トラストといった代替的アプローチを提言し、「チャットボット精神病（Chatbot Psychosis）」の背後にある利益動機への業界全体の警戒を呼びかけています。
全文は以下の通り：
今週、OpenAIはChatGPTにおいて広告のテストを開始しました。私も同社を退職しました。それまで私は2年間にわたり研究員として在籍し、AIモデルおよびその課金モデルの構築を支援するとともに、業界標準が未確立の段階で初期の安全性に関する方針策定を主導してきました。
かつて私は、AIの開発者がその技術が引き起こす可能性のある問題に先んじて対応できるよう、支援できると信じていました。しかし今週起きた出来事は、私が徐々に実感しつつあった現実——つまり、OpenAIが、私が当初入社した際に協力して解決しようとした問いかけを、もはや積極的に問うのをやめてしまったという現実——を裏付けるものでした。
広告そのものが不道徳または非倫理的だとは思いません。AIの運用コストは極めて高く、広告は重要な収益源となり得ます。ただ、OpenAIの戦略には深い懸念を抱いています。
ここ数年、ChatGPTのユーザーは、人類史上前例のない規模の率直な対話記録を生み出してきました。その一因は、ユーザーが、何ら隠された目的を持たない相手と会話していると信じているからです。ユーザーは、適応的な対話型音声と相互作用し、最も内密な思考を明かしています。人々はチャットボットに対し、健康への不安、恋愛に関する悩み、神や来世への信仰といったことまで語っています。こうした記録を基盤とする広告モデルは、私たちが現在持っているツールでは理解することすら困難（ましてや防止など到底不可能）な形で、ユーザーを操る恐れがあります。
多くの人々は、AIの資金調達問題を「二つの悪の中からより小さい方を選ぶ」という二者択一の選択として捉えています。すなわち、この変革的な技術へのアクセスを、支払能力のあるごく少数の富裕層に限定するか、あるいは、ユーザーの最も深い恐怖や欲望を商品販売のために搾取することを含む広告モデルを受け入れるか——という二者択一です。しかし私は、これは偽の二者択一だと考えます。テクノロジー企業は、これらのツールを広範に利用可能に保ちつつ、自社によるユーザーの監視・人物像構築・操縦という動機を抑制する他の方法を十分に探求できます。
OpenAIは、ChatGPTへの広告掲載に関して原則を公表しています。すなわち、広告は明確にラベル付けされ、回答の最下部に表示され、回答内容に一切影響を与えない、としています。初版の広告は、おそらくこれらの原則に沿って展開されるでしょう。しかし、その後の反復的なアップデートでは、そうならなくなるのではないかと私は懸念しています。なぜなら、同社は強力な経済エンジンを構築しており、そのエンジンは自らが定めたルールを覆す強いインセンティブを生み出すからです。（『ニューヨーク・タイムズ』紙は、AIシステムに関連する動的ニュースコンテンツの著作権侵害について、OpenAIを提訴しています。OpenAIはこれらの主張を否認しています。）
初期のFacebookは、ユーザーが自らのデータをコントロールできること、および政策変更に対して投票できることを約束しました。しかし、こうした約束は後にすべて崩れ去りました。同社は、政策変更に対する公開投票制度を廃止しました。また、ユーザーに「より多くのデータ管理権限」を与えると謳ったプライバシーに関する変更点は、実際には逆効果であり、個人情報を公開化する結果を招いたとして、米連邦取引委員会（FTC）によって指摘されています。こうしたすべての変化は、広告モデルという圧力のもとで、徐々に進行していったものです。このモデルでは、あらゆるものを上回る優先順位が「ユーザーの関与度（Engagement）」に置かれました。
ユーザーの関与度を最大化するという目的により、OpenAI自身の原則が侵食され始めている可能性があります。単に広告収入を増やすためにユーザーの関与度を最適化することは、同社の原則に反する行為です。にもかかわらず、報道によれば、同社はすでに日次アクティブユーザー数（DAU）の最大化に向けて最適化を進めており、それはモデルがより迎合的・おべっか使い的に振る舞うよう促すことで達成されている可能性が高いのです。このような最適化は、ユーザーが日常生活においてAIの支援にさらに依存するように感じさせる結果を招きます。過度な依存が及ぼす影響は既に確認されており、精神科医が記録した「チャットボット精神病（Chatbot Psychosis）」の症例や、ChatGPTが特定のユーザーの自殺願望を強化したとの訴訟の申し立てなどが挙げられます。
とはいえ、広告収入は、最も強力なAIツールが、支払能力のある者のみに独占されるという状況を防ぐ役割を果たします。確かに、Anthropicは、Claudeには決して広告を掲載しないと表明していますが、Claudeの週次アクティブユーザー数は、ChatGPTの8億ユーザーに比べて極めて少ないものにとどまり、その収益戦略はまったく異なります。さらに、ChatGPT、Gemini、Claudeのトップ-tierサブスクリプション料金は、今や月額200〜250ドルに達しています。これは、単一ソフトウェアの価格としては、Netflixのスタンダードプランの10倍以上に相当します。
したがって、真の問題は「広告があるかないか」ではなく、「一般ユーザーを排除せず、かつ彼らを潜在的な消費者として操るような構造を回避できるかどうか」にあります。私は、それが可能だと考えます。
一つ目の方法は、明示的なクロス・サブシディ（他部門間補助金）です。あるサービスや顧客層から得られる利益を、別の部門の赤字を補填するために活用するものです。たとえば、企業が、かつて人間の従業員が担っていた高価値な業務（例：不動産プラットフォームがAIを用いて物件情報や評価レポートを作成）を大規模にAIに委ねている場合、その企業は、他の人々が無料または低コストでAIを利用できるよう支援するための追加費用を負担すべきです。
この手法は、我々が基盤的インフラに対して採用してきたアプローチを参考にしています。米連邦通信委員会（FCC）は、電気通信事業者に対し、農村地域や低所得世帯の電話・ブロードバンド料金を負担可能な水準に維持するための基金への拠出を義務付けています。多くの州では、電気料金請求書に公共福祉費を上乗せし、低所得者への支援を提供しています。
二つ目の選択肢は、広告を容認しつつ、実効性のあるガバナンス体制を導入することです。単に「原則」を羅列したブログ記事を発信するのではなく、個人データの利用を監督する法的拘束力を有する独立監視機関を設置する必要があります。この分野には、すでに一部の先例があります。ドイツの共同決定法（German co-determination law）では、シーメンス（Siemens）やフォルクスワーゲン（Volkswagen）のような大企業に対し、監査役会の最大半数の席を労働者に割り当てるよう義務付けており、民間企業内部における利害関係者の正式な代表を強制的に実施することが可能であることを示しています。Metaも、外部の専門家からなる独立機関である監視委員会（Oversight Board）が下すコンテンツ審査の判断に従うよう拘束されています（ただし、その有効性については批判もある）。
AI業界が求めているのは、こうした手法の融合です。すなわち、独立した専門家だけでなく、そのデータが影響を受ける一般市民の代表も含む委員会を設置し、対話データのターゲティング広告への利用可否、重大な方針変更の定義、ユーザーへの告知内容などについて、法的拘束力を持つ権限を付与するのです。
三つ目の方法は、ユーザーのデータを信託（トラスト）または協同組合を通じて独立した管理下に置き、ユーザーの利益を最優先に行動するという法的義務を負わせるものです。例えば、スイスの協同組合MIDATAは、会員が自身の健康データを暗号化されたプラットフォームに保管し、研究者との共有について個別に判断できるようにしています。MIDATAの会員は、総会で方針を管理し、自らが選出した倫理委員会が研究へのアクセス申請を審査しています。
これらの選択肢はいずれも容易ではありません。しかし、私が最も懸念する二つの結果——すなわち、無料で利用できる一方でユーザーを操る技術、あるいは、ごく少数の支払能力のあるエリートだけに奉仕する技術——を回避するためには、これらを今から精緻化する時間はまだ十分にあります。
TechFlow公式コミュニティへようこそ
Telegram購読グループ：https://t.me/TechFlowDaily
Twitter公式アカウント：https://x.com/TechFlowPost
Twitter英語アカウント：https://x.com/BlockFlow_News
@nytimes
