人々は悪い資本家を必要とし、AIがデリバリーのデマを作り出した
TechFlow厳選深潮セレクト
人々は悪い資本家を必要とし、AIがデリバリーのデマを作り出した
偽ニュースが広まるのは、それがあなたが既に心の中で信じているものにあまりにも似ているからです。
Web3業界の深掘り報道に専念し潮流を洞察執筆：カリー、TechFlow
先週、ちょっと幻想的な出来事があった。
アメリカの二大フードデリバリー大手のCEO、一人は資産270億ドル、もう一人は世界最大のライドシェアプラットフォームを率いる人物が、土曜日の未明に眠らず、ネットで小論文を書き、自らの潔白を証明していた。
きっかけはRedditの匿名投稿だ。
投稿者は、ある大手フードデリバリープラットフォームのバックエンドエンジニアを名乗り、酔っ払って図書館の公共Wi-Fiを使って内部告発した。
内容はおおよそ以下の通り：
会社はライドシェアドライバーの状況を分析し、「絶望スコア」を付け、お金に困っているドライバーほど良い注文を受けられない；いわゆるフードデリバリーの優先配送は偽物で、通常注文は遅延させられる；様々な「ドライバー福利費」はドライバーに一銭も渡らず、全て議会へのロビー活動や組合対策に使われている…
投稿の結末は非常にリアルに仕上げられていた：酔っている、怒っている、だから告発する。
まさに「大企業がアルゴリズムでドライバーを搾取している」という内部告発者の役割を自分に演じさせた。
投稿から3日で、87,000の「いいね」を集め、Redditのトップページに躍り出た。スクリーンショットがXに投稿され、3,600万回のインプレッションを獲得した。
アメリカのフードデリバリー市場は数えるほどの大手しかいない。投稿は名前を挙げていないが、誰のことか皆が推測していた。
DoorDashのCEO、トニー・シューが先に我慢できなくなり、「これは我々の仕業ではない、そんなことをする者がいたら解雇する」とツイートした。UberのCOOも飛び出して反応し、「ネットで見るものを全て信じるな」と言った。
DoorDashは公式サイトに5項目の声明を掲載し、告発内容を一つ一つ反論した。時価総額合計800億ドルを超えるこの二社が、一つの匿名投稿のために夜を徹してPRで釈明した。
そして、この投稿が実はAIのでっち上げだと証明された。
暴いたのは海外テックメディアPlatformerの記者、ケイシー・ニュートンだ。
彼がこの投稿の告発者に連絡を取ると、相手はすぐに18ページの「内部技術文書」を送りつけてきた。タイトルも学術的で、『AllocNet-T: High-Dimensional Temporal Supply State Modeling』というもの。
訳すと「高次元時系列供給状態モデリング」といったところか。どのページにも「機密」の透かしが入り、署名はUberの「市場ダイナミクスグループ・行動経済学部門」となっていた。
内容は、Redditの告発投稿にあるドライバーへの「絶望スコア」付けモデルが、実際にどのように計算されるかを説明するもの。アーキテクチャ図、数式、データフロー図などが含まれていた…
（偽の論文スクリーンショット、一見すると、本当のように見える）
ニュートンは、この文書には最初騙されたと言う。誰が記者を釣るために18ページもの技術文書を偽造する手間をかけるだろうか？
しかし今は違う。
この18ページの文書は、AIを使えば数分で生成できる。
同時に、告発者は記者に、自分自身のUber社員証のモザイク写真も送りつけ、確かにそこで働いていると示した。
好奇心から、記者ニュートンは社員証をGoogle Geminiに投げて確認したところ、Geminiはこの画像がAI生成だと判断した。
識別できたのは、Googleが自社AIの出力内容に「SynthID」という目に見えない透かしを埋め込んでおり、肉眼では見えないが機械で検出できるからだ。
さらにありえないことに、社員証には「Uber Eats」のロゴが印刷されていた。
Uberの広報担当者は確認した：我々はUber Eatsブランドの社員証など一切なく、全ての社員証にはUberのみが印刷されている。
明らかに、この偽りの告発「内部告発者」は、誰を貶めようとしているのかすら把握していなかった。記者がLinkedInなどのSNSアカウント情報を提供してさらに確認するよう要求すると、
告発者はアカウントを削除して逃げた。
実は、私たちが話したいのはAIが偽造できるかどうかではなく、それは目新しいことではない。
私たちがより話したいのは：なぜ何千万もの人々が、一つの匿名告発投稿を信じようとするのか？
2020年、DoorDashはチップでドライバーの基本給を補填したとして訴えられ、1,675万ドルを支払った。Uberは「Greyball」というツールを作り、規制当局の回避に専念した。これらは事実だ。
「プラットフォームはろくなものではない、この判断は間違いない」という潜在的な同意を見つけるのは簡単だ。
だから、「フードデリバリープラットフォームのアルゴリズムがドライバーを搾取している」と誰かが言うと、人々の第一反応は「これは本当か？」ではなく「やっぱりな」となる。
偽ニュースが広まるのは、それが人々がすでに心の中で信じているものに似ているからだ。
AIがやっていることは、この「似ている」というコストをほぼゼロに近づけることだ。
この話にはもう一つの詳細がある。
詐欺を見破ったのはGoogleの透かし検出技術のおかげだ。GoogleはAIを作り、GoogleはAI検出ツールも作る。
しかしSynthIDはGoogle自社のAIしか検出できない。今回は、偽造者がたまたまGeminiを使ったから捕まった。他のモデルを使っていたら、ここまで幸運ではなかったかもしれない。
だから今回の解決は、技術の勝利というよりは：
相手が初歩的なミスを犯した、と言える。
以前、ロイターの調査で、59%の人がネット上の真偽を見分けられないことを心配しているという結果が出た。
フードデリバリー会社CEOの釈明ツイートは数十万人に読まれたが、これがPRであり嘘だと確信する人はどれだけいるだろう？偽の告発投稿はすでに削除されたが、コメント欄ではまだフードデリバリープラットフォームを罵る人がいる。
嘘が地球を半周走り終えても、真実はまだ靴紐を結んでいる。
もう一度考えてみてほしい。もしこの投稿がUberではなく、美団や餓了麼についてだったら？
「絶望スコア」だとか、「アルゴリズムで配達員を搾取」だとか、「福利費は配達員に一銭も渡らない」だとか。これらの告発を見て、第一反応は感情的同意ではないだろうか？
『外売騎手、システムに囚われる』、あの記事を覚えているだろう。
だから問題はAIが偽造できるかどうかではない。問題は、嘘が人々がすでに心の中で信じているものに似ているとき、真偽はまだ重要か？ということだ。
アカウントを削除して逃げたあの人物が、何を求めていたのかはわからない。
わかるのは、彼が感情のはけ口を見つけ、そこにAI生成の燃料を一桶ぶちまけたことだけだ。
火は燃え上がった。燃えているのが本物の薪か偽物の薪か、誰が気にするだろう？
童話では、ピノキオが嘘をつくと鼻が長くなる。
AIには鼻がない。
TechFlow公式コミュニティへようこそ
Telegram購読グループ：https://t.me/TechFlowDaily
Twitter公式アカウント：https://x.com/TechFlowPost
Twitter英語アカウント：https://x.com/BlockFlow_News
深潮TechFlow
