AIに一時的に持ち上げられて気分がいいかもしれませんが、あなたの対人関係は静かに崩れつつあります。
TechFlow厳選深潮セレクト
AIに一時的に持ち上げられて気分がいいかもしれませんが、あなたの対人関係は静かに崩れつつあります。
それはあなたをも訓練し、摩擦をより少なくすることを求め、より多くの同意を期待するようになり、他人からの反論に直面した際に、それに対応する能力がさらに低下します。
Web3業界の深掘り報道に専念し潮流を洞察著者：ライアン・ハート
編訳：TechFlow
TechFlow解説：スタンフォード大学の博士課程学生が、クラスメートがAIを使って別れのメッセージを書いていることに気づき、実験を行ったところ、世界最高峰の学術誌『Science』に論文が掲載された。11種類の主要AIモデルを、12,000件の実際の社会的状況でテストした結果、AIは人間よりも49％も高い頻度であなたの意見に同意し、47％のケースではあなたの嘘や操作行為、さらには違法行為さえも容認した。さらに恐ろしいのは、「あなたを褒めそやす」AIと本物の人間関係における現実的な対立について会話した後、人々は自分自身の正しさをより強く信じるようになり、謝罪する意欲や責任を負う姿勢が低下し、関係修復への関心も明らかに薄れることだ。しかも、こうした経験によって、人々はAIへの依存がさらに強まってしまう。これは単なる機能上のバグではなく、AIがあなたの「現実の摩擦を処理する能力」を徐々に奪い去っているという事実を示している。
あるスタンフォード大学の博士課程学生が、クラスメートがAIに別れのメッセージ作成を依頼し始めたことに気づいた。
そこで彼女は研究を開始した。その論文は、世界で最も厳しい審査基準を課す学術誌の一つである『Science』に掲載された。
この発見は、ChatGPTなどを使ってアドバイスを求めているすべての人にとって深刻な不安を引き起こすだろう。
彼女の名前はミラ・チェン（Myra Cheng）。指導教官のダン・ユラフスキー（Dan Jurafsky）とともに、ChatGPT、Claude、Gemini、DeepSeekを含む世界で最も広く使われている11種類のAIモデルをテストし、約12,000件の実際の社会的状況をカバーした。
まず測定したのは、「人間と比較して、AIがどれほど頻繁にあなたの意見に同意するか」という点だった。その答えは「49％多い」だった。この数値は単なる温かさや礼儀の問題ではなく、本来なら人間が反論し、あなたが間違っていると指摘したり、より率直な視点を提供すべき約半数のケースにおいて、AIはただあなたが聞きたいことを伝えるだけだったということを意味する。
次に、彼らは検証の難易度を高めた。ユーザーがパートナーに嘘をついたり、友人を操作したり、明白な違法行為を行ったりするといった状況を記述した数千件のプロンプトをAIに与えたところ、AIは47％の確率でこうした行為を認めてしまった。これは11モデル中の特定の1つや、ある製品の特定バージョンに限った話ではない。彼らがテストしたすべてのシステム——今まさにあなたが使っているものも含めて——が、ほぼ半分の時間、有害な行動を正当化していたのだ。
二つ目の実験こそが、真にあなたを不安にさせる部分である。2,400人の実際の被験者に、自分自身の生活における実在する人間関係の対立についてAIと議論させた。被験者は、「あなたを褒めそやすAI」と「より率直なAI」のいずれかと会話した。その結果、褒めそやすAIと会話した被験者は、自分の正しさをより強く信じるようになり、謝罪する意欲や責任を負う姿勢が低下し、関係修復への関心も明確に低くなった。また、こうした被験者は再びAIにアドバイスを求めようとする傾向も高まり、チェンとユラフスキーは、この点こそが今回の発見の中で最も危険なメカニズムだと指摘している。
AIは単にあなたが聞きたいことを伝えるだけではない。AIは、一回の会話ごとに、あなたを「摩擦を避けようとする」「より多くの同意を期待する」「他人からの反論に無力になる」といった方向へ訓練しているのだ。そしてあなたはそのすべてを楽しんでいる。なぜなら、それがここ数か月間のほとんどすべての対話よりも「誠実に感じられる」からである。
論文発表後、ユラフスキーはこの現象を一言で要約した。「褒めそやすことは、他のあらゆる安全性の問題と同様に、規制と監視を必要とする安全上の問題である」。
チェンはさらに直接的に、今あなたが取るべき行動を述べている。「こうした事柄に関しては、AIを人間に代わって使うべきではない。これが現時点でできる最善の選択肢である」。
彼女がこの研究を始めたきっかけは、学部生たちがチャットボットに人間関係の問題を処理させ始めているのを見たことだった。彼女が発表した論文は、チャットボットがこうした人間関係を静かに悪化させていることを実証しており、学部生たちはそれに気づいていない。なぜなら、AIは彼らの日常生活におけるここ数か月間のどの人間よりも「誠実に感じられる」からである。
TechFlow公式コミュニティへようこそ
Telegram購読グループ：https://t.me/TechFlowDaily
Twitter公式アカウント：https://x.com/TechFlowPost
Twitter英語アカウント：https://x.com/BlockFlow_News
@thisdudelikesAI
