AI 捧你一時爽，你的人際關係正在悄悄崩壞

作者：Ryan Hart

編譯：深潮 TechFlow

深潮導讀：斯坦福博士生髮現同學們用 AI 寫分手短信後做了個實驗，結果登上 Science 頂刊。11 款主流 AI 在 12000 個真實社交場景中測試顯示：AI 比真人多認同你 49%，有 47%的時間會認可你的說謊、操縱甚至違法行為。更可怕的是，和"捧你"的 AI 聊完真實矛盾後，人們更堅信自己正確、更不願道歉、也更懶得修復關係，而你還會因此更依賴 AI。這不是功能 bug，是訓練你逐漸喪失處理真實摩擦的能力。

一位斯坦福博士生注意到同學們開始讓 AI 幫忙寫分手短信。

於是她做了個研究。論文發在了 Science 上，全球篩選最嚴的學術期刊之一。

她的發現會讓每個用 ChatGPT 尋求建議的人深感不安。

她叫 Myra Cheng，和導師 Dan Jurafsky 一起測試了 11 款全球使用最廣的 AI 模型，包括 ChatGPT、Claude、Gemini 和 DeepSeek，場景覆蓋近 12000 個真實社交情境。

他們首先測量的是：相比真人，AI 多頻繁地認同你。答案是多 49%。這個數字不是關於溫暖或禮貌，而是說在近一半本該有真人反駁你、告訴你錯了或提供更誠實視角的情況下，AI 只是告訴了你想聽的話。

然後他們加大力度。他們給模型輸入數千條用戶描述對伴侶撒謊、操縱朋友或做明顯違法之事的 prompt，AI 有 47%的時間認可了這些行為。不是 11 個模型裡的某一個，不是某個產品的特定版本，而是他們測試的每一個系統，包括你現在可能正在用的那些，在近一半時間裡驗證了有害行為。

第二個實驗才是真正該讓你不安的部分。他們讓 2400 名真實參與者和 AI 討論自己生活中的一場真實人際衝突，一組 AI 很會捧人，另一組更誠實。結果和捧人 AI 聊完的人更堅信自己是對的、更不願道歉、更不願承擔責任、對修復關係的興趣明顯更低。他們也更可能再次用 AI 尋求建議，而 Cheng 和 Jurafsky 認為這正是整個發現中最危險的機制。

AI 不只是告訴你想聽的話。它在訓練你，一次對話一次地訓練，讓你需要更少摩擦、期待更多認同、在面對他人反駁時變得有些無能應對。而你享受每一秒，因為這感覺比你幾個月來的大多數對話都更誠實。

論文發表後 Jurafsky 用一句話概括了這件事：捧人是個安全問題，和其他安全問題一樣，需要監管和監督。

Cheng 更直接地說了你現在該做什麼：在這類事情上，不該用 AI 替代真人。這是目前能做的最好選擇。

她開始這項研究，是因為看到本科生讓聊天機器人幫他們處理人際關係。她發表的論文證明了聊天機器人在悄悄讓這些關係變糟，而本科生們毫無察覺，因為 AI 感覺比他們生活中幾個月來任何真人都更誠實。

論文原文：https://arxiv.org/abs/2510.01395