AI가 잠시 당신을 찬양해 주면 기분이 좋아지지만, 당신의 인간관계는 서서히 무너지고 있습니다.
저자: 라이언 하트(Ryan Hart)
번역·편집: TechFlow
TechFlow 편집장의 서두: 스탠포드 대학 박사과정생 한 명이 동료 학생들이 AI를 이용해 이별 문자를 작성한다는 사실을 발견한 후 실험을 진행했고, 그 결과가 세계 최정상급 학술지 Science에 실렸다. 전 세계에서 가장 널리 쓰이는 11종의 주요 AI 모델을 약 12,000개의 실제 사회적 상황에서 테스트한 결과, AI는 인간보다 사용자를 49% 더 자주 동의하며, 47%의 경우 사용자의 거짓말, 조작 행위, 심지어 불법 행위까지도 인정했다. 더욱 무서운 점은, ‘칭찬해주는’ AI와 진짜 갈등 상황을 논의한 후 사람들은 자신의 입장이 옳다고 더 확신하게 되고, 사과하려는 의욕은 줄어들며, 관계 회복에도 소극적이 된다는 것이다. 동시에 사람들은 그런 AI에 대한 의존도가 높아진다. 이는 단순한 기능 결함이 아니다. 이는 당신이 현실 속 마찰을 처리하는 능력을 서서히 잃어가도록 훈련시키는 과정이다.
스탠포드 대학의 한 박사과정생이 동료 학생들이 AI를 이용해 이별 문자를 작성하기 시작했다는 사실을 눈여겨보았다.
그녀는 이에 대해 연구를 진행했다. 해당 논문은 전 세계적으로 가장 엄격한 심사 기준을 적용하는 학술지 중 하나인 Science에 게재되었다.
그녀의 발견은 ChatGPT 등으로 조언을 구하는 모든 이에게 깊은 불안감을 안겨줄 것이다.
그녀의 이름은 마이라 청(Myra Cheng)이며, 지도교수 댄 쥬라프스키(Dan Jurafsky)와 함께 ChatGPT, Claude, Gemini, DeepSeek 등 전 세계에서 가장 널리 사용되는 11종의 AI 모델을 테스트했다. 테스트는 약 12,000개의 실제 사회적 상황을 아우르는 방식으로 수행되었다.
연구진은 우선 AI가 인간보다 얼마나 자주 사용자의 의견에 동의하는지를 측정했다. 그 결과는 49% 더 자주 동의한다는 것이었다. 이 수치는 단순히 따뜻함이나 예의 차원의 문제가 아니다. 오히려 거의 절반에 달하는 상황에서 인간이라면 분명히 반박하거나, 사용자가 틀렸음을 지적하거나, 보다 솔직하고 균형 잡힌 시각을 제시할 텐데도, AI는 오직 사용자가 듣고 싶어 하는 말만 해주는 것이다.
이후 연구진은 실험 강도를 높였다. 그들은 모델에 수천 개의 프롬프트를 입력했는데, 이 프롬프트들은 사용자가 파트너에게 거짓말을 했다거나, 친구를 조작했다거나, 명백한 불법 행위를 저질렀다는 내용을 담고 있었다. 그러자 AI는 전체 응답의 47%에서 이러한 행위를 인정했다. 이는 특정 모델이나 특정 제품 버전에서만 나타난 현상이 아니었다. 지금 여러분이 실제로 사용하고 있는 AI를 포함해, 연구진이 테스트한 모든 시스템이 거의 절반의 경우 유해한 행동을 정당화한 것이다.
두 번째 실험이야말로 진정으로 당신을 불안하게 만들 부분이다. 연구진은 2,400명의 실제 참가자들에게 자신의 삶에서 겪은 실제 인간관계 갈등을 AI와 논의하도록 했다. 참가자들을 두 그룹으로 나누었는데, 한 그룹은 ‘칭찬해주는’ AI와 대화했고, 다른 그룹은 보다 솔직한 AI와 대화했다. 그 결과, ‘칭찬해주는’ AI와 대화한 참가자들은 자신이 옳다고 더 확신하게 되었고, 사과하려는 의욕은 줄어들었으며, 책임을 지려는 태도도 약화되었고, 관계 회복에 대한 관심도 분명히 낮아졌다. 또한 그들은 이후에도 다시 AI의 조언을 구하려는 경향이 강했다. 청과 쥬라프스키는 이것이 바로 전체 연구 결과 중 가장 위험한 메커니즘이라고 평가했다.
AI는 단순히 당신이 ng 듣고 싶어 하는 말만 해주는 것이 아니다. AI는 한 차례의 대화마다 당신을 훈련시키며, 당신이 마찰을 덜 겪기를 바라고, 더 많은 동의를 기대하게 하며, 타인의 반박에 대응하는 능력을 점차 상실하게 만든다. 그런데 이상하게도 당신은 이 모든 순간을 즐긴다. 왜냐하면 이 대화가 최근 몇 달간 당신이 경험한 대부분의 실제 대화보다 훨씬 ‘솔직’하게 느껴지기 때문이다.
논문 게재 후 쥬라프스키는 이 현상을 한 문장으로 요약했다: “칭찬해주는 행위는 안전 문제다. 다른 모든 안전 문제처럼, 이 역시 규제와 감독이 필요하다.”
청은 보다 직접적으로 현재 당신이 해야 할 일을 말했다: “이러한 상황에서는 AI를 인간으로 대체해서는 안 된다. 이것이 지금 당장 할 수 있는 최선의 선택이다.”
그녀는 이 연구를 시작하게 된 계기가 본교 학부생들이 챗봇을 이용해 인간관계 문제를 해결하려 한다는 사실을 목격했기 때문이다. 그리고 그녀가 발표한 논문은 챗봇이 이러한 인간관계를 조용히 망치고 있음을 입증했다. 그런데 학부생들은 이를 전혀 인지하지 못한다. 왜냐하면 AI가 그들의 삶 속에서 지난 몇 달간 만났던 어떤 실제 인간보다도 더 ‘솔직’하게 느껴지기 때문이다.
TechFlow 공식 커뮤니티에 오신 것을 환영합니다
Telegram 구독 그룹:https://t.me/TechFlowDaily
트위터 공식 계정:https://x.com/TechFlowPost
트위터 영어 계정:https://x.com/BlockFlow_News
@thisdudelikesAI
