사람들은 나쁜 자본가가 필요하고, AI는 배달 루머를 만들어냈습니다.
글쓴이: 쿠리, TechFlow
지난주 꽤나 기묘한 일이 있었다.
미국 두 대형 배달 플랫폼의 CEO, 한 명은 27억 달러의 자산가치를 가진 인물이고, 다른 한 명은 세계 최대 차량 공유 플랫폼을 운영하는 인물인데, 토요일 새벽에도 잠들지 않고 온라인에 장문의 글을 올려 자신들의 결백을 주장했다.
원인은 Reddit의 한 익명 게시글이었다.
글쓴이는 자신을 어느 대형 배달 플랫폼의 백엔드 엔지니어라고 소개하며, 취한 상태에서 도서관의 공공 와이파이를 이용해 폭로했다고 주장했다.
내용은 대략 이렇다:
회사는 차량 공유 기사들의 상황을 분석해 '절망 점수'를 매기는데, 돈이 더 급한 기사일수록 좋은 주문을 받기 어렵다; 소위 배달 우선 순위는 가짜이며, 일반 주문은 지연된다; 각종 '기사 복지비'는 기사에게 한 푼도 주지 않고 전부 로비 활동을 통해 노조를 상대하는 데 쓴다...
게시글 끝은 매우 사실적으로 꾸며졌다: 나는 취했고, 분노한다, 그래서 폭로한다.
완벽하게 자신을 "대기업이 알고리즘으로 기사를 착취한다"는 고발자 역할로 포장했다.
게시글이 올라온 지 3일 만에 87,000개의 추천을 받으며 Reddit 메인 페이지에 올랐다. 누군가 스크린샷을 찍어 X에 올리자 3,600만 회의 노출을 기록했다.
알다시피, 미국 배달 시장에는 큰 플레이어가 몇 개 없는데, 게시글은 특정 회사를 지목하지 않았지만 모두가 추측에 몰두했다.
DoorDash의 CEO 토니 쉬가 먼저 참지 못하고 트윗을 올려 "이건 우리가 한 게 아니다, 누가 그런 짓을 했다면 해고하겠다"고 했다. Uber의 COO도 나서서 반응했고, "온라인에서 보는 모든 것을 믿지 마라"고 했다.
DoorDash는 심지어 공식 웹사이트에 5개 항목의 성명을 발표하며 폭로 내용을 하나하나 반박했다. 시가총액을 합치면 800억 달러가 넘는 이 두 회사가 익명 게시글 하나에 밤새도록 홍보 클리어 작업을 해야 했다.
그런데, 이 게시글이 사실은 AI가 지어낸 것으로 밝혀졌다.
이를 폭로한 것은 해외 기술 매체 Platformer의 기자 케이시 뉴턴이었다.
그는 이 게시글의 폭로자에게 연락했고, 상대방은 즉시 18페이지 분량의 '내부 기술 문서'를 던져주었다. 제목도 매우 학술적으로, 'AllocNet-T: High-Dimensional Temporal Supply State Modeling'이었다.
번역하자면 '고차원 시계열 공급 상태 모델링' 정도 된다. 모든 페이지에는 '기밀'이라는 워터마크가 찍혀 있었고, Uber의 '시장 역학 그룹·행동 경제학 부서' 명의로 되어 있었다.
내용은 Reddit 폭로글에 나온 기사들에게 '절망 점수'를 매기는 모델이 도대체 어떻게 계산되는지 설명하는 것이었다. 안에는 구조도, 수학 공식, 데이터 흐름도가 있었다...
(가짜 논문 스크린샷, 첫눈에 보면 진짜처럼 꾸며져 있다)
뉴턴은 이 문서가 처음에는 자신을 속였다고 말했다. 누가 기자 한 명을 낚으려고 18페이지짜리 기술 문서를 위조하는 데 공을 들이겠는가?
하지만 지금은 다르다.
이 18페이지짜리 문서는 AI로 몇 분 만에 생성할 수 있다.
동시에, 폭로자는 기자에게 자신의 Uber 직원증 모자이크 처리 사진을 던져주며 자신이 정말 그곳에서 일한다고 증명했다.
호기심에서 기자 뉴턴은 직원증 사진을 Google Gemini에 넣어 확인해 보았고, 결과는 Gemini가 이 사진이 AI 생성이라고 판단했다.
식별할 수 있었던 이유는 Google이 자사 AI가 생성한 콘텐츠에 SynthID라는 보이지 않는 워터마크를 심어놓았기 때문인데, 육안으로는 보이지 않지만 기계는 감지할 수 있다.
더 황당한 것은 직원증에 찍힌 로고가 'Uber Eats'라는 점이었다.
Uber 대변인이 확인해 준 바에 따르면: 우리는 Uber Eats 브랜드 직원증이 전혀 없으며, 모든 직원증에는 Uber만 인쇄되어 있다.
분명히, 이 가짜 폭로 '고발자'는 누구를 까야 할지조차 제대로 파악하지 못한 것이다. 기자가 LinkedIn 등 소셜 계정 정보를 제공해 추가 확인을 요구하자,
폭로자는 계정을 삭제하고 도망쳤다.
사실, 우리가 이야기하고 싶은 것은 AI가 위조할 수 있다는 것이 아니다, 그건 새롭지 않다.
우리가 더 이야기하고 싶은 것은: 왜 수천만 명의 사람들이 익명 폭로 게시글 하나를 믿으려 할까?
2020년, DoorDash는 기사 기본 급여를 팁으로 충당했다는 이유로 고소당해 1,675만 달러를 배상했다. Uber는 Greyball이라는 도구를 만들어 감시를 회피했다. 이건 사실이다.
플랫폼은 좋은 게 아니다, 이 판단은 틀림없다. 이런 잠재의식적 동의를 쉽게 찾을 수 있다.
그래서 누군가 '배달 플랫폼 알고리즘이 기사를 착취한다'고 말할 때, 사람들의 첫 반응은 '이게 진짜인가?'가 아니라 '역시 그렇군'이다.
가짜 뉴스가 퍼질 수 있는 것은 그것이 사람들이 이미 마음속으로 믿고 있는 것처럼 보이기 때문이다.
AI가 하는 일은 이 '닮음'의 비용을 거의 제로에 가깝게 낮추는 것이다.
이 이야기에는 또 다른 디테일이 있다.
사기를 간파한 것은 Google의 워터마크 감지 덕분이었다. Google은 AI를 만들고, Google은 AI 감지 도구도 만든다.
하지만 SynthID는 Google 자사 AI만 검사할 수 있다. 이번에 잡힌 것은 위조자가 마침 Gemini를 사용했기 때문이다. 다른 모델을 사용했다면 이렇게 운이 좋지 않았을 수도 있다.
그래서 이번 사건 해결은 기술적 승리라기보다는:
상대방이 저지른 초보적인 실수라고 할 수 있다.
이전에 로이터 통신의 조사에 따르면, 59%의 사람들이 온라인에서 진짜와 가짜를 구분하지 못할까 봐 걱정한다고 했다.
배달 회사 CEO의 해명 트윗은 수십만 명이 보지만, 얼마나 많은 사람들이 이것이 홍보고, 거짓말이라고 굳게 믿을까? 비록 그 가짜 폭로 게시글은 이미 삭제되었지만, 댓글란에는 여전히 배달 플랫폼을 비난하는 사람들이 있다.
거짓말이 지구 반 바퀴를 다 돌았는데, 진실은 아직 신발끈을 묶고 있다.
다시 생각해 보자, 만약 이 게시글이 Uber가 아니라 중국의 메이퇸이나 얼러마에 대한 것이었다면?
무슨 '절망 점수', 무슨 '알고리즘으로 라이더를 착취한다', 무슨 '복지비 한 푼도 라이더에게 주지 않는다'. 이런 주장을 보면 당신의 첫 반응은 감정적 동의가 아니겠는가?
'배달 라이더, 시스템에 갇히다', 그 기사 기억나시죠.
그래서 문제는 AI가 위조할 수 있는지가 아니다. 문제는 거짓말이 사람들이 이미 마음속으로 믿고 있는 것처럼 보일 때, 진짜와 가짜가 아직 중요할까?
계정 삭제하고 도망친 그 사람, 뭘 바랐는지 모르겠다.
다만 그가 감정의 배출구를 찾아 그 안에 AI가 생성한 연료 한 통을 부었다는 것만 안다.
불이 붙었다. 불에 타는 것이 진짜 장작인지 가짜 장작인지, 누가 신경 쓰겠는가?
동화에서 피노키오는 거짓말을 하면 코가 길어진다.
AI에게는 코가 없다.
TechFlow 공식 커뮤니티에 오신 것을 환영합니다
Telegram 구독 그룹:https://t.me/TechFlowDaily
트위터 공식 계정:https://x.com/TechFlowPost
트위터 영어 계정:https://x.com/BlockFlow_News
深潮TechFlow
