
В этом романтическом мошенничестве ИИ отвечает за построение отношений, а также за создание поддельных юридических свидетельств о высшем образовании.
Автор: Кори, TechFlow
Недавно OpenAI опубликовалаотчёт, в котором рассказывается о случаях, когда злоумышленники использовали ChatGPT для преступных целей и были ими пойманы.
Отчёт довольно объёмный и содержит множество примеров злоупотребления ИИ. Среди них есть дела о ложной рекламе со стороны россиян и подозрениях в социальной инженерии со стороны лиц, похожих на шпионов, но сегодня я хочу поговорить об одном конкретном случае:
Камбоджийская мошенническая схема «раскрутки» (pig butchering).
Такие схемы не новость, истории о камбоджийских зонах известны всем слишком хорошо. Удивительно здесь другое — роль ИИ в этом процессе.
В этой мошеннической группе ChatGPT отвечает за флирт и общение, перевод указаний руководителей, составление ежедневных рабочих отчётов и оценку потенциального дохода с каждой жертвы.
Во внутренней терминологии этих схем это называется kill value — сумма, которую они планируют получить от вас.
Завершая весь производственный цикл, ChatGPT, вероятно, становится самым загруженным «сотрудником» на этом конвейере.
Для этого дела OpenAI присвоила кодовое название Operation Date Bait («Рыболовство на свиданиях»).
Процесс выглядит так.
Мошенники сначала создали фейковую премиальную службу знакомств под названием Klub Romantis, а логотип разработали с помощью ChatGPT. Затем они запустили платную рекламу в социальных сетях, используя ключевые слова «гольф», «яхта», «элитные рестораны», целясь исключительно в молодых мужчин в Индонезии.
Вы переходите по объявлению и впервые общаетесь с AI-чатботом. Бот играет роль сексуальной администратора, предлагает выбрать типаж девушек, после чего высылает ссылку на Telegram с индивидуальным кодом приглашения.

После перехода в Telegram процесс перехватывают живые операторы.
Администраторы продолжают использовать ChatGPT для генерации двусмысленных сообщений, которые постепенно становятся более откровенными, а затем перенаправляют вас на два фейковых сайта знакомств — LoveCode и SexAction.
На платформах размещены сотни фейких профилей девушек, а также бегущая строка уведомлений, которая постоянно сообщает: «Поздравляем пользователя Х с выполнением задания, награда разблокирована». Всё это полностью вымышлено, и опытный пользователь интернета наверняка заметит подлог сразу, но не все целевые аудитории обладают достаточной осторожностью.

Когда уровень доверия достаточно высок, оператор переводит вас к «наставнику». Наставник начинает предлагать вам выполнение «задач», за каждую из которых требуется пополнение счёта, причём суммы постоянно растут. Покупка VIP-карт, голосование за «симпатичную девушку», оплата брони в отеле — оснований для списаний может быть множество.
Финальный этап во внутренних документах называется kill.
Вам придумывают предлог: якобы произошел сбой обработки данных или требуется страховый депозит для верификации, чтобы перевести крупную сумму одним платежом. В отчёте OpenAI привела письмо от мошенников жертве с требованием оплатить 20,5 млн индонезийских рупий (примерно 12 тыс. долларов США), обещая вернуть 35 % в качестве бонуса после выплаты.
Как только деньги поступают на счёт, мошенники в Telegram блокируют вас и помечают ваше дело как закрытое.

Прочитав это, вы можете подумать, что нет ничего страшного.
Сама схема давно известна, и методы «раскрутки» многократно разоблачались за последние годы. То, что заставляет замереть от удивления, — это внутренняя кухня и техническая инфраструктура.
Исследователи OpenAI восстановили полноценную корпоративную структуру, проанализировав логи использования аккаунтов ChatGPT:
Мошенническая площадка разделена на три отдела: группа привлечения трафика, группа общения и группа руководства. Первая занимается оплатной рекламой и лидогенерацией, вторая ведёт диалоги для формирования доверия, третья осуществляет финальный слив денег.
Ежедневно составляются рабочие отчёты. В них перечисляются все текущие жертвы, указывается ответственный менеджер, стадия работы и та самая цифра:
kill value .
Это сумма, которую руководитель планирует окончательно извлечь из конкретного человека.
Они также используют ChatGPT для анализа финансовой отчётности и составления отчётов, даже спрашивают модель о подключении API и изменении кода сайтов знакомств. Когда руководители говорят по-китайски, а сотрудники — на индонезийском, ChatGPT выполняет функцию двухстороннего переводчика.
Примечательно, что один сотрудник телефонного мошенничества использовал ChatGPT для вопроса по налоговым обязательствам с полученного дохода, честно указав свою профессию как scammer (мошенник).
В отчёте OpenAI формулировки сдержанные: согласно собственным входным данным группировки, они могут одновременно вести работу по нескольким сотням объектов, ежедневно получая доход в тысячи долларов. Однако компания также отметила, что независимо подтвердить достоверность этих цифр невозможно.
Но мне кажется, не стоит зацикливаться на точности цифр — достаточно просто взглянуть на эту систему управления:
Привлечение трафика, конверсия, средний чек, ежедневные отчёты, разделение обязанностей между отделами — если заменить пару терминов, можно подумать, что читаете операционный кодекс любой SaaS-компании.
А общение на темы любви, перевод, написание отчётов, правка кода и финансовые расчёты... Почти половину всей работы в этом комплексе успешно закрывает всего один аккаунт ChatGPT.
На этом история не заканчивается.
В том же отчёте OpenAI рассекретила второе направление под кодовым названием Operation False Witness («Ложные свидетели» / вторичное мошенничество с жертвами), которое также велось из Камбоджи.
Объектом атаки выступают уже не случайные пользователи, а те, кто уже стал жертвой первоначального мошенничества.
Логика предельно проста: вы потеряли деньги в схеме «раскрутки», хотите их вернуть и пишете в поисковике инструкции, как действовать.
Далее вы видите рекламное объявление от юридической фирмы, которая специализируется на возврате средств пострадавшим от мошенников. Вы переходите по ссылке.
Сайт оформлен профессионально. Фотографии юристов либо украдены из реальных соцсетей, либо созданы нейросетями. Каждая фирма указывает адрес, лицензию и краткое описание. С помощью ChatGPT генерируются карты членов ассоциации адвокатов штата Нью-Йорк и поддельные записи об официальной регистрации юристов.

Всего исследователи нашли как минимум шесть поддельных юридических компаний.
Есть также ресурс, полностью копирующий Центр подачи жалоб на интернет-преступления ФБР. На странице расположена кнопка «Подать жалобу», при нажатии на которую открывается личный аккаунт в Telegram.
После перехода в Telegram «юристы» начинают диалог. Готовые скрипты сгенерировал ChatGPT с особой пометкой писать строго на «американском английском», имитируя тон квалифицированного адвоката. Вам сообщают, что компания сотрудничает с Международным уголовным судом и не берёт оплаты до полного возврата средств.
Однако для активации счёта требуется предварительная оплата комиссии в размере 15 % с использованием криптовалюты.

Дополнительно вас просят подписать соглашение о неразглашении. Этот документ также написан ChatGPT с единственной целью — не дать вам проверить информацию у независимых источников.
Позже ФБР опубликовало официальное предупреждение, уточнив, что эта схема нацелена преимущественно на пожилых людей и эксплуатирует их желание как можно скорее вернуть утраченные средства.
Проанализировав оба кейса, я полагаю, что в эпоху, когда ИИ стал обязательным стандартом, самый горький парадокс заключается в следующем:
В первый раз вы — просто мишень. Во второй раз вы — идеальная мишень, потому что уже продемонстрировали готовность попасться на удочку.
Наконец, в отчёте OpenAI свело всю схему мошенничества к трём шагам.
Первый шаг — ping (установление контакта): найти способ привлечь внимание объекта. Второй шаг — zing (эмоциональный крючок): вызвать сильные чувства, будь то влюблённость, азарт или страх. Третий шаг — sting (изъятие средств): завершающий этап, на котором забрать деньги.
Данная структура весьма удачна, однако, если приглядеться, какой из этих трёх этапов физически недоступен искусственному интеллекту?
Раньше главной статьей расходов при создании таких схем был персонал. Требовалось нанять целый офис сотрудников, которые круглосуточно переписывались бы с жертвами и свободно владели языком цели. Ещё несколько лет назад в камбоджийских центрах тщательно отбирали персонал со знанием английского языка и предлагали достойную оплату труда.
Теперь, судя по описанным в отчёте делам о мошенничестве в службах знакомств, руководители общаются на китайском, сотрудники — на индонезийском, а жертвы тоже являются гражданами Индонезии. Три лингвистические группы не пересекались, и раньше такой проект было невозможно реализовать. Но стоит добавить ChatGPT, как все барьеры исчезают.
Преодоление языкового барьера — лишь одна из задач.
В документе приводится ещё один нюанс: сотрудники мошеннической группировки прямо спрашивали ChatGPT, как интегрировать API OpenAI, стремясь полностью автоматизировать процесс переписки.
То есть ИИ не делает сами методы обмана более изощрёнными — схемы остаются прежними. ИИ делает саму практику мошенничества значительно дешевле.
Согласно оценкам OpenAI, текущая группировка может параллельно обрабатывать сотни случаев. При росте масштаба операционных процессов доля трудозатрат на одну жертву снижается, что позволяет масштабироваться и атаковать большее количество пользователей с меньшим средним чеком.
Существует ещё один вопрос, который, на мой взгляд, заслуживает отдельного внимания.
OpenAI смогла раскрыть эти схемы исключительно потому, что преступники использовали публичную версию ChatGPT, а вся переписка хранилась на серверах самой компании.
А что насчёт тех, кто применяет локально развернутые открытые модели?
То, что удалось отобразить в данном материале, вероятно, составляет лишь небольшую часть общего панно, доступную камере наблюдения OpenAI. Масштабы незримого сегмента никто точно измерить не может.













