Отчёт OpenAI о преступлениях с ИИ: 6 кейсов

Отчёт OpenAI о преступлениях с ИИ: 6 кейсов 2 из них — предположительно — из России

OpenAI (вслед за Anthropic) опубликовала большой отчёт о вредоносном применении ИИ: от операций спецслужб до инновационных мошенничеств. Коротко расскажу главное.

📍 Северокорейская фабрика виртуальных IT-работников

Примечательная история — масштабный найм фейковых «IT-специалистов», предположительно северокорейского происхождения. Мошенники массово использовали ChatGPT для генерации убедительных резюме, подгоняя их автоматически под вакансии разработчиков и удалённых сотрудников по всему миру.

Особенности подхода:

– GPT генерировал не просто текст, а идеально подобранные «кейсы» трудовой истории, образования и навыков.

– Персоны создавались сразу по многим площадкам и странам.

– Для каждой вакансии резюме подстраивались индивидуально и быстро в автоматическом режиме с помощью специальных скриптов.

📍 Китайская операция «Sneer Review» — комментарии и провокации

Китайские пропагандистские подразделения активно используют ChatGPT для масштабного генерирования социальных комментариев и постов в TikTok, X, Reddit и Facebook (скорее всего, запрещён в РФ). Основной удар — по теме Тайваня.

Что примечательно:

– ИИ-комментарии создавали видимость массовой отрицательной реакции пользователей (220 комментариев всего к одному видео, практически все поддельные).

– Аккаунты имели имена разных стран (корейские, тайские, еврейские), никак не связанные с настоящим языком комментариев.

– Использовались даже ложные обвинения в съёмках порно-фильма.

📍 «Helgoland Bite» — «российские» попытки влияния на немецкие выборы

По мнению OpenAI, российские акторы применили GPT для влияния на выборы в Германии — через Telegram и X-профили распространялись сообщения и статьи, созданные на немецком. Каналы притворялись немецкими независимыми медиа, выступали с критикой НАТО, популяризировали правую партию AfD и генерировали аватары профилей с ИИ.

📍 «ScopeCreep»: Windows-трояны, отлаживаемые нейросетями

И тут снова «русский след» — русскоязычные киберпреступники использовали GPT-ассистента как полноценного программиста для многослойного malware.

Особенности трояна:

– Троян использовал HTTPS через нестандартный порт 80, что позволило временно скрываться от автоматических детекторов.

– Необычная связь: о каждом заражённом компьютере хакерам приходили сообщения через приватный Telegram-канал (что бы мог подумать).

– Функция кражи токенов, логинов и паролей из браузеров.

📍 Масштабный scam из Камбоджи: «Лайкни и заработай миллионы»

Сетевые мошенники отправляли авторассылку на номера по всему миру с предложениями легких денег — до $5 за 1 лайк в соцсетях. Жертв заманивали в Telegram и WhatsApp, переводя общение на разные языки с помощью нейронок. Позже от людей требовали высокие вступительные взносы (до нескольких сотен $), покупки криптовалюты, обещая крупные заработки после дальнейших «инвестиций».

Характерный почерк:

— Сообщения сразу на 6 языках, включая редкие (например, свахили, гаитянский креольский).

— GPT не просто переводил переписку, но и грамотно имитировал реальные диалоги между мошенниками и их жертвами: похвала, отчеты о первых «заработках» и мотивационные сообщения.

— Огромный масштаб с тысячами сообщений по случайным телефонам.

📍 Филиппины — «High Five»: политическая кампания внутри страны

Коммерческая пиар-контора на Филиппинах (Comm&Sense Inc.) вела массовые манипуляции в соцсетях в поддержку президента Маркоса и против вице-президента Сары Дутерте. ИИ здесь занимался генерацией сотен коротких комментариев и даже PR-материалов.

---

В оригинальном исследовании (рекомендую его посмотреть, кстати) кейсов ещё больше (из того, что удалось обнаружить), ну, а главное — это только начало. Количество таких «операций» будет сильно выше и они будут лишь масштабнее.

/ Не запрещена в РФ