Машины учатся взламывать

Машины учатся взламывать

#безопасность

Разбор решений и рынка кибербезопасности во времена ИИ.

Классическая модель тестирования на проникновение (пентест) создавалась для эпохи квартальных релизов. Компания нанимает специалистов раз в год, получает отчет на 200 страниц, исправляет критические баги — и до следующей проверки живет с иллюзией безопасности.

Проблема в том, что современная разработка работает иначе. CI/CD пайплайны выкатывают обновления ежедневно, а то и ежечасно. Микросервисы множатся как грибы после дождя. API меняются быстрее, чем документация к ним. Пентест-отчет устаревает еще до того, как его дочитают до конца.

Автоматизированные сканеры тоже не панацея. Они находят известные CVE и кричат о неправильных настройках, но не понимают бизнес-логику. Не могут связать безобидные на первый взгляд находки в цепочку эксплойтов.

Когда ИИ научился думать как хакер

Исследование Carnegie Mellon и Anthropic стало поворотным моментом. Ученые создали систему Incalmo — промежуточный слой между языковой моделью и инструментами хакера.

Идея проста. Вместо того чтобы учить ИИ писать точные команды для Metasploit, исследователи позволили ему формулировать высокоуровневые задачи: «найти уязвимые сервисы», «повысить привилегии», «извлечь конфиденциальные данные». Incalmo переводит эти намерения в конкретные технические действия.

Результат — ИИ-агенты, которые раньше не могли выполнить простейшую атаку, успешно взломали 9 из 10 тестовых сетей. Они проводили разведку, находили уязвимости, строили цепочки эксплойтов и достигали целей — полный цикл работы опытного пентестера.

Еще более показательным стал проект Unpatched AI. В начале года под псевдонимом появился документ со списком более сотни ранее неизвестных уязвимостей в Microsoft Access и Office 365 — с техническими доказательствами, трассировками стека и цепочками эксплойтов.

Источником оказался не человек и не команда, а автономная система, сочетающая фаззинг, символьное выполнение и генеративный ИИ.

Новое поколение инструментов: от ассистентов к автономным агентам

Рынок AI-пентестинга можно разделить на четыре уровня зрелости:

Уровень 1: Улучшенные сканеры Классические инструменты вроде Nmap или Burp Suite получают ИИ-плагины для более умной приоритизации находок. ИИ помогает отфильтровать шум, но не меняет суть процесса.

Уровень 2: ИИ-ассистенты PentestGPT и подобные инструменты работают в диалоговом режиме, подсказывая пентестеру следующие шаги. Они структурируют процесс тестирования, но требуют постоянного участия человека.

Уровень 3: Гибридные системы Terra Security продвигает концепцию «человек в контуре» — ИИ выполняет техническую работу, но критические решения принимает эксперт. Это компромисс между автоматизацией и контролем.

Уровень 4: Полностью автономные платформы RunSybil, XBOW, Horizon3.ai и другие стартапы создают системы, способные самостоятельно планировать и проводить комплексные атаки. XBOW заявляет о скорости работы в 80 раз выше ручного тестирования и более 1000 найденных zero-day уязвимостей.

Гонка вооружений: ИИ против ИИ

Параллельно с защитными технологиями развиваются и наступательные. По данным Team8, четверть CISO сообщают об атаках с использованием ИИ за последний год.

Чтобы защититься от ИИ-атак, организации вынуждены использовать ИИ-защиту. Индустрия кибербезопасности переживает настоящую гонку вооружений, где скорость реакции измеряется уже не в днях, а в миллисекундах.

Влияние на профессию: эволюция

Распространенный страх, что ИИ заменит пентестеров, не подтверждается практикой. McKinsey пересмотрел свой прогноз о вытеснении 375 миллионов рабочих мест, снизив оценку до 92 миллионов. При этом ожидается создание 170 миллионов новых ролей.

ИИ снижает барьер входа в профессию — даже новички с помощью продвинутых инструментов могут выполнять сложные тесты. Но это освобождает опытных специалистов от решения более интересных задач.

/ Не запрещена в РФ