Стратегия национальной ИИ-безопасности

Стратегия национальной ИИ-безопасности

Я буквально вчера писал про исследование, основанное на базисе, что ИИ — такая же технология, как и все, и никакой не сверхинтеллект. Но тут группа товарищей — да каких! — решила подойти к вопросу с прямо противоположной стороны.

На модном домене nationalsecurity.ai опубликован доклад "Superintelligence Strategy", авторами которого стали известные эксперты Дэн Хендрикс, Эрик Шмидт (в прошлом CEO Google) и Александр Ван (основатель Scale AI). Их работа вскрывает один из самых проработанных сценариев использования сверхинтеллекта в контексте национальной безопасности.

Суть доклада — в признании, что межгосударственная гонка за ИИ, превосходящим человеческий разум практически по всем задачам, становится такой же ключевой, какой ядерная гонка 20 века. Вот, что пишут:

⚡️ Основной вызов ИИ — одновременное развитие в гражданской и военной сферах, которое нельзя остановить или заморозить. Любые попытки ограничений со стороны компаний и добровольные моратории на сегодня неэффективны.

❗️Возможные последствия развития мощных моделей ИИ включают в себя:

— радикальную дестабилизацию баланса сил (страна, первая получившая полноценный сверхинтеллект, может достичь подавляющего военного преимущества);

— распространение технологий среди террористов и криминала (биологическое оружие и мощные кибератаки станут доступнее);

— потерю контроля над ИИ-системами, когда их способность бесконечно быстро улучшать себя опережает надзор и безопасность.

🛡 Решение в трех направлениях: сдерживание (deterrence), борьба с распространением (nonproliferation), поддержка конкурентоспособности (competitiveness).

Сдерживание (Mutual Assured AI Malfunction, MAIM)

Авторы предлагают стратегию взимного сдерживания по аналогии с ядерным взаимным гарантированным уничтожением (MAD). При попытках одной нации создать сверхинтеллект, другая сторона предупреждает, что готова нанести точечные кибер- или физические удары для предотвращения реализации этого проекта.

Нераспространение

Важное условие — контроль за распространением самых мощных компонентов (таких как ИИ-чипы). Это концепция, аналогичная контролю за ядерными материалами и опасными химикатами:

— Ужесточённые меры экспорта и точная регистрация каждого ИИ-чипа.

— Встроенные технологии безопасности, например, функция геолокации и дистанционной блокировки процессоров.

— Контроль над технической документацией и «весами» сверхинтеллектуальных моделей — предотвратить утечку науки о создании опасных моделей в открытый доступ.

Сохранение конкурентоспособности

Авторы становятся прагматиками: государства, игнорирующие ИИ, безнадежно отстанут, подвергая себя серьёзному стратегическому риску. Что нужно делать сейчас?

— Собственное массовое производство ИИ-чипов – чтобы не зависеть от Тайваня в условиях потенциального военного конфликта.

— Интеграция ИИ в военные системы управления и разведки, производство беспилотников нового поколения, развитие автономных систем.

— Создание правовых структур, которые обеспечат контроль и понятную ответственность за действия автономных ИИ-агентов.

— Политические механизмы адаптации к стремительной автоматизации экономики.

Наиболее важный момент доклада заключается именно в концепции MAIM. Авторы подчеркивают, что саботаж крупных ИИ-проектов может стать сравнительно простой задачей, благодаря чему возникнет естественный военно-политический баланс, аналогичный ядерному паритету.

Вопросы контроля ИИ перестают быть вопросом абстрактной философии и становятся понятными военным, разведке и политикам. «Эпоха свободно распространяемых, нейтральных ИИ-технологий заканчивается, — пишут авторы. — Будущее — за жёстким международным контролем, прозрачными мерами сдерживания и, возможно, за самой необычной гонкой вооружений в истории».

/ Не запрещена в РФ