ИИ не думает как человек. Ну и что?

ИИ не думает как человек. Ну и что?

«Мы раскрыли, как думает ИИ — и он почти не думает» — громогласный заголовок от Wall Street Journal вызвал бурную реакцию на днях. Давайте спокойно разберёмся: какие тезисы WSJ выдерживают критику, а с какими, мягко говоря, торопиться соглашаться не стоит?

Авторы утверждают, что современные модели искусственного интеллекта не мыслят по-человечески, а лишь накапливают гигантские списки эмпирических правил, активно перебирая их под каждую ситуацию.

В подтверждение приводится эксперимент исследователей из Гарварда, которые обучали нейросеть генерировать маршруты по манхэттенским улицам на основе огромного набора пошаговых инструкций. Итог? Модель не строила понятной карты Нью-Йорка, а вместо этого выстраивала невозможные траектории, перекидывая водителей через Центральный парк или прорезая маршрут диагоналями. И при этом — вот парадокс — модель с точностью 99% выдавала правильные маршруты между любыми двумя точками.

Здесь и кроется первая логическая ловушка от WSJ.

«ИИ просто механически заучивает инструкции, не понимая сути», — говорят они. Секундочку. Но разве человек иначе изучает, скажем, шахматы или географию нового города? Мы тоже сначала набиваем шишки, потом заучиваем ориентиры, вплоть до прямых маршрутов и любимых проездов. Только спустя недели и месяцы практики в голове вырисовывается абстрактная схема. Нейросети получают аналогичный опыт за часы и дни тренировки, но ждать от них полного соответствия человеческому сознанию уже сейчас — чересчур наивно.

WSJ далее заявляет, что модель вынуждена помнить огромное число правил в различных ситуациях, и именно поэтому она неэффективна. Действительно, нейросетям сложновато — множить числа в одной ситуации может требовать чуть ли не отдельного «набора рецептов», чем множить их в другой. Это большая проблема, здесь соглашусь: модели тяжело абстрагировать и обобщать знания, часто они не умеют переносить навыки на новые контексты без дополнительной доработки. И в этом, пожалуй, авторы WSJ попали в точку.

А вот тезис, что подход на основе огромного количества «простых правил» является принципиально тупиковым путём и не приведёт к AGI, вызывает улыбку. Мы сейчас категорически не знаем, как именно сложнейшее понятие «сознание» формируется из нервных импульсов в нашем мозгу. И утверждение, что нейросети заведомо неспособны обрести настоящий интеллект, потому что они лишь «мешок с эвристиками», само по себе весьма сомнительно. Кто знает — возможно, и наше с вами сознание по сути очень сложный мешок эвристик?

Вспомните, как несколько лет назад скептики из того же Wall Street Journal заявляли: «Нейросети никогда не напишут безупречный текст», «ИИ не создаст убедительную картинку». Этап пройден. «ИИ не может объяснять свой выбор», — говорили они два года назад. И сегодня уже есть достаточно надёжные инструменты для интерпретации решений некоторых моделей. Мы слишком быстро забываем вчерашние прогнозы — а через полгода будем также удивляться недооценённым сегодня прорывам.

При этом WSJ абсолютно прав в том, что одни только большие модели с бесконечным увеличением параметров скорее всего не приведут к полноценному сознанию. Нам явно нужно развитие других, дополнительных подходов — от символических AGI-систем и каузального обучения (causal learning) до новых архитектур типа spiking neural networks, биологических нейроморфных моделей (об этом писал) и многого другого.

Но списывать полностью текущий прогресс нейросетей со счетов и критиковать весь подход — точно преждевременно. Наступив вчера на много грабель в прогнозах относительно ИИ, хотелось бы быть осторожнее с такими категоричными заявлениями сегодня.

Не стоит забывать: человек ещё пару веков назад столь же убеждённо заявлял, что «аппараты тяжелее воздуха никогда не полетят».

/ Не запрещена в РФ