«ИИ-агент»: термин есть, понимания нет

«ИИ-агент»: термин есть, понимания нет

ИИ-агенты (они же AI-agents или agentic systems) — с этим словосочетанием носятся все, кому не лень, запускают проекты, получают инвестиции — при том, что точного определения, что это, до сих пор не существует, потому что рынок постоянно пихает хайповый термин куда ни попадя.

Инвестиционные партнеры фонда, Гвидо Аппенцеллер, Мэтт Борнштейн и Йоко Ли, целый выпуск обсуждали тематику и наконец попытались выдать хоть какую-то ясную концепцию. Но прежде чем прийти к ней, они признались: то, что сегодня стартапы с уверенным видом называют «ИИ-агентами», варьируется от банального промпта поверх базы данных до мечтаний о сущностях на грани общего искусственного интеллекта (AGI).

Аппенцеллер признает, что зачастую то, что продается сегодня под модным лейблом — просто умная консолька, ищущая ответы в заготовленных Q&A-базах данных.

Интересно тут недавнее признание TechCrunch гендиректора стартапа Artisan, Джаспера Кармайкла-Джека. Напомню, его компания прославилась рекламой «перестаньте нанимать людей» и развивается именно в области ИИ-агентов для продаж. Несмотря на громкие заявления, Джаспер сам признается, что его технологии далеки от идеала, и он до сих пор нанимает (сюрприз!) живых сотрудников-человеков.

Какие проблемы останавливают настоящих «агентов»? (Если допустить, что всё же можно выделить общее понятие.)

— Долгосрочная «память» сохраняемых фактов и диалогов (и дороговизна поддержания таких систем).

— Стабильность и предсказуемость поведения модели (все те же пресловутые «галлюцинации»).

Определение, на котором сошлись инвесторы a16z, звучит сегодня наиболее адекватно: ИИ-агент — это многошаговая reasoning-модель (LLM) с динамическим деревом решений.

Что это значит? Агент не просто отвечает на заданный вопрос — он способен сам ставить цели, анализировать ситуацию, принимать промежуточные решения и совершать действия, например, загрузить базу данных клиентов, выбрать, кому написать, и лично отправить письма этим клиентам.

Тем не менее, даже это определение остается слишком поверхностным и не захватывает всей сложности феномена.

Иллюзии сегодняшнего дня связаны с ожиданием, что простые LLM или модели с элементами reasoning уже автоматически сделают из программ настоящих автономных агентов. Однако нейросетевые архитектуры, которые доминируют на рынке, в техническом смысле всего лишь отображают условные вероятности между токенами, не обладая внутренней моделью мира, причинно-следственным мышлением или системами представления знаний.

До перехода к мультиархитектурным решениям, использующим строгие символьные методы рассуждений поверх статистических моделей, говорить о полноценных автономных ИИ-агентах не стоит.

Так что настоящие «агенты» пока остаются скорее целью исследований, а не товаром технологического супермаркета. Для начала нужно хотя бы перестать размывать понятие маркетинговым булшитом, а то мы до сих «не знаем, что это такое».

/ Не запрещена в РФ