ИИ научился изобретать сам себя

ИИ научился изобретать сам себя

Возможности ИИ растут экспоненциально, но скорость самих исследований в области ИИ до сих пор была ограничена скоростью человеческого мышления. Новый препринт из Шанхайского университета Цзяо Тун представляет систему ASI-ARCH — и, похоже, это ограничение начинает рушиться.

Это не очередной «умный» поисковик архитектур, а система, которая автономно проводит полный цикл научного исследования: от выдвижения гипотезы о новой архитектуре нейросети до её реализации в коде, тестирования и анализа результатов.

🤖 Как это работает: фабрика ИИ-инноваций

ASI-ARCH — это мультиагентная система, где у каждого ИИ своя роль:

Исследователь: Анализирует прошлый опыт (свой и человеческий) и предлагает новые, инновационные архитектуры.

Инженер: Пишет код для предложенных архитектур, обучает их и самостоятельно отлаживает, если что-то идёт не так, анализируя логи ошибок и переписывая код.

Аналитик: Изучает результаты тестов, делает выводы и передаёт их Исследователю для следующего витка эволюции.

База знаний: Чтобы не изобретать велосипед, система опирается на «когнитивную базу», созданную из почти 100 ключевых научных работ в области линейного внимания.

За 20 000 GPU-часов ASI-ARCH провела 1773 автономных эксперимента и создала 106 новых, state-of-the-art архитектур с линейным вниманием, которые систематически превосходят человеческие аналоги.

📈 Закон масштабирования для научных открытий

Но главное тут — это не сами архитектуры. Впервые в истории исследователи эмпирически продемонстрировали закон масштабирования для научных открытий. График из работы наглядно показывает почти идеальную линейную зависимость: чем больше вычислительных ресурсов (GPU-часов) получает система, тем больше прорывных SOTA-архитектур она создаёт.

Для сравнения: работа человека-исследователя по созданию одной модели оценивается в ~2000 часов и принципиально не масштабируется. ASI-ARCH превращает научный поиск из процесса, ограниченного человеком, в процесс, масштабируемый вычислениями.

💡 «Ход 37» в дизайне нейросетей

Авторы напрямую сравнивают свои результаты с легендарным «ходом 37» от AlphaGo, который открыл человечеству новые, неинтуитивные стратегии в игре го. Точно так же ASI-ARCH обнаружила принципы проектирования, которые не были очевидны для людей.

Например, чтобы избежать «взлома вознаграждения» (когда система максимизирует метрики, не создавая реальных улучшений), в качестве оценщика используется не только производительность, но и отдельная LLM, которая оценивает архитектурное изящество, новизну и сложность идей.

Научный метод, веками бывший прерогативой человека, начинает автоматизироваться на фундаментальном уровне. Это создание новой парадигмы — «ASI для исследований ИИ» (ASI4AI). И это только начало.

/ Не запрещена в РФ