Таблица элементов ML MIT I-Con

Таблица элементов ML

В MIT создали «периодическую таблицу алгоритмов машинного обучения» — и это круче, чем может показаться на первый взгляд.

Более 150 лет назад таблица Менделеева дала химикам чёткую структуру знаний и позволила предсказать существование элементов задолго до их открытия. Сегодня MIT делает примерно то же самое для ML, объединяя свыше 20 классических алгоритмов в единую математическую схему. Исследователи назвали эту систему I-Con — Information Contrastive Learning («информационно-контрастное обучение»).

В чём суть подхода?

До этого момента алгоритмы машинного обучения — классификация, кластеризация, регрессия, снижение размерности и многие другие — часто воспринимались как отдельные, почти никак не связанные между собой техники. Несмотря на использование общих подходов вроде градиентного спуска, каждый алгоритм казался уникальным рецептом. А команда MIT показывает, что на самом деле все эти методы изучают одни и те же базовые отношения между данными, отличаясь только в деталях реализации.

Исследователи нашли единый математический язык — точное, простое и красивое уравнение, которое описывает коллективную «ДНК» большинства существующих методов ML. Теперь разнообразные подходы можно упорядочить в системе координат, где чётко видна связь и «расстояние» между ними. Алгоритмы группируются по тому, как именно они устанавливают взаимосвязи в данных, и это дает ясность взгляда на всю область.

Но самое интересное — это свободные клетки, которые есть в таблице. Так же, как когда-то пустоты в таблице Менделеева предсказывали будущие открытия неизвестных элементов, незанятые позиции в I-Con указывают на алгоритмы, которые ещё предстоит открыть и разработать. Больше никаких случайных блужданий в темноте: исследователи могут системно изучать пространство возможных решений, точно зная, где искать новые подходы.

Более того — это уже работает на практике. Команда MIT провела один из первых экспериментов: взяли элементы из двух разных «ячеек» таблицы и объединили их в новый алгоритм классификации изображений. Результат превзошёл на 8% самые современные методы, используемые сегодня.

Такой подход даёт нам не только красоту и стройность понимания «машинной мысли». Он превращает инновацию в алгоритмах из случайного поиска инсайтов во вполне предсказуемый инженерный процесс. Вместо бесконечной цепи проб и ошибок — чёткий маршрут исследований и гарантии новых открытий там, где раньше либо не смотрел никто, либо слишком быстро сдавались.

Подобное новаторство в подходах к фундаментальным вещам всегда знаменует мощные прорывы. Таблица Менделеева раз и навсегда изменила химию. Периодическая таблица I-Con вполне способна так же революционизировать машинное обучение: упрощая его, делая понятным и масштабируя открытие новых методов.

Надеюсь только, что в школе таблицу элементов ML учить на заставят.

/ Не запрещена в РФ