«Мы не сможем распознавать поддельный голос»

«Мы не сможем распознавать поддельный голос»

В прошлую пятницу вышла программа «Вопрос науки» про угрозы искусственного интеллекта, участником которой стал Константин Воронцов — профессор МФТИ и ВМК МГУ, профессор РАН, крайне человек уважаемый в сфере ИИ.

Обычно телевизионный контент, посвященный искусственному интеллекту, не заслуживает никакого внимания, но Константин — на передовой российской науки в предметной области, поэтому его интервью вызывает интерес.

Я нашел этот выпуск, вытащил аудиодорожку и сделал полную расшифровку в NotebookLM.

Вот основые тезисы Воронцова:

— Он считает, что регулирование искусственного интеллекта возможно и не будет идти в ущерб его развитию.

— Необходимо разрабатывать тесты и бенчмарки для оценки достоверности, качества и безопасности больших языковых моделей. Модели, выходящие в общественный доступ или на рынок (например, российский), должны пройти сертификацию и показать результаты тестов, в том числе о неприменении запрещенной информации при обучении.

— Существуют разные подходы к борьбе с фейками и угрозами ИИ: Запад предлагает больше открытости и критическое мышление (опасность контроля СМИ деньгами), а Восток – доверие государству (опасность авторитаризма). Он задается вопросом, найдет ли Россия свой срединный путь.

— Вопрос стран, не следующих регулированию («цифровые оффшоры»), находится в области политики; необходимо международное взаимодействие, возможно, по аналогии с Интерполом.

— Использование ИИ в преступных и мошеннических целях должно быть отягчающим обстоятельством.

— В случае с дипфейками голоса (например, для мошеннических звонков) мы, скорее всего, уже не сможем надежно распознавать поддельный голос; соревнование «щита и меча» приведет к тому, что «меч» всегда будет опережать.

— Правильная реакция на подозрительный звонок – включить здравый смысл и перезвонить по известному номеру для проверки. Надеяться на голос или видео больше нельзя как на надежное свидетельство личности человека.

— Необходимо активно проводить просветительскую деятельность, объясняя, что могут и не могут технологии, и как противостоять. Есть случаи, где сейчас нет противодействия, например, использование украденного голоса актрисы для порнороликов, что может положить конец ее карьере.

— Обучение моделей на «всем интернете» является тупиковым путем. Наступает интенсивный период развития, когда будут настраиваться интеллектуальные фильтры для отбора доверенной информации. Нельзя учить по низкопробному контенту из соцсетей; нужно идти в проверенные источники, но и тонкие фильтры для других сфер (как кулинарные рецепты) тоже нужны.

— Прогноз на будущее (ближайшие 10 лет): Персональные ИИ помощники, взаимодействуя с человеком годами, станут «слепком личности», содержащим его личностный код. Это приведет к совместной цивилизации людей и аватаров (цифровых личностей бывших людей).

— Ему нравится идея человеко-машинного общества, потому что на этом пути можно заложить человеческие ценности и сделать процесс более контролируемым. Нужно контролировать каждый шаг, думать наперед, учитывать морально-этические и юридические аспекты.

— На ранних стадиях развития технологий возникают тонкие вопросы. У любой технологии есть две стороны, светлая и темная. Не погрузиться во тьму можно, если не пускать технологическое развитие на самотек, особенно в случае с ИИ.

/ Не запрещена в РФ