Математики — лауреаты Филдсовской премии опасаются, что ИИ может оказать разрушительное влияние на науку Но почему? Ведь он так здорово решает задачи!

25 лауреатов Филдсовской премии — самой престижной математической награды — опубликовали открытое письмо о применении искусственного интеллекта в математике. Ученые считают, что новая технология угрожает научному знанию в целом и математике в частности. Авторы признают, что ИИ все лучше решает сложные математические задачи, но при этом создает и новые проблемы с внедрением и дальнейшей разработкой этих решений, а также с авторским правом и плагиатом. «Медуза» пересказывает это письмо.

Открытое обращение было опубликовано 11 сентября. Среди его авторов — Теренс Тао, Марина Вязовская, Пьер Делинь, Андрей Окуньков, Мартин Хайрер и другие ученые, удостоенные медали Филдса в разные годы с 1978-го по 2022-й (награда вручается раз в четыре года). По состоянию на 13 сентября письмо подписали более 5,4 тысячи человек. Сделать это могут только обладатели университетской электронной почты либо идентификатора ORCID, который есть у научных авторов.

Письмо начинается с признания прогресса больших языковых моделей, которые за последние несколько месяцев научились решать важнейшие математические задачи, долгое время остававшиеся нерешенными. При этом авторы отмечают, что цели математического сообщества и ИИ-компаний серьезно расходятся: стремление последних использовать решение задач как демонстрацию роста производительности «наносит ущерб математике и математическому сообществу».

Авторы письма сравнивают известные задачи с «ориентирами и маяками» на математическом ландшафте. Когда одну из них удавалось решить, это говорило о появлении новых идей и методов, которые потом долго и кропотливо изучали, обсуждали и упрощали. В результате решение сначала попадало в учебники в форме, доступной аспирантам и студентам профильных вузов, а через десятилетия и даже столетия становилось понятным еще более широкой публике.

Филдсовские лауреаты подчеркивают, что решение задач — это лишь один из инструментов, с помощью которого обучаются студенты-математики (которых наряду с идеями авторы письма называют самым ценным ресурсом). А настоящего понимания можно достичь, взаимодействуя с коллегами и работами других ученых и идеями прошлого. Как считают авторы обращения, если забыть об этом, можно обратить ИИ против науки. «Массовое производство утверждений типа „истина/ложь“ все более быстрыми темпами может уничтожить плодородную почву вместо того, чтобы вдохнуть жизнь в новые идеи», — говорится в письме.

При этом решения задач, к которым приходит ИИ, часто делаются в спешке и без надлежащего изложения новых методов и идей, а также без цитирования предыдущих работ на эту тему других авторов, что поднимает вопросы об авторском праве и плагиате — как и во многих других сферах, где используется искусственный интеллект. А для интеграции новых идей в математический канон и их развития все равно нужны люди, готовые заняться этой работой.

Как считают авторы письма, результаты использования ИИ расходятся с его изначальной целью. Во многих областях знания многолетнее обучение было ориентировано не только на получение правильного ответа. Оно помогало понять изучаемую дисциплину, стимулировало задавать новые вопросы и формировать идеи. Однако сейчас, опираясь на обширный массив предыдущих достижений человечества, системы ИИ все лучше могут напрямую генерировать конечный результат такой работы, не считаясь с другими целями обучения.

ИИ может углубить и ускорить математические исследования, и ученые должны будут адаптироваться к новой технологии. Однако пойдут ли изменения на пользу математике или окажут на нее разрушительное воздействие, будет зависеть от тех, кто контролирует ИИ, говорится в письме.