Математики выпустили Лейденскую декларацию против неправильного использования их работы с ИИ

      TL;DRЛейденская декларация по искусственному интеллекту и математике, поддержанная Международным математическим союзом и подписанная лауреатом медали Филдса Петером Шольце, призывает математиков столкнуться с тем, как компании ИИ используют опубликованные исследования без согласия, обходя рецензирование и угрожая целостности доказательств и атрибуции. Коалиция математиков из таких учреждений, как Оксфорд, Кембридж, ETH Цюрих, Колумбия и Северо-Западный университет, опубликовала официальную декларацию, призывающую математическое сообщество противостоять угрозам, которые искусственный интеллект представляет для их дисциплины. Лейденская декларация по искусственному интеллекту и математике, выпущенная в понедельник и поддержанная Международным математическим союзом, является самым значительным коллективным ответом от крупной академической дисциплины на то, как компании ИИ используют, а в некоторых случаях эксплуатируют, опубликованные исследования. Документ на 11 страницах не противится ИИ в математике. Он противится тому, как компании ИИ относятся к математической работе: обучают модели на опубликованных статьях без согласия, объявляют результаты через пресс-релизы вместо рецензируемых публикаций, подрывают атрибуцию и изменяют приоритеты исследований в интересах коммерции, а не интеллектуальной значимости. «Математика — это, и всегда должна оставаться, глубоко человеческое начинание», — сказала Ульрике Тилльманн, вице-президент IMU. Пять угроз математическим исследованиям Декларация выделяет пять конкретных способов, которыми ИИ угрожает ценностям, делающим математику надежной. Во-первых, современные системы ИИ производят правдоподобные, но ненадежные аргументы, которые трудно отличить от правильных доказательств. Это касается не только неформального рассуждения, но и формальных компьютерных доказательств, где трудность заключается в переводе между машинными и человеческими представлениями концепций. Проблема контента, сгенерированного ИИ, который выглядит авторитетно, но содержит тонкие ошибки, не уникальна для математики, но в дисциплине, основанной на уверенности, она является экзистенциальной. Во-вторых, модели ИИ, обученные на опубликованных математических работах, не правильно ссылаются на человеческие вклады, которые они синтезируют. Декларация отмечает, что многие данные для обучения были получены путем «систематической эксплуатации лицензий и соглашений о доступе, которые не были разработаны с учетом искусственного интеллекта, или просто путем нарушения авторских прав». В-третьих, использование ИИ становится поощряемым ради самого себя, искажая найм, финансирование и признание. В-четвертых, результаты все чаще сообщаются через пресс-релизы и блоги, а не через рецензируемые журналы, стремясь к публичности «в рыночные сроки, прежде чем принятые процессы оценки сообщества в математике могут иметь место». Декларация упоминает AlphaProof от Google DeepMind, который решил три задачи Международной математической олимпиады в 2024 году, но потребовалось более года, чтобы опубликовать свои методы в рецензируемом издании. Более широкая стратегия ИИ Google полагается на способности математического рассуждения как доказательство общего интеллекта, создавая коммерческие стимулы для объявления результатов до того, как математическое сообщество сможет их должным образом оценить. В-пятых, автономия математики находится под угрозой. Исследовательские вопросы могут начать приоритизироваться, потому что они поддаются автоматизации, а не потому, что эксперты считают их глубоко значительными. «Действительно, более широкое понимание области может быть навсегда утеряно в процессе автоматизации», — предупреждает Декларация. Что она рекомендует Декларация делает рекомендации на четырех уровнях. Индивидуальные математики должны раскрывать все случаи использования инструментов ИИ в статьях, сохранять личную ответственность за правильность результатов, отказываться предоставлять авторство системам ИИ и «внимательно обдумывать, какие инструменты использовать», основываясь на том, соответствуют ли их разработчики ценностям Декларации. Математические организации должны настаивать на том, чтобы результаты, полученные с помощью автоматизированных технологий, соответствовали стандартам, которые учитывают специфические риски, которые эти технологии вводят, защищать права авторов, разрабатывая лицензионные соглашения, которые предотвращают использование опубликованных работ в качестве данных для обучения без согласия, и требовать, чтобы результаты продолжали публиковаться через рецензируемые издания. Европейские нормативные рамки предоставляют модель, но Декларация утверждает, что математическое сообщество также должно установить свои собственные стандарты независимо от правительства. Для политиков рекомендации ясны. «Не верьте в шумиху», — заявляет Декларация. «В настоящее время существует сильный коммерческий стимул со стороны технологической отрасли преувеличивать возможности своих продуктов». Она призывает к значительно увеличенному общественному контролю за индустрией ИИ и инвестициям в общественную вычислительную инфраструктуру как альтернативу проприетарным системам. Кто подписал ее Декларация имеет значительный вес благодаря своим подписантам. Петер Шольце, лауреат медали Филдса и директор Института математики Макса Планка, поддержал ее личным заявлением: «Я размышляю над своими математическими идеями без использования ИИ и стараюсь избегать чтения текста, сгенерированного ИИ, насколько это возможно». Другие поддержали ее, включая Робберта Дейкграафа, бывшего министра образования Нидерландов и президента Международного научного совета, и Стивена Строгатца, выдающегося профессора Корнелла по общественному пониманию науки и математики. Кевин Баззард, профессор Имперского колледжа, который был одним из самых ярких сторонников формализованной математики, назвал это «хорошо продуманным ответом на то, что сейчас происходит, поскольку ИИ продолжает нарушать это пространство». Напряжение между возможностями ИИ и целостностью исследований, которое описывает Декларация, не ограничивается математикой, но математики являются одной из первых академических сообществ, которые реагируют с координированным, поддержанным институтами заявлением. Более глубокий аргумент Самая провокационная часть Декларации обращается непосредственно к компаниям ИИ. В ней утверждается, что технологические компании привлекаются к математике, потому что формализованные доказательства могут проверяться автоматически, создавая «фактически неограниченный источник обратной связи для обучения моделей искусственного интеллекта». Стратегия основывается на предположении, что возможности, разработанные через доказательство математических теорем, будут распространяться на более широкое общее рассуждение, предположение, которое Декларация рассматривает скептически. «Некоторые из получившихся универсальных моделей коммерциализируются для приложений, которые вызывают серьезные этические проблемы», — пишут авторы, — «включая войны, угнетение, массовый надзор и подрыв демократии». Пересечение исследований ИИ и военных приложений стало одной из определяющих напряженностей 2026 года, и Лейденская декларация ясно дает понять, что математики не хотят, чтобы их работа использовалась в качестве данных для обучения систем, развернутых в этих контекстах без их согласия. Декларация была разработана за восемь месяцев рабочей группой из 17 человек после семинара в сентябре 2025 года в Центре Лоренца в Лейдене. В первый день у нее было 37 проверенных подписантов, и она открыта для дополнительных подписей от математического сообщества.