Хассабис хочет рефери в стиле FINRA для передового ИИ

      Человек, стоящий за ИИ Google, считает, что миру нужен арбитр. И он разработал правила. Демис Хассабис хочет, чтобы США создали наблюдательный орган, который будет проверять передовые модели перед их выпуском. Он смоделирован по образцу полицейского Уолл-Стрит, и это может замедлить всю отрасль.

      Демис Хассабис обычно не звучит тревогу. Во вторник он это сделал.

      Глава Google DeepMind и лауреат Нобелевской премии опубликовал манифест в X. В нем он утверждает, что искусственный общий интеллект «вероятно, всего лишь в нескольких коротких годах». Мир, по его словам, не готов. Он называет это «драгоценным окном» перед приходом ИОИ, и оно закрывается.

      Его решение необычно конкретно. Он хочет, чтобы США создали новый орган стандартов ИИ. Его шаблон — FINRA, финансируемый отраслью наблюдательный орган, который контролирует Уолл-Стрит под правительственным надзором.

      💜 технологий ЕС Последние новости из технологической сцены ЕС, история от нашего мудрого основателя Бориса и несколько сомнительных произведений ИИ. Это бесплатно, каждую неделю, в вашем почтовом ящике. Подпишитесь сейчас!

      Орган будет государственно-частным партнерством, финансируемым в основном самими лабораториями. Его совет будет состоять из независимых экспертов, среди которых будут лауреаты премии Тьюринга, а также представители открытого кода и правительства.

      Его задача — тестировать самые мощные модели перед их выпуском. Сначала лаборатории будут добровольно передавать свои системы за 30 дней до выпуска. Тесты будут проверять опасные аспекты: навыки кибератак, биологические и ядерные риски, а также признаки обмана.

      Как только режим заработает, он станет более жестким. Модель «класса передовых технологий» должна будет пройти проверку, прежде чем она сможет выйти на рынок США. Орган установит эталоны и будет обновлять их каждый квартал. Правила будут применяться к любой такой модели, открытой или закрытой, где бы она ни была создана. Стартапы и академики останутся освобождены.

      Власть остановить процесс

      Самая поразительная часть — это тормоз. Хассабис говорит, что орган может быть «усилен» по мере роста рисков. Это включает в себя «координацию замедления разработки среди Передовых лабораторий, если это будет сочтено необходимым».

      Это замечательное предложение для руководителя лаборатории. Он просит механизм, который заставит его собственную отрасль остановиться.

      Он сказал Axios, который первым сообщил о плане, что сегодняшние киберриски — это всего лишь «предупредительные выстрелы». В течение 18 месяцев, предостерег он, могут появиться гораздо более серьезные биологические и ядерные инструменты. Они могут находиться внутри моделей открытого кода, которые ни одно правительство не сможет отозвать. Его временные рамки агрессивны. Он хочет, чтобы орган начал работу до конца года. Он говорит, что в течение нескольких месяцев информировал администрацию Трампа, конкурирующие лаборатории и европейских чиновников. «Шумы», сказал он, «очень позитивные».

      Почему сейчас

      Сроки не случайны. В прошлом месяце администрация Трампа заморозила самые мощные модели Anthropic за ночь с помощью экспортного приказа. За этим последовали недели напряженных переговоров без правил. Хассабис назвал это «немного пробуждающим звонком». OpenAI, опасаясь такой же судьбы, задержал GPT-5.6 до тех пор, пока правительство не дало согласие.

      Он не одинок в желании правил. Он и Дарио Амодеи из Anthropic призвали к созданию коалиции под руководством США на G7. Амодеи хочет агентство в стиле FAA, которое может блокировать небезопасные модели. Руководители лабораторий теперь согласны с тем, что Вашингтон должен их регулировать. Они в основном расходятся во мнениях о том, кто будет держать молоток.

      Хассабис описывает все это почти космическими терминами. ИОИ, пишет он, меньше похоже на интернет, чем на огонь или электричество. «Мы, по сути, нашли способ заставить песок думать. Это чудесно». Более сложный вопрос — это тот, на который его план не может ответить. Может ли орган, финансируемый лабораториями и следящий за обманом в моделях, из которых они получают прибыль, когда-либо сказать «стоп»?