Anthropic хочет, чтобы правительства имели возможность блокировать опасные развертывания ИИ

      TL;DRAnthropic предложила предоставить правительствам юридические полномочия блокировать опасные модели ИИ, с штрафами, привязанными к глобальному доходу. Второй фреймворк охватывает защиту работников.

      Anthropic опубликовала два политических фреймворка, призывающих правительства иметь юридические полномочия блокировать опасные развертывания ИИ и экономические меры для защиты работников, поскольку ИИ изменяет рынок труда. Расширенный фреймворк ИИ охватывает регулирование безопасности. Экономический политический фреймворк касается замещения, распределения капитала и социальной сети безопасности.

      Фреймворк безопасности является более агрессивным из двух. Anthropic хочет, чтобы правительства могли блокировать или сдерживать развертывание моделей, которые представляют собой «значительный риск катастрофического ущерба», с гражданскими штрафами, привязанными к глобальному годовому доходу, которые возрастают при повторных нарушениях. Он будет применяться только к моделям, обученным с использованием более 10²⁵ операций с плавающей запятой, разработанным компаниями, зарабатывающими более 500 миллионов долларов в доходах от ИИ или тратящими более 1 миллиарда долларов на НИОКР в области ИИ.

      Этот порог охватывает небольшое количество компаний: саму Anthropic, OpenAI, Google DeepMind, xAI и, возможно, Meta. Anthropic призывает к регулированию, которое будет непосредственно применяться к ее собственному бизнесу, позиция, которую она использовала ранее, чтобы отличить себя от конкурентов, которые выступают против надзора.

      Фреймворк выделяет четыре категории катастрофического риска: разработка биологического оружия, обнаружение уязвимостей в кибербезопасности в крупном масштабе, потеря контроля над автономными системами и ИИ, который автоматизирует свои собственные НИОКР. Anthropic указала на свой собственный опыт с Mythos Preview, который обнаружил тысячи уязвимостей высокой степени серьезности в каждой крупной операционной системе и браузере, как доказательство того, что эти риски не являются гипотетическими. 💜 технологий ЕС

      Последние слухи из технологической сцены ЕС, история от нашего мудрого основателя Бориса и несколько сомнительных произведений ИИ. Это бесплатно, каждую неделю, в вашем почтовом ящике. Подпишитесь сейчас!

      Разработчики Frontier будут обязаны тестировать свои модели, публиковать резюме результатов, подчиняться независимой оценке, поддерживать программы безопасности и публиковать регулярные отчеты о рисках. Anthropic утверждает, что одной прозрачности больше недостаточно. «Возможности ИИ будут быстро улучшаться в ближайшие месяцы», — написала компания. «Их управление должно идти в ногу с этим».

      Что касается предотвращения, Anthropic прямо критикует усилия Белого дома по блокировке государственных законов о ИИ. «Мы не считаем, что Конгресс должен отменять государственное законодательство, если он не примет федеральный закон, который хотя бы столь же силен, как предлагаемый нами сегодня фреймворк», — заявила компания. Она призывает к «хирургическому» предотвращению, позволяя штатам регулировать вопросы безопасности детей, защиты потребителей и другие вопросы, выходящие за рамки федерального закона о безопасности.

      Экономический фреймворк менее детализирован, но касается вопроса замещения, о котором выпускники выражали недовольство на церемониях вручения дипломов. Он включает предложения по капитальным счетам, страхованию заработной платы, налоговым льготам и расширенной социальной сети безопасности. Цель состоит в том, чтобы финансовые выгоды от ИИ были «широко разделены», хотя конкретные детали финансирования и реализации оставлены для будущих обсуждений.

      Сроки являются преднамеренными. Anthropic ведет судебную борьбу с Пентагоном из-за своего внесения в черный список как риск для цепочки поставок. Она готовится к IPO. И она наблюдает, как Конгресс ведет переговоры о сделке, которая обменяет государственное предотвращение ИИ на законодательство о безопасности в Интернете. Публикуя свой собственный фреймворк, Anthropic пытается установить условия для регуляторных дебатов, которые развиваются быстро и в значительной степени без ее участия.