Дарио Амодеи из Anthropic говорит, что компания никогда не призывала к запрету моделей ИИ с открытым весом.

      TL;DR Амодеи говорит, что Anthropic никогда не призывала к запрету моделей с открытыми весами. Он поддерживает контроль за экспортом чипов, борьбу с дистилляцией и обязательное тестирование на безопасность для всех достаточно мощных моделей, как открытых, так и закрытых.

      Дарио Амодеи опубликовал официальную позицию Anthropic по моделям с открытыми весами в воскресенье, прервав молчание, которое вызвало обвинения в том, что компания хочет запретить ИИ с открытыми весами, чтобы защитить свой бизнес. «Anthropic никогда не выступала за запрет моделей с открытыми весами», — написал Амодеи. «Модели с открытыми весами, которые не обладают опасными возможностями, являются общественным благом». Пост появился после того, как Дженсен Хуанг из Nvidia и десятки технологических компаний подписали открытое письмо в поддержку открытых весов, и после того, как американские чиновники, как сообщается, рассматривали возможность запрета китайских моделей с открытыми весами.

      Амодеи изложил три меры, которые он поддерживает вместо запрета. Во-первых, обеспечение контроля за экспортом чипов и борьба с «разгулом контрабанды», используемой для ввоза передовых чипов в Китай, потому что без американских чипов законы масштабирования мешают Китаю обучать модели, более мощные, чем американские. Во-вторых, остановка дистилляционных операций в промышленном масштабе, которые позволяют китайским лабораториям создавать мощные модели гораздо дешевле, чем обучение с нуля. В-третьих, обязательное тестирование на безопасность для всех достаточно мощных моделей, открытых и закрытых, независимо от страны происхождения, с полным освобождением менее мощных моделей от стартапов и академии.

      Что касается открытого письма, поддерживаемого Nvidia, Амодеи согласился с тем, что открытые веса расширяют доступ и конкуренцию, но не согласился с тем, что они обязательно помогают защитникам больше, чем нападающим. Он привел биологическое оружие как самый яркий пример: достаточно мощная модель может быстро превратить вирус пандемического уровня в оружие, используя широко доступные материалы, в то время как защита от таких агентов занимает годы. TNW сообщила на прошлой неделе, что молчание Anthropic по поводу открытых весов становится заметным, поскольку компания понесла самые прямые коммерческие убытки от дистилляции. Этот пост является ответом.

      Пункт о дистилляции является наиболее коммерчески заряженным. Anthropic обвинила лабораторию Qwen Alibaba в проведении самой крупной дистилляционной кампании против Claude, используя 25 000 поддельных аккаунтов для 29 миллионов обменов. Амодеи признал, что борьба с дистилляцией является «сложной», поскольку аккаунты часто можно идентифицировать только после значительной дистилляции. Он призвал к политическому вмешательству, а не полагаться на принуждение какой-либо одной компании. Позиция тщательно сформулирована: Anthropic не против открытых весов, она против того, чтобы открытые веса создавались путем кражи из ее закрытых моделей, обученных на контрабандных чипах и выпущенных без тестирования на безопасность. Выдержит ли это различие аппетит Вашингтона к более простым нарративам — это политический вопрос, на который был написан этот пост.

      

      

      

       Получите новостную рассылку TNW

       Получайте самые важные технологические новости на свою почту каждую неделю.