Dario Amodei de Anthropic dice que la empresa nunca ha pedido prohibir los modelos de IA de peso abierto.

      TL;DR Amodei dice que Anthropic nunca ha pedido prohibir modelos de pesos abiertos. Apoya el control de exportaciones de chips, la represión de la destilación y las pruebas de seguridad obligatorias para todos los modelos suficientemente capaces, abiertos y cerrados. Dario Amodei publicó la posición formal de Anthropic sobre los modelos de pesos abiertos el domingo, rompiendo un silencio que había suscitado acusaciones de que la empresa quería prohibir la IA de pesos abiertos para proteger su negocio. “Anthropic nunca ha abogado por una prohibición de los modelos de pesos abiertos”, escribió Amodei. “Los modelos de pesos abiertos que no tienen capacidades peligrosas son un bien público.” La publicación se produjo después de que Jensen Huang de Nvidia y docenas de empresas tecnológicas firmaran una carta abierta apoyando los pesos abiertos, y después de que funcionarios estadounidenses consideraran supuestamente prohibir los modelos de pesos abiertos chinos. Amodei esbozó tres medidas que apoya en lugar de una prohibición. Primero, hacer cumplir los controles de exportación de chips y reprimir el “contrabando desenfrenado” utilizado para introducir chips avanzados en China, porque sin chips estadounidenses, las leyes de escalado impiden que China entrene modelos más poderosos que los estadounidenses. Segundo, detener las operaciones de destilación a escala industrial que permiten a los laboratorios chinos construir modelos capaces mucho más baratos que entrenar desde cero. Tercero, pruebas de seguridad obligatorias para todos los modelos suficientemente capaces, abiertos y cerrados, independientemente del país de origen, con modelos menos capaces de startups y académicos exentos por completo. Sobre la carta abierta respaldada por Nvidia, Amodei estuvo de acuerdo en que los pesos abiertos amplían el acceso y la competencia, pero no estuvo de acuerdo en que necesariamente ayuden más a los defensores que a los atacantes. Citó las armas biológicas como el ejemplo más agudo: un modelo suficientemente capaz podría armar rápidamente un virus de nivel pandémico utilizando materiales ampliamente disponibles, mientras que la defensa contra tales agentes lleva años. TNW informó la semana pasada que el silencio de Anthropic sobre la carta de pesos abiertos se estaba volviendo conspicuo como la empresa que había sufrido el daño comercial más directo por la destilación. Esta publicación es la respuesta. El punto de la destilación es el más cargado comercialmente. Anthropic acusó al laboratorio Qwen de Alibaba de llevar a cabo la mayor campaña de destilación jamás realizada contra Claude, utilizando 25,000 cuentas falsas para 29 millones de intercambios. Amodei reconoció que reprimir la destilación es “desafiante” porque las cuentas a menudo solo se pueden identificar después de que ha ocurrido una destilación sustancial. Hizo un llamado a la intervención política en lugar de depender de la aplicación de una sola empresa. La posición está cuidadosamente construida: Anthropic no está en contra de los pesos abiertos, está en contra de que los pesos abiertos se construyan robando de sus modelos cerrados, entrenados con chips de contrabando y liberados sin pruebas de seguridad. Si esa distinción sobrevive al apetito de Washington por narrativas más simples es la pregunta política que se escribió para responder.

      Get the TNW newsletter

      Recibe las noticias tecnológicas más importantes en tu bandeja de entrada cada semana.