El fundador de Zhipu defiende la inteligencia artificial de frontera abierta.

      El fundador del laboratorio de IA más prominente de China ha presentado un caso inequívoco a favor de la apertura. La IA de frontera debería mantenerse ampliamente accesible en lugar de ser controlada por unos pocos selectos, escribió Tang Jie de Zhipu en un memo interno revisado por Bloomberg.

      Su argumento invierte la lógica habitual de seguridad. La verdadera seguridad proviene de la amplia participación, el intercambio y la supervisión, dijo, no de barreras tecnológicas.

      Zhipu ha respaldado eso con producto. Lanzó GLM-5.2 bajo una licencia de código abierto, gratis para descargar y comercializar.

      El momento incómodo

      Tang hizo los comentarios poco después de que Reuters informara que Beijing está considerando lo contrario. Los funcionarios chinos están sopesando límites al acceso en el extranjero a los modelos abiertos más avanzados del país.

      El 💜 de la tecnología de la UE Las últimas novedades de la escena tecnológica de la UE, una historia de nuestro sabio fundador Boris y un arte de IA cuestionable. Es gratis, cada semana, en tu bandeja de entrada. ¡Inscríbete ahora! Eso pone al fundador de Zhipu en desacuerdo con la dirección de su propia capital. La apertura ha sido la ventaja estratégica de China, y ahora su gobierno se pregunta si ha dado demasiado.

      La empresa tiene razones comerciales para querer mantener la puerta abierta. Sus modelos se han difundido globalmente precisamente porque son gratuitos, y los modelos chinos baratos ahora están cerrando la brecha con los laboratorios de frontera de EE. UU.

      Eso no hace que el argumento sea incorrecto. Significa que la persona que lo presenta se beneficia de él, lo cual es cierto para casi todos en este debate.

      El caso que está presentando

      El argumento de seguridad de código abierto no es marginal. Su lógica es que muchos ojos independientes sobre un sistema encuentran fallos más rápido que un pequeño equipo detrás de una pared.

      Los defensores hacen el mismo punto. Cuando Washington restringió un modelo de frontera, 100 expertos en ciberseguridad firmaron una carta abierta argumentando que la prohibición perjudicaba más a los defensores que a los atacantes.

      Los atacantes, argumentaron, obtendrán modelos capaces independientemente. Las personas excluidas son los investigadores y equipos de seguridad que intentan mantenerse al día.

      El caso en contra

      El campamento cerrado tiene una respuesta sencilla. Un modelo de peso abierto no puede ser retirado, parcheado o apagado una vez que se descarga.

      Publicar capacidades de frontera significa publicarlas para todos, incluidos aquellos que construyen armas biológicas o ciberataques a escala industrial. Las salvaguardias entrenadas en un modelo pueden ser eliminadas por cualquiera que tenga los pesos y un presupuesto modesto.

      Ambas partes están describiendo riesgos reales. El desacuerdo es sobre cuál riesgo es mayor, y aún no hay una respuesta empírica clara.

      Por qué importa ahora

      Zhipu ya no es una curiosidad. Ha recaudado miles de millones, está listado en Hong Kong y su venta de acciones atrajo una gran demanda de inversores que apuestan a que la IA china llena el vacío dejado por los modelos restringidos de EE. UU.

      Así que la pregunta ya no es académica. Si China restringe sus modelos abiertos, la principal fuente mundial de IA de clase frontera se cierra al mismo tiempo que la de América.

      Tang está argumentando en contra de ese resultado desde dentro del país que probablemente lo cause. Si alguien en Beijing está escuchando es la parte que no puede controlar.