Máquinas Pensantes Inkling: el primer modelo de peso abierto de Murati

      “Creemos en mantener la rareza viva.” Esa línea proviene de un manifiesto que el laboratorio de Mira Murati publicó la semana pasada. También es el pensamiento detrás del primer modelo del laboratorio.

      Thinking Machines Lab, fundado por el ex director de tecnología de OpenAI, ha lanzado Inkling. Es de peso abierto, por lo que cualquier desarrollador o empresa puede descargar el modelo y remodelarlo. Eso por sí solo lo distingue de los modelos insignia vendidos por OpenAI, Anthropic y Google.

      Inkling es grande. Es un sistema de mezcla de expertos con 975 mil millones de parámetros en total, aunque solo utiliza alrededor de 41 mil millones para cualquier tarea dada. Maneja una ventana de contexto de hasta 1 millón de tokens, y se entrenó con 45 billones de tokens de texto, imágenes, audio y video. Razonando a través de texto, imágenes y audio, pero por ahora solo devuelve texto, incluyendo código y datos estructurados.

      Un modelo que admite que no es el mejor

      Aquí está el giro. Thinking Machines no afirma que Inkling esté en la cima de las listas. Sus propios materiales lo llaman “no el modelo más fuerte disponible hoy, cerrado o abierto.”

      El 💜 de la tecnología de la UE Las últimas novedades de la escena tecnológica de la UE, una historia de nuestro sabio fundador Boris, y un arte de IA cuestionable. Es gratis, cada semana, en tu bandeja de entrada. ¡Inscríbete ahora! El laboratorio está persiguiendo algo más: rango y adaptabilidad. Inkling de Thinking Machines está destinado a ser una base amplia y equilibrada que las organizaciones ajustan para su propio trabajo, no un chatbot terminado. Los usuarios pueden ajustar su “esfuerzo de pensamiento” hacia arriba o hacia abajo para intercambiar precisión por velocidad. En una prueba de codificación, dice la empresa, Inkling iguala al Nemotron 3 Ultra de Nvidia utilizando un tercio de tokens.

      El laboratorio también presentó un modelo más ligero, Inkling-Small, con 12 mil millones de parámetros activos. Se adapta a trabajos donde el costo y la velocidad son lo más importante.

      La apuesta: moldearlo tú mismo

      Todo el lanzamiento se basa en una apuesta. La IA entrenada en un lugar y luego congelada, argumenta el laboratorio, pierde frente a la IA que cada organización puede moldear en torno a su propia experiencia. Los clientes ajustan Inkling a través de Tinker, la plataforma de personalización de Thinking Machines, y son dueños del resultado. También asumen el riesgo de seguridad de lo que construyan.

      El laboratorio señala un proyecto con el fondo de cobertura Bridgewater como prueba. Los dos entrenaron un modelo abierto con el conocimiento financiero de Bridgewater, y obtuvo un 84.7% en pruebas de razonamiento financiero, superando a los mejores modelos propietarios a una fracción del costo. Esa cifra proviene de la propia evaluación de las dos empresas, no de una independiente.

      El argumento está ganando compañía. Satya Nadella de Microsoft advirtió recientemente que las empresas que utilizan modelos cerrados pagan el doble, una vez en tarifas y otra al entregar el conocimiento incorporado en sus indicaciones. Los modelos de peso abierto baratos, muchos de China, tiran en la misma dirección.

      Nueve meses, con algo de ayuda prestada

      Thinking Machines está ansioso por enfatizar su velocidad. OpenAI tardó alrededor de cinco años en lanzar y ganar, y Anthropic aproximadamente tres, señaló TechCrunch. El laboratorio de Murati dice que lo hizo en aproximadamente nueve meses.

      Recortó algunas esquinas para llegar allí. Para comenzar el entrenamiento de Inkling, el laboratorio se apoyó en otros modelos abiertos, incluyendo el Kimi K2.5 de Moonshot, una práctica conocida como destilación. Su próximo modelo, insiste, se entrenará completamente por su cuenta. Inkling funcionó en los sistemas GB300 de Nvidia, parte de un acuerdo de marzo por un gigavatio de computación de Nvidia.

      El dinero y las personas han sido más complicados. El laboratorio recaudó $2 mil millones a una valoración de $12 mil millones el año pasado, y una ronda reportada de $50 mil millones se estancó. Dos cofundadores se fueron a principios de este año, aunque el número de empleados ha vuelto a alrededor de 200. Por ahora, Thinking Machines no cobrará nada por Inkling. Su dinero proviene de Tinker, y su caso se basa en que la rareza se mantenga.