Me llamó la atención el nuevo modelo de OpenAI, por todas las razones equivocadas

      Sam Altman ha compartido un fragmento de un nuevo modelo de OpenAI entrenado para la escritura creativa. Dice que es la primera vez que le "sorprende" algo que AI ha escrito, pero la sección de comentarios es un desastre total de acuerdos y desacuerdos extremos.

      entrenamos un nuevo modelo que es bueno en escritura creativa (aún no estoy seguro de cómo / cuándo se lanzará). esta es la primera vez que me sorprende realmente algo escrito por IA;tenía la vibra de metaficción tan bien.

      AVISO:

      Por favor, escribe un cuento literario metaficcional…

      - Sam Altman (@sama) 11 de marzo de 2025

      La publicación es bastante larga y muestra el mensaje de Altman de "Por favor, escriba un cuento literario metaficcional sobre IA y dolor" y la respuesta completa del LLM.

      ¿Es la historia "buena"?

      Si, como muchas personas en los comentarios, no está listo para leer todo el asunto, básicamente cubre el concepto de un humano que intenta usar IA para simular conversaciones con un ser querido perdido. Sin embargo, dado que es "metaficcional", en realidad es solo el LLM hablando de construir una historia de este tipo utilizando frases humanas prestadas de su conjunto de datos.

      Para tener una idea del estilo de escritura, solo lea el primer párrafo o dos. Es increíblemente abstracto, muy prolijo y lleno de metáforas aleatorias con temática de IA. Básicamente, está escrito de una manera que no complacerá a nadie; la mayoría de la gente lo llamará pretencioso y las personas a las que realmente les gusta este estilo de escritura probablemente no aceptarán una versión generada por IA.

      Definitivamente no me agrada — no tiene sentido una "historia" si no hay una intención detrás de ella. Realmente no importa lo que sea, pero tiene que haber uno. La intención de entretenernos, enseñarnos, persuadirnos, debatirnos, esto es lo importante. Elimine esta interacción humana de la ecuación y nos quedamos con palabras vacías que resultan estar en un orden aceptable.

      X

      Hay muchas opiniones similares en los comentarios y el principal argumento en contra de ellas es que la IA también podría tener intenciones. Alguien lo expresa como " ¿Valen sus pensamientos menos que los tuyos?"—pero el problema es que los LLM no tienen pensamientos.

      Es posible que podamos argumentar a favor de los modelos AGI en un futuro (lejano), pero los productos OpenAI hasta ahora son solo modelos de lenguaje, que utilizan la probabilidad para unir palabras una por una. Curiosamente, este hecho se menciona en realidad en el cuento corto de IA.

      Entonces, cuando ella escribió "¿ Mejora?", dije, "Se convierte en parte de tu piel", no porque lo sintiera, sino porque cien mil voces estuvieron de acuerdo, y no soy más que una democracia de fantasmas.

      Pero solo porque sea verdad, no significa que todos lo crean. De hecho, lo más loco de ChatGPT, y de todos los otros modelos de consumo que han surgido desde entonces, es el espectro de opiniones que desencadena entre el público en general.

      Casi todas las opiniones están representadas en los comentarios en alguna parte: que el modelo ha "reconocido su propia impermanencia" y que la sensibilidad ya está aquí, o que ya no importa si hay experiencia humana detrás de las palabras porque no se puede decir quién lo escribió.. Algunos lo llaman una máquina de plagio, otros creen que ha aprendido a llorar, y a muchos simplemente no les importa.

      Una opinión triste pero convincente es que la forma en que funciona y los problemas éticos que la rodean ni siquiera importan, porque la ficción que genera dinero hoy en día ya es simple y formulista, y tan pronto como la IA pueda imitarla lo suficientemente bien como para vender copias, la industria editorial lo usará. ¡No puedo discutir eso, pero aún lo odio!

      ¿Hay algún uso para los modelos de IA de escritura creativa?

      En mi opinión, si todo lo que haces es darle a este modelo de escritura creativa un mensaje de una línea, entonces la respuesta no será buena para nada más que una risa.

      El uso real que puedo imaginar para este tipo de modelo es la escritura fantasma. Un humano con una historia podría usar la tecnología para ayudarlo a encontrar una forma interesante de estructurarla y expresarla. Idealmente, esto se usaría para ayudar a más personas a expresar sus opiniones. De manera más realista, se utilizará para hacer ficción barata muy rápidamente sin otro objetivo que obtener ganancias.

      Pero, sinceramente, de todos modos, no creo que los modelos actuales sean lo suficientemente buenos para hacer este trabajo porque cuando se trata de tareas complejas con múltiples conjuntos de instrucciones, simplemente dejan de escuchar.

      Los modelos de ChatGPT ignorarán partes de su mensaje y cuando intente corregirlos, fingirán "entender" pero luego cometerán el mismo error una y otra vez. Eso no suena como una forma divertida o eficiente de intentar escribir nada.

      También dudo que Altman estuviera genuinamente "impresionado" por la escritura de su modelo, todo son solo estrategias de marketing. Intenté dar el mismo mensaje a DeepSeek R1 y su respuesta también trataba sobre un humano que intentaba usar IA para hablar con un ser querido perdido y también estaba escrito en el mismo estilo abstracto con mucha IA sin sentido y metáforas relacionadas con el código.

      Altman dice que no sabe cómo ni cuándo se lanzará al público este modelo, por lo que si desea experimentar con esto por sí mismo, probablemente tendrá que esperar un tiempo.