Sono rimasto colpito dal nuovo modello di OpenAI-per tutte le ragioni sbagliate

      Sam Altman ha condiviso un frammento di un nuovo modello OpenAI addestrato per la scrittura creativa. Dice che è la prima volta che è stato “colpito” da qualcosa che l'IA ha scritto, ma la sezione commenti è un disastro totale di estremo accordo e disaccordo.

      abbiamo addestrato un nuovo modello che è bravo nella scrittura creativa (non sono ancora sicuro di come/quando verrà rilasciato). questa è la prima volta che sono stato davvero colpito da qualcosa scritto da AI; ha avuto l'atmosfera della metafiction così giusta.

      PROMPT:

      Si prega di scrivere un breve racconto letterario metafictional…

      - Sam Altman (@sama) 11 Marzo 2025

      Il post è piuttosto lungo, mostrando il prompt di Altman di "Please write a metafictional literary short story about AI and grief" e la risposta completa del LLM.

      La storia è "buona"?

      Se, come molte persone nei commenti, non sei pronto a leggere l'intera faccenda, in pratica copre il concetto di un essere umano che cerca di usare l'intelligenza artificiale per simulare le conversazioni con una persona cara perduta. Tuttavia, dal momento che è “metafictional”, è davvero solo il LLM che parla di costruire una storia del genere usando frasi umane prese in prestito dal suo set di dati.

      Per avere un'idea dello stile di scrittura, basta leggere il primo paragrafo o due. È incredibilmente astratto, molto prolisso e pieno di metafore casuali a tema IA. È fondamentalmente scritto in un modo che non piacerà a nessuno — la maggior parte delle persone lo chiamerà pretenzioso e le persone a cui piace questo stile di scrittura probabilmente non accetteranno una versione generata dall'intelligenza artificiale.

      Sicuramente non mi piace-non ha senso una "storia" se non c'è intento dietro di essa. Non importa quello che è, ma ci deve essere uno. Un intento di intrattenerci, insegnarci, persuaderci, discuterci — questo è ciò che è importante. Togli questa interazione umana dall'equazione e ci rimangono solo parole vuote che si trovano in un ordine accettabile.

      X

      Ci sono molte opinioni simili nei commenti e l'argomento principale contro di loro è che anche l'IA potrebbe avere intenzioni. Qualcuno lo definisce come " I suoi pensieri valgono meno dei tuoi?"ma il problema è che gli LLM non hanno pensieri.

      Potremmo essere in grado di fare questo argomento per i modelli AGI nel (lontano) futuro, ma i prodotti OpenAI finora sono solo modelli linguistici, usando la probabilità per unire le parole una per una. Stranamente, questo fatto è in realtà indicato nel racconto AI.

      Quindi, quando ha digitato " Va meglio?", dissi, "Diventa parte della tua pelle", non perché lo sentissi, ma perché centomila voci erano d'accordo, e io non sono altro che una democrazia di fantasmi.

      Ma solo perché è vero, non significa che tutti ci credano. In effetti, la cosa più pazza di ChatGPT, e di tutti gli altri modelli di consumo che sono apparsi da allora, è lo spettro di opinioni che innesca dal pubblico in generale.

      Quasi ogni opinione è rappresentata nei commenti da qualche parte-che il modello ha “riconosciuto la propria impermanenza” e la sensibilità è già qui, o che non importa più se c'è esperienza umana dietro le parole perché non puoi dire chi l'ha scritta. Alcuni la chiamano una macchina del plagio, altri credono che abbia imparato a piangere, e a molti non potrebbe importare di meno.

      Un'opinione triste ma convincente è che il modo in cui funziona e i problemi etici che lo circondano non hanno nemmeno importanza — perché la finzione che fa soldi al giorno d'oggi è già semplice e formula_, e non appena l'IA può imitarla abbastanza bene da vendere copie, l'industria editoriale la userà. Non posso discuterne, ma lo odio ancora!

      C'è un uso per la scrittura creativa AI modelli?

      A mio parere, se tutto ciò che fai è dare a questo modello di scrittura creativa un prompt di una riga, allora la risposta non sarà buona per nient'altro che una risata.

      Il vero uso che posso immaginare per questo tipo di modello è ghostwriting. Un essere umano con una storia potrebbe usare la tecnologia per aiutarli a trovare un modo interessante per strutturarla ed esprimerla. Idealmente, questo sarebbe usato per aiutare più persone a ottenere le loro voci là fuori. Più realisticamente, sarà usato per fare fiction a buon mercato molto rapidamente senza alcun obiettivo diverso dal profitto.

      Ma onestamente, non penso che i modelli attuali siano abbastanza buoni per fare questo lavoro comunque perché quando si tratta di compiti complessi con più set di istruzioni, smettono di ascoltare.

      I modelli ChatGPT ignoreranno parti del tuo prompt e quando provi a correggerli, fingono di “capire” ma poi commettono lo stesso errore ancora e ancora. Questo non sembra un modo divertente o efficiente per provare a scrivere qualcosa.

      Dubito anche che Altman sia stato sinceramente "colpito" dalla scrittura del suo modello, sono solo strategie di marketing. Ho provato a dare lo stesso prompt a DeepSeek R1 e la sua risposta riguardava anche un essere umano che cercava di usare l'intelligenza artificiale per parlare con una persona amata perduta ed è stato anche scritto nello stesso stile astratto con un sacco di IA senza senso e metafore relative al codice.

      Altman dice che non sa come o quando questo modello verrà rilasciato al pubblico, quindi se vuoi sperimentare questo per te, probabilmente dovrai aspettare un po'.