Gli strumenti di cheating basati sull'IA stanno vincendo. La rilevazione non è il punto.

      I video sono ovunque e l'offerta è sempre la stessa. Lascia che l'IA faccia i tuoi compiti e non verrai beccato. Secondo un'inchiesta del New York Times, TikTok e YouTube sono ora pieni di tutorial che vendono agli studenti due tipi di strumenti. I "humanisers" riscrivono il testo generato dall'IA in modo che non sembri più un chatbot. Gli "autotypers" fanno qualcosa di più subdolo: inseriscono le parole in un documento nel corso di ore, simulando errori di battitura, cancellazioni e modifiche affinché un saggio finito sembri una vera sessione di scrittura. Entrambi sono progettati per sconfiggere il software che gli insegnanti usano per catturare l'IA. Le stesse aziende vendono la malattia e la cura. Ecco la parte scomoda. Alcune delle aziende che vendono strumenti di rilevamento vendono anche gli strumenti che li superano. Grammarly, ora di proprietà di Superhuman, offre agli insegnanti un controllore di "autorialità" che esamina la cronologia di un documento per segni di IA. La stessa app genererà anche testo da zero, lo "umanizzerà" e riscriverà frasi che potrebbero far scattare un rilevatore. GPTZero, un rilevatore nato come tesi di Princeton, può anche scrivere un intero documento, completo di citazioni, in pochi secondi. Il NYT ha scoperto che un marketer aveva creato una falsa persona di assistente didattico su TikTok per spingerla agli studenti. Jenny Maxwell, che gestisce l'istruzione presso Superhuman, è stata schietta su dove porta tutto ciò. La corsa tra rilevamento ed evasione è, ha detto, "in ultima analisi, un vicolo cieco." Il suo riassunto: "Gatto più grande, topo più grande." I rilevatori funzionano a malapena comunque. Ha ragione, perché i gatti non sono molto bravi. I ricercatori dell'Università della Florida hanno testato i cinque rilevatori di testo IA più popolari e hanno trovato tassi di falsi negativi fino al 99,6%, con una singola modifica del vocabolario sufficiente a sconfiggere la maggior parte di essi, ha riportato Digital Trends. Gli strumenti producono anche falsi positivi, contrassegnando in modo sproporzionato i parlanti non nativi di inglese. Quindi le scuole che disciplinano gli studenti sulla base di ciò che dice un rilevatore stanno camminando su un ghiaccio molto sottile. La tecnologia di cui si fidano è, per ammissione dei suoi creatori, perdente. Dagli esami orali ai blackout di internet. Di fronte a ciò, le istituzioni stanno improvvisando, e le risposte vanno dal sensato all'estremo. All'estremità calma, i professori di Harvard si stanno concentrando di più sugli esami orali e su quelli su carta, che un chatbot non può sostenere per te. All'altra estremità c'è la coercizione. Per fermare il plagio nel suo esame di ammissione alla scuola di medicina nazionale, l'India ha ordinato il blocco di Telegram per diversi giorni, ha riportato The Register, dopo che il test è stato annullato e riprogrammato a seguito di una sospetta fuga di notizie. Più di due milioni di persone sostengono quell'esame per circa 100.000 posti. I gruppi per i diritti digitali hanno definito la chiusura sproporzionata, ed è parte di un modello più ampio di governi che reprimono l'uso improprio dell'IA con strumenti molto blunt. Il numero è sempre stato il problema. Fai un passo indietro e il panico da plagio sembra un sintomo di qualcosa di più antico. La scuola ha trasformato l'apprendimento in un singolo numero, il voto, molto tempo fa. Il filosofo C. Thi Nguyen chiama questo "cattura del valore": adotti una metrica esterna, poi la lasci silenziosamente sostituire la cosa che era destinata a misurare. Nel suo libro "The Score", recensito questa settimana da MIT Technology Review, indica il GPA come il caso classico. Gli studenti smettono di inseguire la comprensione e iniziano a inseguire il voto. È la Legge di Goodhart in uno zaino: quando una misura diventa un obiettivo, smette di essere una buona misura. L'IA è solo l'ottimizzatore più efficiente mai inventato per quell'obiettivo. Se il punto del saggio è il punteggio, non il pensiero, allora delegare il pensiero è la mossa razionale, anche se gli studi avvertono che questo tipo di delega cognitiva lascia appassire le vere abilità. Un pedale dell'acceleratore, nessun freno. Anche le persone che costruiscono questa tecnologia sono a disagio. Il co-fondatore di Anthropic, Jack Clark, ha detto alla BBC che l'industria "ha un pedale dell'acceleratore, ma non ha un pedale del freno", e ha notato che il modello stesso di Anthropic ora scrive la maggior parte del suo codice. La sua azienda ha chiesto un freno coordinato sull'IA di frontiera. Maxwell, dall'altra parte, sostiene che negare l'IA agli studenti è "malpractice educativa", poiché la utilizzeranno al lavoro indipendentemente. Entrambe le cose possono essere vere. La corsa agli armamenti del rilevamento non può essere vinta e il rilevamento non è mai stata la vera domanda. Quella più difficile, quella che le scuole hanno schivato per un secolo, è a cosa serve realmente il voto. L'IA non ha creato quel problema. Ha solo reso impossibile continuare a ignorarlo. Fino a quando qualcuno non risponderà, il gatto più grande continuerà a inseguire il topo più grande e il topo continuerà a vincere.