LinkedIn intensifica il controllo sull'AI scadente con un'accuratezza di rilevamento del 94%

      TL;DRLinkedIn sta intensificando il controllo sui "contenuti scadenti" generati dall'IA sopprimendo i post generici dalle raccomandazioni piuttosto che rimuoverli. La piattaforma afferma di avere un'accuratezza di rilevamento del 94% nei primi test, ma non ha condiviso dati sui falsi positivi.

      Se il tuo feed di LinkedIn ti è sembrato scritto da una sola persona con 10 milioni di account, non stai immaginando cose. La piattaforma è diventata un terreno fertile per post generati dall'IA che non dicono nulla ma suonano vagamente ispiratori. Ora LinkedIn afferma di fare qualcosa al riguardo.

      L'azienda ha annunciato cambiamenti che mireranno a ciò che chiama "contenuti scadenti generati dall'IA", contenuti a basso sforzo, generati dall'IA che possono sembrare rifiniti ma offrono poco pensiero originale o competenza. La VP del Prodotto Laura Lorenzetti ha dichiarato che la piattaforma sta costruendo sistemi di rilevamento addestrati a distinguere tra post che aggiungono una prospettiva genuina e post che sembrano ripetitivi, generici e vuoti.

      Nei primi test, LinkedIn afferma che il suo sistema ha correttamente segnalato contenuti generici nel 94% dei casi. I post segnalati non verranno rimossi. Invece, saranno soppressi dalle raccomandazioni, il che significa che saranno ancora visibili alle connessioni dirette di un poster ma non si diffonderanno più nel feed più ampio.

      I bersagli sono specifici. LinkedIn sta puntando a contenuti di engagement esplicito, "leadership di pensiero" riciclata che manca di originalità e post con evidenti schemi di costruzione dell'IA. L'azienda ha evidenziato il formato "non è X, è Y" come un esempio del tipo di contenuto formulaico generato dall'IA che intende declassare.

      Il 💜 della tecnologia dell'UE

      Le ultime novità dalla scena tecnologica dell'UE, una storia del nostro saggio fondatore Boris e alcune opere d'arte IA discutibili. È gratuito, ogni settimana, nella tua casella di posta. Iscriviti ora!

      La stretta si estende anche ai commenti. LinkedIn mirerà a commenti generati da bot e commenti generici dell'IA che non aggiungono nulla a una conversazione, quelli che sembrano un riassunto di ChatGPT del post a cui stanno rispondendo. La piattaforma sta anche puntando a strumenti di automazione che generano contenuti IA su larga scala.

      Tuttavia, viene tracciata una linea deliberata. LinkedIn afferma che i contenuti assistiti dall'IA sono ancora benvenuti, a patto che contengano idee originali o incoraggino conversazioni significative. Il messaggio non è "smetti di usare l'IA". È "smetti di lasciare che l'IA faccia tutto il pensiero per te".

      Quella distinzione sarà difficile da applicare in modo coerente. L'affermazione di LinkedIn sull'accuratezza del 94% suona impressionante, ma l'azienda non ha condiviso dati sui falsi positivi. Quanto spesso i post legittimi vengano erroneamente segnalati come scadenti è un mistero. E la piattaforma non ha detto quanto velocemente avverrà il rollout, notando solo che potrebbero volerci diversi mesi prima che gli utenti vedano meno materiale IA di bassa qualità nei loro feed.

      La mossa arriva mentre il rilevamento di contenuti generati dall'IA sta diventando una priorità in tutta l'industria tecnologica. OpenAI ha recentemente adottato i metadati C2PA e i watermark SynthID per le sue uscite di immagini. ByteDance ha aggiunto watermarking e guardrail IP a Seedance 2.0. Ma il testo è molto più difficile da identificare rispetto alle immagini, e l'approccio di LinkedIn, che utilizza segnali comportamentali e schemi stilistici piuttosto che watermark, è intrinsecamente più sfocato.

      L'ironia è difficile da ignorare. LinkedIn è di proprietà di Microsoft, e Microsoft è uno dei maggiori investitori in OpenAI, l'azienda i cui strumenti producono gran parte dei contenuti che LinkedIn ora vuole sopprimere. La piattaforma offre anche il proprio assistente alla scrittura IA, che genera automaticamente bozze di post e suggerimenti per i commenti. In effetti, sta costruendo sia il tubo dell'incendio che il filtro allo stesso tempo.

      Tuttavia, la moderazione dei contenuti alimentata dall'IA deve iniziare da qualche parte. Il problema del feed di LinkedIn è reale e sta peggiorando. Se la soppressione funziona, altre piattaforme seguiranno. Se non funziona, l'azienda avrà ammesso pubblicamente che il suo feed è stato danneggiato dall'IA senza riuscire a ripararlo.