Questo progetto GitHub vuole rimuovere i watermark dell'IA dai tuoi contenuti, e le cose si stanno facendo interessanti.

      Le aziende di intelligenza artificiale stanno cercando sempre più modi per contrassegnare i contenuti generati dai loro modelli. Ora, qualcuno ha costruito uno strumento open-source progettato per rimuovere alcuni di quei contrassegni.

      Un progetto su GitHub chiamato watermarks-remover è progettato per rimuovere diversi tipi di segnali di provenienza dell'IA da testi e file. Secondo la sua documentazione, può lavorare con caratteri Unicode invisibili, filigrane testuali statistiche e metadati incorporati in formati tra cui PNG, JPEG, SVG, PDF, DOCX, ODT, HTML e Markdown.

      Sembra semplice fino a quando non si guarda a come funzionano effettivamente alcune di queste filigrane. Un tag di metadati può essere rimosso relativamente facilmente. Una filigrana statistica incorporata nel modo in cui un modello di IA sceglie le parole è un'altra questione del tutto diversa. Ed è qui che questo progetto diventa interessante.

      Alcune filigrane dell'IA sono sepolte nel modo in cui scrivi

      Il progetto separa il suo approccio in diversi livelli. Uno si concentra su segnali basati su modifiche come caratteri Unicode insoliti, mentre un altro si concentra su schemi statistici nel testo generato. Un livello di pulizia separato si occupa delle informazioni di provenienza del file come C2PA, EXIF, XMP e proprietà del documento.

      L'ultima versione 0.3.1 rende il lato della riscrittura del testo più aggressivo. Invece di semplicemente scambiare alcune parole, lo strumento può cambiare la struttura della frase, le scelte di parole, le transizioni e altri schemi nel tentativo di interrompere la filigrana statistica. Include anche opzioni destinate a rendere il testo riscritto più naturale.

      C'è però un evidente problema. Riscrivere il testo per rimuovere una filigrana statistica può anche cambiare il testo stesso. La documentazione del progetto ammette che questo processo può influenzare il tono, la voce e la precisione, in particolare quando una grande parte della formulazione originale deve essere cambiata.

      Quindi non è esattamente l'equivalente digitale di premere "rimuovi filigrana" in un editor di immagini.

      Gli sviluppatori non affermano che questo ingannerà ogni rilevatore di IA

      Infatti, il progetto è piuttosto chiaro riguardo ai suoi limiti. Descrive il processo di riscrittura come un tentativo migliore e afferma che non può garantire che il sistema di rilevamento di un particolare fornitore fallirà. Alcuni segnali possono anche rimanere dopo il processo di pulizia.

      Questo è importante perché non esiste una filigrana universale dell'IA nascosta in ogni pezzo di contenuto generato. Diverse aziende e sistemi possono utilizzare approcci diversi, e il progetto stesso divide quei segnali in diverse categorie.

      Il repository afferma anche che il suo scopo è la privacy e la ricerca, piuttosto che aiutare le persone a rivendicare falsamente che il lavoro generato dall'IA sia stato scritto interamente da un umano.

      Per ora, watermarks-remover è meglio compreso come un segno di dove sta andando l'industria dell'IA. Le aziende stanno cercando modi per stabilire la provenienza e identificare il materiale generato dall'IA, mentre gli sviluppatori stanno già esplorando come quei segnali possano essere rimossi o interrotti.

      La parte interessante non è se questo particolare progetto su GitHub possa battere ogni rilevatore di IA. Probabilmente non può. La parte interessante è che il watermarking dell'IA sta già diventando un gioco del gatto e del topo, e siamo ancora molto all'inizio.