Synthesia collabora con Cinder per scalare la moderazione prima che un fotogramma venga renderizzato.

      L'azienda di video AI sta aggiungendo un'infrastruttura di moderazione costruita per contenuti generati dall'AI, raddoppiando su un modello di screening al momento della creazione che ha gestito dal 2017.

      Synthesia decide se un video è consentito prima che esista. L'azienda di video AI di Londra, che consente agli utenti di generare clip guidate da avatar a partire da un copione, ha annunciato il 4 giugno che sta estendendo il suo stack di fiducia e sicurezza collaborando con Cinder, un'azienda di infrastruttura di moderazione costruita per contenuti generati dall'AI. L'accordo rafforza un modello che Synthesia ha gestito sin dai suoi primi giorni: giudicare la richiesta, non il file finito.

      Quell'ordinamento è la parte distintiva. Il default per le piattaforme online è stato a lungo la rilevazione dopo il fatto, ospitando contenuti e aspettando che venissero segnalati. Synthesia valuta ogni copione rispetto alle sue politiche al momento della generazione, prima che il modello renda un fotogramma.

      Cinder si inserisce in quel flusso di lavoro come ciò che l'azienda descrive come un agente interno che effettua un secondo passaggio su ogni decisione del modello, raccogliendo contesto e escalando a un revisore umano solo quando c'è una vera chiamata di giudizio. Ogni azione del revisore riaddestra il sistema, e i classificatori di Cinder supportano più di 100 lingue out of the box.

      Il 💜 della tecnologia dell'UE Le ultime novità dalla scena tecnologica dell'UE, una storia dal nostro saggio fondatore Boris e alcune opere d'arte AI discutibili. È gratuito, ogni settimana, nella tua casella di posta. Iscriviti ora! Il caso per la partnership è il volume. Nel 2025, gli strumenti automatizzati di Synthesia hanno esaminato più di 11,5 milioni di contenuti e rimosso 841.957 che violavano le sue politiche, con la revisione manuale che gestiva ulteriori 382.792 elementi e rimuoveva 70.272.

      Il volume della revisione automatizzata è cresciuto di circa il 77% anno su anno, passando da 6,56 milioni di elementi a 11,58 milioni, mentre i contenuti che raggiungevano i revisori umani sono diminuiti da 792.586 a 441.086. Il modello è deliberato: spingere i casi ovvi verso le macchine e riservare le persone per appelli e ambiguità. L'azienda ha elaborato 12.450 appelli da parte degli utenti nel 2025, ribaltando circa il 31% in revisione.

      Synthesia inquadra la sicurezza come un bene commerciale piuttosto che un costo. I suoi clienti sono per lo più aziende, inclusi più del 60% delle Fortune 100 nei servizi finanziari, nella sanità, nella difesa e nel settore pubblico, acquirenti per i quali una piattaforma che può essere trasformata in un motore di deepfake è inutilizzabile. L'azienda detiene le certificazioni ISO 27001, ISO 42001 e ISO 27701, e pubblica un rapporto annuale sulla creazione responsabile che chiama Futuresafe.

      Un recente test esterno ha dato al discorso un vantaggio concreto. Quando il broadcaster pubblico belga RTBF ha indagato sugli strumenti video AI per un rapporto intitolato IA, la fabrique à arnaques (AI, la fabbrica delle truffe), Synthesia ha bloccato la creazione di deepfake non consensuali, propaganda politica, contenuti razzisti e truffe sugli investimenti in criptovalute, mentre diverse piattaforme rivali hanno generato tutti questi contenuti.

      Per un'azienda che ha costruito la sua posizione aziendale rifiutando determinati input, un broadcaster indipendente che documenta il rifiuto è il tipo di convalida che il marketing non può comprare.

      Il legame con Cinder è, secondo quanto racconta l'azienda, mantenere quel record intatto mentre il prodotto accelera. Man mano che Synthesia lancia nuovi tipi di avatar, lingue e superfici, il suo team di fiducia e sicurezza desidera una moderazione che si muova al passo con la tabella di marcia piuttosto che rimanere indietro.

      Se il sistema combinato reggerà sotto la scala che Synthesia sta puntando è una domanda a cui solo i futuri rapporti Futuresafe risponderanno. La scommessa sottostante all'annuncio è più vecchia della partnership: che nel video AI, il momento più sicuro per dire di no è prima che venga realizzato qualcosa.