Synthesia сотрудничает с Cinder для масштабирования модерации до рендеринга кадра

      Компания AI-видео добавляет инфраструктуру модерации, созданную для контента, сгенерированного ИИ, удваивая усилия по модели экрана на этапе создания, которую она использует с 2017 года.

      Synthesia решает, разрешено ли видео, прежде чем оно существует. Лондонская компания AI-видео, которая позволяет пользователям генерировать клипы с аватарами по сценарию, объявила 4 июня, что расширяет свою систему доверия и безопасности, сотрудничая с Cinder, фирмой по модерации инфраструктуры, созданной для контента, сгенерированного ИИ. Сделка укрепляет модель, которую Synthesia использует с первых дней: оценивать запрос, а не готовый файл.

      Этот порядок является отличительной чертой. По умолчанию для онлайн-платформ долгое время использовалось обнаружение фактов после их появления, размещение контента и ожидание его пометки. Synthesia оценивает каждый сценарий в соответствии со своими политиками на этапе генерации, прежде чем модель создаст кадр.

      Cinder вписывается в этот рабочий процесс как то, что компания описывает как внутреннего агента, который делает второй проход по каждому решению модели, собирая контекст и передавая на рассмотрение человеку только тогда, когда требуется действительно субъективное решение. Каждое действие рецензента переобучает систему, а классификаторы Cinder поддерживают более 100 языков из коробки.

      💜 технологий ЕС Последние новости из технологической сцены ЕС, история от нашего мудрого основателя Бориса и несколько сомнительных произведений ИИ-искусства. Это бесплатно, каждую неделю, в вашем почтовом ящике. Подпишитесь сейчас!

      Аргумент в пользу партнерства — объем. В 2025 году автоматизированные инструменты Synthesia проверили более 11,5 миллиона единиц контента и удалили 841 957, которые нарушали ее политики, при этом ручная проверка обработала еще 382 792 элемента и удалила 70 272.

      Объем автоматизированной проверки вырос примерно на 77% по сравнению с предыдущим годом, с 6,56 миллиона единиц до 11,58 миллиона, в то время как контент, достигший человеческих рецензентов, упал с 792 586 до 441 086. Шаблон является преднамеренным: передавать очевидные случаи машинам и оставлять людей для апелляций и неоднозначности. Компания обработала 12 450 пользовательских апелляций в 2025 году, отменив около 31% по результатам проверки.

      Synthesia рассматривает безопасность как коммерческий актив, а не как расход. Ее клиенты в основном представляют собой предприятия, включая более 60% из списка Fortune 100 в области финансовых услуг, здравоохранения, обороны и государственного сектора, для которых платформа, которую можно превратить в движок дипфейков, непригодна. Компания имеет сертификаты ISO 27001, ISO 42001 и ISO 27701 и публикует ежегодный отчет о ответственном создании, который она называет Futuresafe.

      Недавний внешний тест придал аргументу конкретную остроту. Когда бельгийский государственный вещатель RTBF исследовал инструменты AI-видео для отчета под названием IA, la fabrique à arnaques (ИИ, фабрика мошенничества), Synthesia заблокировала создание неконсенсуальных дипфейков, политической пропаганды, расистского контента и мошенничества с криптоинвестициями, в то время как несколько конкурирующих платформ создали все эти материалы.

      Для компании, которая построила свое позиционирование на отказе от определенных запросов, независимый вещатель, документирующий этот отказ, является тем видом валидации, которую маркетинг не может купить.

      Сотрудничество с Cinder, по словам компании, направлено на сохранение этой записи в целостности по мере ускорения продукта. Поскольку Synthesia выпускает новые типы аватаров, языки и поверхности, ее команда по доверию и безопасности хочет модерацию, которая движется в темпе дорожной карты, а не отстает от нее.

      Сможет ли комбинированная система выдержать масштаб, на который нацелена Synthesia, — вопрос, на который ответят только ее будущие отчеты Futuresafe. Ставка, лежащая в основе объявления, старше самого партнерства: в AI-видео самый безопасный момент сказать «нет» — это до того, как что-либо будет создано.