Roblox теперь использует ИИ-модерацию, чтобы блокировать вредоносный контент до того, как он дойдет до вас.

Roblox теперь использует ИИ-модерацию, чтобы блокировать вредоносный контент до того, как он дойдет до вас.

      Roblox усиливает свою безопасность с помощью новой системы модерации на основе ИИ

      Если вы когда-либо играли в Roblox, вы знаете, насколько дикой и непредсказуемой может быть эта платформа. Теперь Roblox использует эту непредсказуемость как повод для полной переработки своей модерации контента.

      Платформа только что запустила систему модерации на основе ИИ в реальном времени, которая не просто проверяет отдельные случаи, но и сканирует целые игровые сцены в реальном времени, чтобы поймать контент, который прошел через предыдущие фильтры.

      Как работает новая система модерации ИИ Roblox?

      В отличие от старых инструментов модерации, которые оценивают один объект за раз, новая многомодальная система оценивает всю сцену, включая аватары, текст и 3D-объекты, чтобы определить, нарушает ли полная комбинация Стандарты сообщества Roblox.

      Например, представьте, что кто-то использует инструмент свободного рисования, чтобы нарисовать оскорбительный символ — тот, который не вызовет проверку отдельного элемента, но явно является проблемой в контексте.

      Когда в одном игровом экземпляре обнаруживаются повторяющиеся нарушения, система отключает только этот сервер, а не всю игру. С момента запуска примерно 5000 серверов отключаются каждый день.

      Roblox стремится к мониторингу 100% игрового времени с помощью этой системы. Кроме отключения серверов, она также разрабатывает инструменты для идентификации и удаления отдельных плохих актеров, не портя при этом опыт для всех остальных.

      Что это значит для создателей Roblox?

      Создатели тоже не остаются в неведении. Новая диаграмма внутри существующей панели управления создателей теперь показывает, сколько ваших игровых серверов было отключено в любой данный день из-за плохого поведения пользователей.

      Рост этого числа может сигнализировать о проблеме, требующей расследования, давая создателям возможность пересмотреть и скорректировать такие вещи, как пользовательские эмоции или инструменты для строительства в игре, прежде чем ситуация ухудшится.

      Новая программа сертификации для очистки онлайн-игр

      Roblox также решает более широкую проблему в индустрии. Вместе с Keyword Studios и Riot Games она совместно разрабатывает Программу лидерства DLC для онлайн-менеджеров сообществ и модераторов.

      Исследователь-психолог Рэйчел Ковер, которая является директором исследований в Games for Change, возглавляет академическую сторону. Цель состоит в том, чтобы создать стандартизированное, основанное на доказательствах обучение для людей, управляющих игровыми сообществами, чего индустрия никогда не имела ранее.

      Roblox также уже некоторое время усиливает свою сеть безопасности, от родительских контролей до фильтров чата по возрасту, и последнее обновление является самым амбициозным шагом на сегодняшний день.

Roblox теперь использует ИИ-модерацию, чтобы блокировать вредоносный контент до того, как он дойдет до вас. Roblox теперь использует ИИ-модерацию, чтобы блокировать вредоносный контент до того, как он дойдет до вас. Roblox теперь использует ИИ-модерацию, чтобы блокировать вредоносный контент до того, как он дойдет до вас. Roblox теперь использует ИИ-модерацию, чтобы блокировать вредоносный контент до того, как он дойдет до вас. Roblox теперь использует ИИ-модерацию, чтобы блокировать вредоносный контент до того, как он дойдет до вас. Roblox теперь использует ИИ-модерацию, чтобы блокировать вредоносный контент до того, как он дойдет до вас. Roblox теперь использует ИИ-модерацию, чтобы блокировать вредоносный контент до того, как он дойдет до вас.

Другие статьи

Технология аккумуляторов, которая хранит более 9 раз больше энергии, уже здесь, и она идеально подходит для ваших гаджетов. Технология аккумуляторов, которая хранит более 9 раз больше энергии, уже здесь, и она идеально подходит для ваших гаджетов. Исследователи разработали новый дизайн кремний-углеродной батареи, которая может хранить до девяти раз больше энергии, оставаясь при этом стабильной со временем. Эксперимент PUBG с видом сверху завершился, прежде чем он действительно начался Эксперимент PUBG с видом сверху завершился, прежде чем он действительно начался PUBG: Blindspot с его необычным тактическим видом сверху завоевал часть своей аудитории, но игра все равно закрывается, прежде чем она успеет выйти в полноценный релиз. ScaleOps привлекла 130 миллионов долларов при оценке более 800 миллионов долларов ScaleOps привлекла 130 миллионов долларов при оценке более 800 миллионов долларов ScaleOps привлекла 130 миллионов долларов при оценке более 800 миллионов долларов, возглавляемой Insight Partners, для автономного управления инфраструктурой Kubernetes и ИИ. Эксперты Стэнфорда говорят, что вам следует избегать использования ИИ-чатботов в качестве личного гида. Эксперты Стэнфорда говорят, что вам следует избегать использования ИИ-чатботов в качестве личного гида. Исследователи Стэнфорда обнаружили, что AI-чатботы часто укрепляют взгляды пользователей в личных конфликтах, заставляя людей быть более уверенными в своей правоте, при этом снижая эмпатию, что вызывает опасения по поводу полагания на AI в качестве руководства для реальных решений. Судья отклонил антимонопольный иск X против рекламодателей с предвзятостью. Судья отклонил антимонопольный иск X против рекламодателей с предвзятостью. Судья США постановил, что X не смогла представить действительное антимонопольное обвинение против рекламодателей, включая Mars, Unilever и Nestlé, что запрещает компании повторно подавать иск. Китайские технологические компании переходят в Гонконг на фоне ужесточения барьеров со стороны США и ЕС Китайские технологические компании переходят в Гонконг на фоне ужесточения барьеров со стороны США и ЕС Листинги материкового Китая на Гонконгской фондовой бирже выросли на 153% в 2025 году. По мере сужения западных рынков Гонконг становится стартовой площадкой для технологий Китая.

Roblox теперь использует ИИ-модерацию, чтобы блокировать вредоносный контент до того, как он дойдет до вас.

Новая система модерации AI в Roblox сканирует целые игровые сцены в реальном времени, выявляя вредоносный контент, который большинство старых систем полностью пропустили бы, и уже закрывает 5,000 серверов ежедневно.