Roblox теперь использует ИИ-модерацию, чтобы закрывать вредоносный контент до того, как он дойдет до вас.

Roblox теперь использует ИИ-модерацию, чтобы закрывать вредоносный контент до того, как он дойдет до вас.

      Roblox усиливает безопасность с помощью новой системы модерации на основе ИИ

      Если вы когда-либо играли в Roblox, вы знаете, насколько дикой и непредсказуемой может быть эта платформа. Теперь Roblox использует эту непредсказуемость как повод для пересмотра своей модерации контента.

      Платформа только что внедрила систему модерации на основе ИИ в реальном времени, которая не просто проверяет отдельные случаи, но и сканирует целые игровые сцены в реальном времени, чтобы поймать контент, который прошел через предыдущие фильтры.

      Как работает новая система модерации на основе ИИ в Roblox?

      В отличие от старых инструментов модерации, которые оценивают один объект за раз, новая мультимодальная система оценивает всю сцену, включая аватары, текст и 3D-объекты, чтобы определить, нарушает ли полная комбинация Стандарты сообщества Roblox.

      Например, представьте себе человека, использующего инструмент свободного рисования для создания оскорбительного символа — такого, который не вызовет проверку отдельного элемента, но явно является проблемой в контексте.

      Когда в одном игровом экземпляре обнаруживаются повторные нарушения, система отключает только этот сервер, а не всю игру. С момента запуска примерно 5000 серверов отключаются каждый день.

      Roblox работает над тем, чтобы контролировать 100% игрового времени с помощью этой системы. Кроме отключения серверов, она также разрабатывает инструменты для идентификации и удаления отдельных плохих актеров, не портя при этом опыт для всех остальных.

      Что это значит для создателей Roblox?

      Создатели тоже не остаются в неведении. Новая диаграмма внутри существующей панели управления создателей теперь показывает, сколько ваших игровых серверов было отключено в любой данный день из-за плохого поведения пользователей.

      Рост этого числа может сигнализировать о проблеме, требующей расследования, давая создателям возможность пересмотреть и скорректировать такие вещи, как пользовательские эмоции или инструменты строительства в игре, прежде чем ситуация ухудшится.

      Новая программа сертификации для очистки онлайн-игр

      Roblox также решает более широкую проблему в индустрии. Вместе с Keyword Studios и Riot Games она совместно разрабатывает Программу лидерства DLC для онлайн-менеджеров сообществ и модераторов.

      Исследователь-психолог Рэйчел Коверт, которая является директором исследований в Games for Change, возглавляет академическую сторону. Цель состоит в том, чтобы создать стандартизированное, основанное на доказательствах обучение для людей, управляющих игровыми сообществами, чего индустрия никогда не имела раньше.

      Roblox также уже некоторое время усиливает свою сеть безопасности, от родительских контролей до фильтров чата на основе возраста, и последнее обновление является самым амбициозным шагом на сегодняшний день.

Roblox теперь использует ИИ-модерацию, чтобы закрывать вредоносный контент до того, как он дойдет до вас. Roblox теперь использует ИИ-модерацию, чтобы закрывать вредоносный контент до того, как он дойдет до вас. Roblox теперь использует ИИ-модерацию, чтобы закрывать вредоносный контент до того, как он дойдет до вас. Roblox теперь использует ИИ-модерацию, чтобы закрывать вредоносный контент до того, как он дойдет до вас. Roblox теперь использует ИИ-модерацию, чтобы закрывать вредоносный контент до того, как он дойдет до вас. Roblox теперь использует ИИ-модерацию, чтобы закрывать вредоносный контент до того, как он дойдет до вас. Roblox теперь использует ИИ-модерацию, чтобы закрывать вредоносный контент до того, как он дойдет до вас.

Другие статьи

Uber приобретает Blacklane Uber приобретает Blacklane Uber покупает Blacklane, берлинскую платформу люксовых шоферов, поддерживаемую Sixt и Mercedes-Benz, в сделке, которая расширяет глобальное присутствие Uber Elite. Эксперимент PUBG с видом сверху закончился, прежде чем он действительно начался Эксперимент PUBG с видом сверху закончился, прежде чем он действительно начался PUBG: Blindspot с его необычным тактическим видом сверху завоевал часть своей аудитории, но игра все равно закрывается до того, как она когда-либо достигнет полного релиза. ИИ может обыгрывать гроссмейстеров по шахматам, но не может адаптироваться к современным видеоиграм. ИИ может обыгрывать гроссмейстеров по шахматам, но не может адаптироваться к современным видеоиграм. Исследователи NYU говорят, что самой большой слабостью ИИ по-прежнему является адаптивность, и современные системы испытывают трудности с обработкой новых видеоигр, которые они никогда не видели раньше. Vivo X300 Ultra нацелен на то, чтобы заменить вашу камеру, а не только ваш телефон. Vivo X300 Ultra нацелен на то, чтобы заменить вашу камеру, а не только ваш телефон. Vivo представила X300 Ultra с профессиональной камерой, разработанной для конкуренции с специализированными камерами. Asus Morph 96 Wireless предоставляет вам ощущение индивидуальной клавиатуры без хлопот с самостоятельной сборкой. Asus Morph 96 Wireless предоставляет вам ощущение индивидуальной клавиатуры без хлопот с самостоятельной сборкой. Asus ROG Strix Morph 96 Wireless предлагает индивидуальный опыт работы с клавиатурой без хлопот DIY, оснащённый конструкцией с прокладкой, амортизирующим поролоном и горячими сменными переключателями для лёгкого эксперимента. Pixel 11 появляется в ранних утечках, и это знакомый вид циклопа для следующего устройства Google. Pixel 11 появляется в ранних утечках, и это знакомый вид циклопа для следующего устройства Google. То же самое, другой год?

Roblox теперь использует ИИ-модерацию, чтобы закрывать вредоносный контент до того, как он дойдет до вас.

Новая система модерации AI в Roblox сканирует целые игровые сцены в реальном времени, выявляя вредоносный контент, который большинство старых систем полностью пропустило бы, и уже закрывает 5,000 серверов ежедневно.