В Roblox внедряют ИИ, который меняет сообщения игроков в реальном времени
Игра Roblox начала тестировать новую ИИ-систему модерации после запретов во многих странах. Она преобразует текст от игроков перед его доставкой другому пользователю.
Алгоритм проводит анализ сообщений в режиме реального времени и автоматически их редактирует. Он способен исправлять опечатки, устранять попытки обхода фильтров и заменять отдельные слова и фразы на более нейтральные или вежливые. В итоге получатель видит уже отредактированную версию сообщения вместо оригинального текста.
Разработчики объясняют, что система должна бороться с токсичным поведением и деструктивным контентом.
Критики отмечают, что такая технология фактически меняет смысл общения между игроками: платформа начинает решать, что пользователь "имел в виду", а не просто удаляет запрещенные слова, как происходит сейчас. По их мнению, это может привести к искажению сообщений и к ситуации, когда люди общаются уже не напрямую, а через алгоритм.
Кроме того, это создает прецедент, которым могут воспользоваться и другие соцсети.