La plataforma de videojuegos online Roblox anunció la incorporación de una nueva herramienta basada en inteligencia artificial (IA) que reformulará en tiempo real los mensajes con lenguaje inapropiado dentro de los chats. El objetivo es mantener conversaciones más cordiales entre los jugadores sin interrumpir la dinámica de comunicación que se genera durante las partidas.
La comunicación en el chat es una parte central de la experiencia dentro de Roblox. Millones de usuarios utilizan este canal para coordinar acciones, planificar estrategias o simplemente interactuar mientras participan en distintos juegos creados dentro de la plataforma. Sin embargo, esa interacción también plantea desafíos de moderación, especialmente en una comunidad que incluye una gran cantidad de usuarios jóvenes.
Hasta ahora, la plataforma utilizaba un sistema de filtros que bloqueaba automáticamente palabras consideradas ofensivas o inapropiadas. Cuando el sistema detectaba estos términos, los reemplazaba por cadenas de símbolos —como “####”— para impedir que el mensaje ofensivo se mostrara. Aunque este método evitaba la difusión de lenguaje problemático, también podía generar confusión en las conversaciones y dificultar la comprensión del mensaje original.
Con la nueva función impulsada por IA, Roblox busca dar un paso más en la moderación del contenido sin afectar la fluidez de la comunicación. En lugar de censurar el mensaje con símbolos, el sistema reformulará automáticamente las frases para eliminar las palabras ofensivas mientras conserva la intención del usuario.
Cómo funciona la reformulación automática de mensajes
La tecnología analiza el contenido del mensaje antes de enviarlo y, si detecta expresiones inapropiadas, genera una versión alternativa más respetuosa que mantiene el sentido original del texto. De esta manera, el chat continúa siendo comprensible para todos los participantes.
Por ejemplo, si un jugador escribe una frase con lenguaje grosero como “Hurry TF up!” —una expresión que podría traducirse como “¡date prisa, joder!”—, el sistema podría reformularla simplemente como “date prisa”. El objetivo es eliminar el componente ofensivo sin alterar el mensaje principal.
Según explicó la compañía en su blog oficial, esta solución busca mantener el equilibrio entre la moderación de contenidos y la experiencia de usuario. En lugar de interrumpir la conversación con mensajes incompletos o difíciles de entender, la inteligencia artificial ofrece una alternativa más natural.
“Este enfoque reduce la fricción en el chat mientras mantiene los estándares que ayudan a preservar una comunidad civilizada”, afirmó Rajiv Bhatia, vicepresidente de Producto de Usuario y Descubrimiento en Roblox.
Transparencia cuando un mensaje sea modificado
Otra característica clave del sistema es la transparencia. Cuando la inteligencia artificial modifique un mensaje, los participantes del chat recibirán una notificación que indicará que el texto fue reformulado para cumplir con las políticas de la plataforma.
Este aviso explicará que el mensaje original violaba las normas de comportamiento y que fue adaptado automáticamente para mantener la cordialidad en la conversación.
La compañía aclaró además que esta función se aplicará principalmente en experiencias de chat entre usuarios con control de edad dentro de grupos similares. Esto significa que el sistema está diseñado para operar en entornos donde la plataforma ya aplica medidas adicionales de seguridad para proteger a su comunidad.
Asimismo, la herramienta será compatible con todos los idiomas que Roblox soporta mediante sus sistemas de traducción automática, lo que permitirá aplicar la moderación basada en IA en conversaciones globales.
Nuevos filtros para detectar intentos de evasión
Además de la reformulación automática de mensajes, Roblox anunció mejoras en sus sistemas de filtrado de texto para detectar intentos más sofisticados de eludir las normas de la plataforma.
Uno de los focos principales es la detección del llamado leet-speak, una práctica común en internet que consiste en reemplazar letras por números o símbolos visualmente similares para evitar los filtros automáticos. Por ejemplo, escribir palabras ofensivas utilizando combinaciones como “3” en lugar de “E” o “1” en lugar de “I”.
Las mejoras introducidas por la compañía permiten identificar estas variantes con mayor precisión y evitar que los usuarios utilicen estos recursos para publicar contenido inapropiado o compartir información sensible.
Según datos compartidos por la empresa, los primeros resultados muestran avances significativos. En particular, el sistema logró reducir en veinte veces los falsos negativos relacionados con el intercambio o solicitud de información personal dentro de los chats, como cuentas de redes sociales o números de teléfono.
Moderación y experiencia de usuario
La incorporación de inteligencia artificial en la moderación de chats refleja una tendencia creciente en las plataformas digitales que buscan equilibrar seguridad, libertad de expresión y experiencia de usuario.
En el caso de Roblox, donde la interacción social es un componente clave de la experiencia de juego, mantener conversaciones claras y respetuosas resulta fundamental para sostener una comunidad saludable.
Con esta nueva herramienta, la plataforma apuesta por una moderación más inteligente que no solo bloquee contenido inapropiado, sino que también preserve la continuidad de la comunicación entre los jugadores.
La iniciativa forma parte de una estrategia más amplia de Roblox para mejorar la seguridad y la calidad de las interacciones dentro de su ecosistema, en un momento en el que el uso de inteligencia artificial se vuelve cada vez más central para gestionar comunidades digitales a gran escala.
Leer más
- Microsoft integra Anthropic a Copilot Cowork y refuerza su apuesta por los agentes de inteligencia artificial en el trabajo
- Menos correos, más información: automatiza tus newsletters con inteligencia artificial
- Para qué sirven los refrigeradores y las lavadoras con inteligencia artificial
