La plataforma de videojuegos Roblox anunció la implementación de un sistema de moderación automática que analiza en tiempo real cada modificación realizada en los avatares de sus usuarios. La medida busca reforzar la seguridad dentro del entorno digital, especialmente considerando que gran parte de su comunidad está conformada por niños y adolescentes.
Según la compañía, en 2025 se registran en promedio 274 millones de actualizaciones de avatar por día, lo que genera millones de posibles combinaciones de ropa y accesorios. Hasta ahora, muchos casos de contenido inapropiado solo eran detectados tras reportes de otros jugadores. Con el nuevo sistema, la revisión es preventiva: cada vez que un usuario modifica su personaje, la plataforma escanea los elementos equipados antes de que el avatar sea visible públicamente.
Supervisión automática y corrección inmediata
Si el sistema identifica que la combinación vulnera las normas comunitarias —aunque los elementos por separado estén permitidos— el avatar se restablece a uno predeterminado y el usuario recibe una notificación explicando la infracción. Además, la empresa habilitó mecanismos para que los jugadores reporten posibles errores de moderación, lo que permitirá ajustar el modelo con el tiempo.
Alianzas para fortalecer entornos seguros
Como parte de su estrategia de seguridad digital, Roblox también anunció colaboraciones con organizaciones especializadas como Prosocial Design Network, el Young and Resilient Research Centre y PROJECT ROCKIT. Estas alianzas respaldan investigaciones orientadas a promover interacciones positivas y saludables en espacios virtuales.
La compañía sostiene que la moderación automatizada, sumada al trabajo con expertos y la educación de los usuarios, forma parte de un enfoque integral para fortalecer la protección de menores y fomentar comunidades digitales más seguras.
