Las cifras de este ecosistema asustan bastante. En 2025, se llegaron a reportar 65.381 casos de presunta explotación sexual infantil dentro de Roblox. Es exactamente el doble de lo registrado el año anterior. Con estos números sobre la mesa, la plataforma se ha visto obligada a mover ficha de forma drástica.
Y es que la compañía acaba de tomar una decisión técnica sin precedentes en el sector. Han liberado tres modelos de inteligencia artificial desarrollados específicamente para cazar depredadores online en etapas tempranas. No se los van a guardar bajo llave como una ventaja competitiva. Los han abierto al mundo. Así de simple.
En concreto, Roblox ha entregado esta tecnología a ROOST, una comunidad abierta centrada en la seguridad digital. Aquí colaboran pesos pesados del software como Google, OpenAI o Discord. El objetivo es que cualquier plataforma con menos recursos pueda integrar estos algoritmos para moderar sus propios chats. Democratizar la protección.
La maquinaria técnica para cazar el grooming
Si miramos bajo el capó, el primer modelo es un avanzado Clasificador de Información Personal Identificable. Su trabajo principal es bloquear a los menores cuando intentan dar su número de móvil, su correo o su cuenta de Instagram. Identifica de forma autónoma intentos de compartir datos sensibles.
También te puede interesar:Roblox Quiere que Cualquiera Cree Videojuegos y su Nueva IA lo Hace Posible Desde el Móvil
Pero lo interesante es cómo detecta las trampas humanas. El algoritmo sabe leer mensajes fragmentados o palabras con errores ortográficos deliberados, trucos clásicos para burlar los filtros tradicionales. Esta versión 2.0 ha ampliado su red neuronal para cubrir 189 idiomas. Y los datos avalan el salto: su índice de precisión ha pasado de un 63,41 % a un brutal 90,52 %.
A ello se le suma el sistema Roblox Sentinel, una auténtica joya de prevención. En lugar de reaccionar a fotos o textos explícitos, analiza los patrones iniciales de los chats comparándolos con bases de datos de interacciones peligrosas. Intenta detectar el grooming antes de que ocurra. Durante el último año, Sentinel identificó de forma preventiva el 70 % de los casos de peligro reportados por la comunidad.
Por si fuera poco, han metido mano al siempre polémico chat de voz. Su tercer modelo es un Clasificador de seguridad de voz que escucha la inferencia de audio en tiempo real. Entiende 30 idiomas, categoriza ocho tipos de infracciones y, si detecta una anomalía, bloquea el micrófono al instante. Alcanza un recall del 61 % con solo un 1 % de falsos positivos. Ni se inmuta.
La presión de Washington y los límites del algoritmo
Como era de esperar, esta apertura de código no nace únicamente de la buena voluntad corporativa. El reloj corre en contra de la empresa. Tienen como fecha límite el 31 de agosto de 2026 para entregar un aluvión de documentos internos sobre seguridad al Senado de Estados Unidos. Están bajo la lupa gubernamental.
Y los números de tráfico explican esta urgencia regulatoria. Roblox registró 123 millones de usuarios activos diarios en su último trimestre. El dato crítico es que el 75 % de sus perfiles verificados pertenecen a menores de 18 años. Hablamos de un terreno de caza gigantesco para redes de explotación.
Pero claro, la letra pequeña es que la inteligencia artificial no hace magia. Un grupo de investigadores externos analizó recientemente dos millones de mensajes y encontró muestras de acoso que los filtros no detectaron. La propia compañía reconoce que incluso los LLM más sofisticados tienen puntos ciegos.
Básicamente, el mayor peligro actual es la fuga hacia otras redes sin supervisión. Fox News documentó hace poco un caso en Nebraska donde un adulto contactó con dos menores jugando y se los llevó a Snapchat. Lejos de la IA de Roblox, la historia terminó en una dura investigación policial por abuso. Un auténtico drama.
El factor humano frente a la pantalla
Es decir, por muchos TOPS de procesamiento que le pongas al servidor, el eslabón débil siempre somos nosotros. La plataforma ya segmenta el acceso con cuentas «Kids» para menores de 8 años y perfiles «Select» hasta los 15. Tienen funciones capadas de fábrica. Pero si los padres no entran a configurar los controles parentales, el riesgo sigue ahí.
La empresa pide a los tutores que se sienten frente al ordenador y hablen con los menores sobre los riesgos reales de internet. Enseñarles a usar el botón de bloqueo es tan importante como cualquier parche de software. Cualquier petición para chatear fuera del ecosistema del juego debe ser considerada una alerta roja inmediata.
La apertura de estos modelos open-source marca un antes y un después en cómo la industria afronta la protección infantil. Proporcionar armas tecnológicas gratuitas a otras plataformas puede cambiar las reglas de la moderación digital. Habrá que ver si el Senado queda satisfecho con este cortafuegos de última generación, o si los depredadores encuentran otra grieta en el sistema.
Me dedico al SEO y la monetización con proyectos propios desde 2019. Un friki de las nuevas tecnologías desde que tengo uso de razón.
Estoy loco por la Inteligencia Artificial y la automatización.
