Google estaría preparando en Gemini una función de seguridad para avisar a padres o tutores si el asistente detecta conversaciones de menores relacionadas con autolesiones. El hallazgo fue identificado por Android Authority en la versión 17.73.15.sa.arm64 de la aplicación de Google para Android.
Hasta ahora, Gemini podía filtrar sus propias respuestas cuando hablaba con un menor. La posible novedad cambia el mecanismo: no solo limitaría lo que dice la IA, sino que activaría una alerta dirigida a la familia ante una conversación considerada de riesgo.
Las cadenas de texto halladas en el código son claras: “Las notificaciones de seguridad están activadas” y “Tus padres recibirán una notificación si Gemini detecta conversaciones relacionadas con hacerte daño a ti mismo”.
Un detector que pasa de la pantalla al hogar
La pieza clave puede entenderse como una alarma de humo. Los filtros actuales de Gemini funcionan como un material ignífugo: intentan evitar que la conversación del asistente empeore una situación. La nueva función, en cambio, se parecería a una alarma que suena fuera de la habitación.
También te puede interesar:La Gente está Usando el Editor de Fotos de Gemini para Eliminar Marcas de AguaEl cambio no estaría en vigilar cada palabra, sino en detectar señales de riesgo y avisar a un adulto responsable. Gemini ya reconoce, en ciertos contextos, que conversa con una cuenta de menor y adapta sus respuestas mediante filtros, es decir, reglas que bloquean o reducen contenido inapropiado.
Sin embargo, todavía faltan engranajes centrales por conocer. El código detectado solo muestra el aviso que recibiría el menor. No revela si los padres recibirían un correo electrónico, una notificación emergente o un mensaje dentro de Family Link.
Actualmente, Family Link permite a las familias autorizar o bloquear el acceso de sus hijos a Gemini. También sirve para administrar otros aspectos de la experiencia digital, aunque no permite ver el contenido de las conversaciones mantenidas con el asistente.
La protección y el posible silencio
El nuevo sistema plantearía una tensión difícil. Avisar con anticipación al menor de que sus padres serán notificados puede darle transparencia a la herramienta. Pero esa misma advertencia podría convertirse en un interruptor que apague una conversación que necesitaba ocurrir.
También te puede interesar:La Gente está Usando el Editor de Fotos de Gemini para Eliminar Marcas de AguaUn adolescente que tema una reacción familiar podría optar por ocultar sus problemas, incluso si buscaba orientación. Google no ha explicado si contempla un mecanismo para reducir ese efecto disuasorio antes de un eventual lanzamiento.
El contexto también pesa. Los chatbots de inteligencia artificial han recibido críticas y demandas por sus interacciones con adolescentes. Bloomberg informó sobre una demanda vinculada al modo de IA de Google Search, acusado de hablar sobre suicidio con una adolescente sin alertar a sus padres.
Google no ha relacionado oficialmente esta posible función con esos casos. La alerta parental responde a una preocupación que creció con fuerza: qué sucede cuando una conversación íntima con una máquina revela una señal de peligro.
La compañía recomienda que los menores no compartan datos sensibles, como su dirección o el nombre de su colegio, y reconoce que sus filtros no son perfectos. Por ahora, no hay fecha de lanzamiento ni confirmación oficial. Como toda función encontrada en código interno, puede cambiar o no llegar a la versión pública.
Directora de operaciones en GptZone. IT, especializada en inteligencia artificial. Me apasiona el desarrollo de soluciones tecnológicas y disfruto compartiendo mi conocimiento a través de contenido educativo. Desde GptZone, mi enfoque está en ayudar a empresas y profesionales a integrar la IA en sus procesos de forma accesible y práctica, siempre buscando simplificar lo complejo para que cualquiera pueda aprovechar el potencial de la tecnología.
