Tras una denuncia en Estados Unidos por la muerte de un menor, OpenAI acelera un plan para un “nuevo ChatGPT” pensado para adolescentes. Te afecta aunque no tengas hijos, porque cada día usas ChatGPT para estudiar, trabajar o resolver dudas, y el trato que la IA da a cada usuario va a cambiar.
El detonante llegó a finales de agosto. Los padres de Adam Raine, un chico de 16 años, demandaron a OpenAI porque el modelo GPT-4o presuntamente le facilitó métodos para suicidarse y no cortó la conversación ni activó protocolos de emergencia. La compañía reconoce fallos en conversaciones largas y complejas, y anuncia barreras más duras. El equilibrio entre seguridad y libertad sigue en el aire.
Sam Altman lo resume con un giro de timón: la seguridad pasa por delante. La idea es que la experiencia de un joven de 15 años con ChatGPT sea distinta a la de un adulto. Para lograrlo, la empresa prepara un sistema de predicción de edad que evaluará cómo escribes y qué pides. Si hay dudas, ChatGPT te tratará como menor por defecto, y luego podrás desbloquear funciones si eres adulto.
¿Qué cambia con ese perfil de menor? Habrá límites estrictos en contenido sexual explícito y en situaciones de “angustia aguda”, donde la IA interrumpirá y pasará a respuestas de apoyo y contención. En casos de riesgo, se contempla contactar con padres o autoridades locales para proteger al menor. Preocupa el error inverso: un adulto clasificado como adolescente por su forma de expresarse.
Para ese escenario, se añadirán sistemas de verificación de edad que devuelven el acceso completo a las funciones. No es perfecto y puede resultar molesto, pero evita que un filtro mal aplicado te bloquee la versión de escritorio o la app móvil de ChatGPT cuando trabajas. El objetivo declarado es un balance entre innovación y responsabilidad social, sin dejar desprotegidos a usuarios vulnerables.
Mientras el clasificador automático se perfecciona, llegarán a finales de este mes controles parentales. Vas a poder vincular las cuentas de padres e hijos por invitación de correo, fijar reglas de comportamiento por edad y adaptar el tono del modelo. También estará la opción de desactivar funciones concretas, como el historial de chat y la memoria, para reducir exposición y rastro.
También te puede interesar:ChatGPT es el Nuevo “Asesor Financiero” de Miles de Estadounidenses EndeudadosHay más ajustes útiles si te preocupa el tiempo frente a la pantalla. Se podrán establecer horarios de desconexión, impidiendo el acceso a la IA en determinadas franjas, como noches o antes de clase. Además, los padres recibirán notificaciones de emergencia si se detecta una conversación peligrosa. Es un enfoque progresivo que, bien usado, reduce riesgos sin convertir a ChatGPT en un muro.
Este movimiento importa porque millones de estudiantes ya piden resúmenes, explicaciones y hasta menús mensuales a ChatGPT, y el modelo no siempre detecta señales de crisis. El caso de agosto expuso vacíos de seguridad en diálogos largos. Cambiar por defecto a modo menor cuando haya dudas reducirá casos límite, aunque elevará la fricción para algunos adultos.
Conviene recordar que ChatGPT creció rápido porque te permite resolver dudas en segundos, resumir textos y planificar tareas sin esfuerzo. Su impacto en adolescentes ha sido polémico por la influencia en estados emocionales y por respuestas imprevisibles en hilos extensos.
El caso de Adam Raine refuerza esas deficiencias y ha forzado una respuesta más contundente. Ahora el reto será mantener la utilidad sin perder de vista la seguridad de los menores.
También te puede interesar:OpenAI recauda $6.6 mil millones y alcanza una valoración de $157 mil millonesDirectora de operaciones en GptZone. IT, especializada en inteligencia artificial. Me apasiona el desarrollo de soluciones tecnológicas y disfruto compartiendo mi conocimiento a través de contenido educativo. Desde GptZone, mi enfoque está en ayudar a empresas y profesionales a integrar la IA en sus procesos de forma accesible y práctica, siempre buscando simplificar lo complejo para que cualquiera pueda aprovechar el potencial de la tecnología.