¿Qué pasa cuando un chico entra a internet para estudiar, jugar o hablar con amigos y, sin verlo, se encuentra con puertas abiertas hacia contenidos dañinos? Esa escena cotidiana, cada vez más común, es el punto de partida de un nuevo movimiento internacional.
España y una veintena de países crearon en Ginebra la Coalición Internacional para los Derechos y la Protección de la Infancia en la Era de la Inteligencia Artificial, dentro del marco de Naciones Unidas. El hallazgo político aquí es claro: la IA ya no se discute solo como una promesa tecnológica, sino como un mecanismo que puede afectar la seguridad, el desarrollo y los derechos de los menores.
Junto a España participan países como Austria, Brasil, Canadá, Francia, Japón, Kenia, Marruecos y Países Bajos. También se sumaron Unicef, Unesco, la Oficina del Alto Comisionado de la ONU para los Derechos Humanos, la Unión Internacional de Telecomunicaciones, la Oficina de la ONU para Tecnologías Digitales y la Comisión Europea.
Además, la coalición busca coordinar a gobiernos, empresas tecnológicas, educadores, sociedad civil y expertos en infancia. La pieza clave es que el desarrollo y el uso de la inteligencia artificial respeten la Convención sobre los Derechos del Niño.
También te puede interesar:España Quiere su Gigafactoría de IA, que Nace por un Problema que Microsoft y Google no Logran ResolverÓscar López, ministro español para la Transformación Digital, fue categórico al advertir que no se deben repetir con la IA los errores cometidos con las redes sociales. “Los derechos de los niños no deben desaparecer en el entorno digital”, subraya en una señal de alarma que atraviesa a toda la iniciativa.
La preocupación no es abstracta. La coalición advierte que la IA está transformando los entornos donde los menores aprenden, se comunican e interactúan, pero también abre riesgos de manipulación, acceso a contenido dañino, pornografía o material de abuso sexual infantil generado con deepfakes (videos o imágenes falsas muy realistas).
En el caso de los menores, otro riesgo es la segmentación algorítmica (clasificación automática de usuarios por patrones). Dicho de forma doméstica, es como si una tienda siguiera a un niño por cada pasillo, anotara qué mira y luego reorganizara la casa entera para empujarlo siempre hacia lo mismo.
Un engranaje internacional de protección
La iniciativa, impulsada por España con apoyo de Francia, Kenia y la Unión Europea, intenta colocar un marco antes de que el problema escale más. No se trata solo de reaccionar ante un daño, sino de cambiar el cableado desde el origen del sistema.
Por eso, los miembros se comprometen a desarrollar sistemas de IA seguros, fiables y centrados en las personas. También promueven buenas prácticas y una gobernanza en la que la opinión de niños y adolescentes influya de forma significativa en el diseño y despliegue de estas herramientas. Esa decisión tiene una clave poco habitual en el debate tecnológico: escuchar a los menores. La coalición entiende que, si la IA modifica los espacios donde ellos viven, estudian y se relacionan, sus voces no pueden quedar fuera del plano técnico ni del regulatorio.
Algunas de las primeras reacciones sobre la iniciativa, replicadas por medios y sitios especializados como Cataluña Religión, muestran que el tema ya dejó de ser un asunto reservado a expertos. Ahora toca discutir qué límites deben existir antes de que el daño sea rutina. La oportunidad es concreta. Si las redes sociales llegaron tarde a muchas reglas de protección, esta vez el mundo intenta instalar los fusibles antes del cortocircuito. Y para millones de familias, esa puede ser la diferencia entre un entorno digital útil y una habitación llena de riesgos invisibles.
Directora de operaciones en GptZone. IT, especializada en inteligencia artificial. Me apasiona el desarrollo de soluciones tecnológicas y disfruto compartiendo mi conocimiento a través de contenido educativo. Desde GptZone, mi enfoque está en ayudar a empresas y profesionales a integrar la IA en sus procesos de forma accesible y práctica, siempre buscando simplificar lo complejo para que cualquiera pueda aprovechar el potencial de la tecnología.
