¿Alguna vez te apareció en el celular un contenido que no buscaste, no pediste y, Se coló en la pantalla como si alguien hubiera dejado la puerta entreabierta? Cuando ese material roza a menores, la incomodidad se convierte en alarma. Y ahí, el “engranaje” de las redes deja de ser invisible.
En ese clima, el Consejo de Ministros de España pedirá formalmente a la Fiscalía General del Estado que investigue a X, Meta y TikTok por la posible comisión de delitos vinculados a la creación y difusión de pornografía infantil mediante sistemas de inteligencia artificial.
La decisión se integra en un paquete de cinco acciones impulsadas por el gobierno de Pedro Sánchez para reforzar la seguridad digital. Según el Ejecutivo, el hallazgo clave no está solo en lo que generan algunos usuarios, sino en el mecanismo que permite que eso circule, crezca y se instale en el feed.
“Demuestra el compromiso del gobierno con la protección de los menores en el ámbito digital”, afirmó Elma Saiz, ministra de Inclusión y portavoz del Ejecutivo. Además, citó un dato que funcionó como interruptor político: en X, en apenas 11 días, se habrían detectado 3 millones de contenidos de desnudos generados con IA, muchos con representación de menores.
Ahora bien, ¿qué tiene que ver la inteligencia artificial con que ese material “aparezca” más? En el mundo digital, el algoritmo (la receta que ordena lo que ves) no solo clasifica: también empuja.
La analogía doméstica ayuda a entenderlo. Una plataforma se parece a una casa con cableado eléctrico: el contenido es el aparato enchufado, y el algoritmo es el tablero que decide qué circuito recibe más corriente. Si el tablero prioriza un enchufe, ese aparato se enciende una y otra vez, aunque sea peligroso.
Por eso, el Gobierno considera inaceptable que esos algoritmos amplifiquen o amparen la difusión de contenidos con riesgo para la seguridad, la imagen, la intimidad y la libertad de los menores. Y subraya que la responsabilidad penal podría no recaer únicamente en quien “fabricó” el material, sino también en quien lo distribuye con control central sobre la circulación.
La solicitud se ampara en el Artículo 8 del Estatuto Orgánico del Ministerio Fiscal. Ese artículo permite al Gobierno requerir al fiscal general que promueva actuaciones ante los tribunales para defender el interés público.
Según el escrito citado por medios locales, tras la investigación se pide que la Fiscalía ejerza las acciones penales que considere oportunas. También se busca fijar criterios de actuación y establecer mecanismos para que tutores y representantes legales hagan valer derechos en el entorno digital.
El foco del Ejecutivo apunta a dos piezas. Por un lado, las herramientas de IA integradas en servicios, capaces de generar imágenes o facilitar ediciones sensibles. Por el otro, la primacía que otorgan a ciertos contenidos mediante sus sistemas de recomendación, es decir, la lógica que decide qué se muestra primero y qué se esconde.
Además, el contexto que presenta la Presidencia del Gobierno es áspero: en el último año se detectaron cerca de 900.000 contenidos de odio en redes sociales en España. Y uno de cada cinco menores vivió o presenció episodios de violencia digital.
En ese marco, Sánchez anunció un plan con medidas que incluyen la prohibición de acceso a redes sociales para menores de 16 años. También propone tipificar como delitos la manipulación algorítmica y la amplificación deliberada de contenidos ilegales o falsos, y atribuir responsabilidad legal directa a altos ejecutivos por posibles infracciones.
Las reacciones no tardaron. Elon Musk insultó a Sánchez y lo acusó de tiranía y traición. Pavel Durov advirtió que estas acciones podrían derivar en un “Estado de vigilancia”. Frente a esas críticas, Sánchez respondió indirectamente: dijo que la democracia no será doblegada por “tecno-oligarcas del algoritmo”.
En la práctica, el mensaje del Gobierno busca mover un cableado: que el tablero central deje de premiar lo tóxico. Porque cuando se trata de menores, la oportunidad no está en mirar para otro lado, sino en apagar el circuito correcto a tiempo.
Directora de operaciones en GptZone. IT, especializada en inteligencia artificial. Me apasiona el desarrollo de soluciones tecnológicas y disfruto compartiendo mi conocimiento a través de contenido educativo. Desde GptZone, mi enfoque está en ayudar a empresas y profesionales a integrar la IA en sus procesos de forma accesible y práctica, siempre buscando simplificar lo complejo para que cualquiera pueda aprovechar el potencial de la tecnología.
La Newsletter Diaria Sobre Inteligencia Artificial. Además: Portal de Noticias, Tutoriales, Tips y Trucos de ChatGpt, Openai e Inteligencia Artificial.
Nuestra web está alojada en:
