¿Qué ocurre cuando una herramienta que parece ayudar a elegir una película, filtrar un currículum o vigilar una calle empieza a empujar decisiones sin que nadie lo note? La inteligencia artificial ya forma parte de esa rutina, pero también abre una puerta a riesgos que Europa quiere cerrar antes de que sea demasiado tarde.
La Unión Europea presentó y aprobó en agosto la IA Act, su marco regulatorio para controlar los sistemas de inteligencia artificial considerados de alto riesgo. El hallazgo detrás de esta norma es simple: no toda IA provoca el mismo daño, pero algunas necesitan un freno firme cuando afectan la seguridad, la privacidad o el comportamiento de las personas.
La aplicación efectiva de la IA Act está prevista entre 2027 y 2028. Sin embargo, Bruselas ya dejó claro el mecanismo: las compañías vinculadas a la Unión Europea podrán recibir multas de hasta 35 millones de euros o el 7% de su facturación anual global, según cuál de las dos cifras sea mayor.
La pieza clave es una escala de tres niveles. Cuanto mayor sea el peligro de una conducta, más alto será el costo de ignorar las reglas.
Una alarma en la instalación eléctrica digital
La regulación puede entenderse como el cableado de una casa. Un enchufe para cargar el teléfono no exige la misma vigilancia que una caja eléctrica que alimenta todo el edificio. La IA de alto riesgo, es decir, la que puede causar daños relevantes a personas o sistemas, se parece a esa instalación central: necesita controles, revisiones y alguien que pueda cortar la corriente.
Ese “alguien” es la supervisión humana, la obligación de que una persona pueda revisar, corregir o detener una decisión automatizada. No se trata de apagar toda la tecnología, sino de evitar que una máquina avance sola cuando detecta mal una cara, manipula una elección o toma una decisión sensible sin explicación.
Por eso, las sanciones más elevadas apuntan a sistemas que usen técnicas manipulativas o engañosas para modificar la conducta de una persona. También alcanzan el uso indiscriminado de imágenes faciales para construir bases de datos de reconocimiento facial.
En términos domésticos, sería como instalar cámaras en cada ventana del barrio, guardar cada rostro que pasa y usar ese archivo sin límites claros. El problema no está solo en la cámara, sino en quién conserva las imágenes, para qué las utiliza y qué ocurre si se equivoca.
Los controles antes de que falle el sistema
Los proveedores de herramientas potencialmente peligrosas también enfrentan un segundo nivel de multas. Podrán recibir sanciones de hasta 15 millones de euros o el 3% de su volumen de negocio mundial si incumplen requisitos técnicos o descuidan los controles humanos exigidos.
Esos requisitos funcionan como la revisión de frenos de un coche: no garantizan que nunca haya un accidente, pero reducen la posibilidad de que un fallo conocido termine en una situación grave. En el caso de la IA, incluyen verificar cómo responde el sistema, qué datos utiliza y si una persona puede intervenir a tiempo.
La preocupación europea no se limita a una decisión equivocada en una pantalla. El desarrollo acelerado de estas tecnologías plantea riesgos para la seguridad informática y, en los casos más extremos, para su posible uso en el desarrollo de armas.
Además, la Unión Europea busca que este engranaje no quede encerrado dentro de sus fronteras. Bruselas pidió a las Naciones Unidas un marco común para aplicar controles y sanciones a empresas de todo el mundo.
En julio, el Diálogo Global sobre Gobernanza de la IA, celebrado en Ginebra, intentó acercar a potencias tecnológicas como Estados Unidos, Japón y Corea del Sur. La oportunidad consiste en construir reglas compartidas antes de que cada país conecte sus propios cables sin una llave de seguridad común.
La IA Act no promete eliminar todos los riesgos, pero instala un interruptor central: cuando una tecnología cruza ciertos límites, ya no podrá actuar como si nadie estuviera mirando.
Directora de operaciones en GptZone. IT, especializada en inteligencia artificial. Me apasiona el desarrollo de soluciones tecnológicas y disfruto compartiendo mi conocimiento a través de contenido educativo. Desde GptZone, mi enfoque está en ayudar a empresas y profesionales a integrar la IA en sus procesos de forma accesible y práctica, siempre buscando simplificar lo complejo para que cualquiera pueda aprovechar el potencial de la tecnología.
