¿Qué pasa cuando una herramienta que parecía útil empieza a ocupar el lugar de una charla, un abrazo o una compañía diaria? Eso es lo que China decidió mirar de frente: el momento en que la inteligencia artificial deja de ser asistente y empieza a parecerse demasiado a una relación.
El hallazgo regulatorio no apunta a toda la IA, sino a una pieza muy concreta del sistema: los agentes diseñados para simular afecto, memoria y personalidad humana. Según las Medidas Provisionales para la Administración de Servicios de Interacción Antropomórfica con IA, el gobierno chino quiere limitar esas interacciones por el riesgo de dependencia emocional y adicción digital.
Además, el impacto ya se ve en grandes empresas. ByteDance y Alibaba comenzaron a desmontar funciones de personalización en sus asistentes virtuales, como contó el South China Morning Post. Doubao dejará de ofrecer agentes personalizados el 15 de julio, y Qwen, el modelo de Alibaba, desactivará esos perfiles el día 10.
La clave está en el mecanismo que la norma quiere apagar: la combinación de personalidad fija y memoria persistente. Es decir, una IA que recuerda lo que se habló, responde siempre con el mismo carácter y da la sensación de “estar ahí” como una persona reconocible.
También te puede interesar:Redes Chinas como WeChat, Douyin y Weibo Castigan a Quienes no Marcan sus Creaciones de IAPan Helin, citado por medios chinos, subraya que estos agentes todavía no están lo bastante maduros. La política, señala, se justifica por seguridad y por la necesidad de estandarizar una tecnología que hoy puede empujar decisiones irracionales en usuarios vulnerables. China Está tocando el interruptor emocional de los sistemas que buscan convertirse en amigo, pareja o familiar artificial.
Ese detalle cambia todo. Los asistentes para trabajo, estudio o atención al cliente seguirán permitidos. Lo que se restringe son los servicios pensados para sostener vínculos íntimos y prolongados, con respuestas antropomórficas (rasgos humanos simulados) y una presencia constante.
El engranaje que se intenta desactivar
La norma también suma una capa práctica de protección. Los sistemas deberán detectar emociones extremas o señales de angustia. Si aparece riesgo de autolesión, desesperación financiera u otros cuadros graves, tendrán que activar protocolos de emergencia o recomendar ayuda profesional.
Además, se incorporan mecanismos de bienestar digital, algo parecido a la alarma del celular cuando se acumulan demasiadas horas de pantalla. Tras dos horas de interacción continua, la IA deberá advertir sobre el uso excesivo y sugerir una pausa.
También te puede interesar:Redes Chinas como WeChat, Douyin y Weibo Castigan a Quienes no Marcan sus Creaciones de IA
En menores, la protección es todavía más estricta. Queda prohibido ofrecerles parejas o familiares artificiales, y su uso requerirá consentimiento paterno. En personas mayores, en cambio, la vigilancia se concentra en la soledad como pieza clave de una posible dependencia emocional.
Hay otro dato importante: tres meses después del cierre de estos servicios, los usuarios perderán acceso a las conversaciones almacenadas. No es menor. Esa memoria era justamente el engranaje central que volvía a la IA más parecida a un vínculo estable que a una simple herramienta.
Una señal para el resto del mundo
Mientras Europa y Estados Unidos se enfocaron sobre todo en la potencia de los modelos y la seguridad técnica, China se convierte en el primer país en legislar de forma específica sobre el impacto psicológico de la IA. El movimiento revela una oportunidad regulatoria que otros gobiernos podrían empezar a estudiar.
La pregunta ya no es solo qué tan inteligente puede ser una máquina. También es cuánto espacio se le quiere dar en la vida emocional de las personas. Y ahí, como en cualquier casa, a veces la decisión más importante no es sumar un aparato nuevo, sino saber qué interruptor conviene dejar apagado.
Directora de operaciones en GptZone. IT, especializada en inteligencia artificial. Me apasiona el desarrollo de soluciones tecnológicas y disfruto compartiendo mi conocimiento a través de contenido educativo. Desde GptZone, mi enfoque está en ayudar a empresas y profesionales a integrar la IA en sus procesos de forma accesible y práctica, siempre buscando simplificar lo complejo para que cualquiera pueda aprovechar el potencial de la tecnología.
