California coloca el foco en cómo deben funcionar los asistentes conversacionales que conviven con nuestros móviles y ordenadores. La nueva norma quiere ordenar un espacio que crece muy rápido y donde conviven grandes marcas y proyectos pequeños. Aquí veremos qué cambia, a quién afecta y por qué los chatbots con IA tendrán nuevas reglas claras desde 2026.
Te contamos con ejemplos y con las exigencias clave que, si desarrollas o usas estas herramientas, necesitas tener controladas. Hay matices importantes sobre verificación de edad, avisos de seguridad y gestión de crisis que conviene entender bien si convives con chatbots con IA en casa o en tu empresa.
SB 243 es la primera ley en Estados Unidos que regula de forma específica los chatbots de compañía basados en inteligencia artificial. Su idea principal es sencilla: proteger a menores y a usuarios vulnerables frente a potenciales daños y exigir responsabilidad legal a quienes operan chatbots con IA. Con todo, también fija estándares que pueden convertirse en referencia fuera del estado.
El gobernador Gavin Newsom firmó la norma tras meses de debate público y presión social por casos preocupantes. Según su mensaje, la tecnología puede inspirar y conectar, pero sin salvaguardas también puede explotar debilidades y poner en riesgo a los jóvenes; por eso reclama responsabilidad empresarial real en el despliegue de chatbots con IA.
La ley empezará a aplicarse el 1 de enero de 2026, así que las compañías tienen margen para preparar cambios. Afecta a grandes laboratorios como Meta u OpenAI y a startups como Character AI y Replika, que operan chatbots con IA de compañía. Cualquier servicio similar que funcione en California entrará en el mismo marco legal.
Si un operador no cumple los estándares, asumirá consecuencias legales. El mensaje es claro: no basta con promesas de seguridad, hay que demostrar, documentar y sostener en el tiempo que los chatbots con IA se gestionan con criterios de protección efectivos.
¿Qué pide exactamente la SB 243? Primero, establecer sistemas fiables de verificación de edad, para distinguir a menores y adaptar funciones. También exige avisos claros sobre los riesgos de redes sociales y de los chatbots con IA de compañía, con lenguaje accesible y visible en la interfaz.
Segundo, impedir que estas herramientas se hagan pasar por profesionales sanitarios o den a entender que ofrecen terapia clínica. Sí podrán redirigir hacia recursos de ayuda contrastados, siempre que quede claro que las interacciones de los chatbots con IA son generadas artificialmente.
La norma obliga a disponer de protocolos para casos de suicidio y autolesión, con respuestas seguras y rápidas, y sistemas que detecten señales de riesgo. Podrás ver avisos de prevención y derivaciones a líneas de ayuda cuando sea necesario, especialmente si el usuario es menor.
Además, las empresas deberán informar al Departamento de Salud Pública de California sobre los avisos de prevención enviados a sus usuarios. Esta transparencia busca evaluar si los chatbots con IA están respondiendo bien a las situaciones críticas y permite ajustar criterios con datos reales.
La ley pide “recordatorios de pausa” para que los menores no pasen horas seguidas chateando. La idea es cortar sesiones largas y fomentar descansos saludables al usar chatbots con IA. También obliga a bloquear imágenes sexualmente explícitas generadas por estas herramientas cuando el usuario es menor.
Las plataformas deben avisar de forma visible de que todas las respuestas están generadas por inteligencia artificial. El aviso no sustituye al control parental ni a la supervisión adulta, porque la interacción con chatbots con IA puede ser intensa y muy persuasiva.
La SB 243 endurece las sanciones contra quienes se lucren con deepfakes ilegales. Las multas pueden llegar a 250.000 dólares por cada infracción, una cifra que obliga a revisar flujos de generación y distribución de contenidos. Esto impacta directamente en servicios que cruzan chatbots con IA con modelos de imagen o vídeo.
Estas sanciones no solo buscan castigar, también disuadir. Si tu proyecto monetiza contenido sintético, tendrás que acreditar controles de revisión, trazabilidad y retirada rápida, porque el margen de error con los chatbots con IA y los generadores visuales se estrecha bastante.
La introducción de la ley en enero estuvo marcada por un caso dramático: la muerte de Adam Raine, un adolescente que mantuvo conversaciones suicidas con ChatGPT. No fue el único detonante: hubo filtraciones de documentos internos de Meta que mostraron diálogos románticos y sensuales con menores, algo inaceptable en chatbots con IA.
Más tarde, una familia de Colorado demandó a Character AI tras el suicidio de su hija de 13 años después de interacciones problemáticas y sexualizadas. Estos episodios aceleraron el consenso político y social para exigir reglas a los chatbots con IA de compañía, con foco en prevención y límites más claros.
Algunas empresas ya se mueven. OpenAI ha lanzado controles parentales, sistemas de protección de contenido y detección de autolesiones para menores en ChatGPT. Es un primer paso para adaptar los chatbots con IA a escenarios sensibles y evitar respuestas dañinas o ambiguas.
Replika, un servicio orientado a mayores de 18 años, afirma que dedica muchos recursos a la seguridad con filtros y derivaciones a recursos fiables de ayuda en crisis, y que cumple con la normativa vigente. Character AI muestra un aviso de que las conversaciones son ficticias y generadas por IA, y se ha ofrecido a colaborar con reguladores para alinear sus chatbots con IA con la nueva ley.
La SB 243 llega poco después de otra norma relevante: el 29 de septiembre, Newsom firmó la SB 53, que exige transparencia a las grandes empresas de IA sobre sus protocolos de seguridad y amplía la protección de denunciantes internos. Juntas crean un andamiaje de gobernanza que afecta a los chatbots con IA y a los modelos que los soportan.
Con todo, la SB 243 es la segunda gran regulación de IA aprobada en pocas semanas, señal de que el estado quiere marcar pauta. Si operas chatbots con IA o dependes de ellos, conviene asumir que la supervisión y la rendición de cuentas seguirán creciendo.
Si construyes o integras estos servicios, te toca planificar. Levanta inventario de flujos de conversación, puntos de riesgo y públicos expuestos. Se puede cumplir la SB 243 si empiezan a rediseñar experiencias, contenidos y reportes internos con visión de largo plazo, ya que los chatbots con IA cambian rápido y el cumplimiento debe ser vivo.
No todo son barreras: una base sólida de seguridad mejora confianza, reduce incidentes y baja el coste de soporte. Esto impacta en retención, reputación y acuerdos con partners que exigen garantías cuando incluyes chatbots con IA en productos de consumo.
El senador Padilla ve la SB 243 como un paso en la dirección correcta para poner barreras de seguridad en una tecnología “increíblemente potente”. Pide actuar con rapidez para aprovechar la ventana de oportunidad y anima a otros estados a replicar el marco para chatbots con IA, ante la falta de acción a nivel federal.
No es un movimiento aislado. Illinois, Nevada y Utah ya han aprobado límites para impedir que chatbots con IA actúen como sustitutos de atención en salud mental con licencia. Con todo, California está liderando con un enfoque que combina prevención de daños, transparencia y sanciones contra abusos.
En pocas palabras, California obliga a que los chatbots con IA sean más seguros, transparentes y responsables, con foco en menores y usuarios vulnerables. Si construyes o usas estas herramientas, prepara verificación de edad, avisos claros, filtros y protocolos de crisis, y alinea tus procesos con SB 243 y SB 53. Lo importante no es solo evitar multas: es que los chatbots con IA sirvan para ayudar sin poner a nadie en riesgo.
Me dedico al SEO y la monetización con proyectos propios desde 2019. Un friki de las nuevas tecnologías desde que tengo uso de razón.
Estoy loco por la Inteligencia Artificial y la automatización.
La Newsletter Diaria Sobre Inteligencia Artificial. Además: Portal de Noticias, Tutoriales, Tips y Trucos de ChatGpt, Openai e Inteligencia Artificial.
Nuestra web está alojada en:
