¿Qué ocurre cuando una duda electoral llega a un chatbot en medio de una jornada de votación? Una respuesta errónea puede parecer un detalle menor, pero también puede funcionar como una flecha mal colocada en un mapa: confunde justo a quien necesita llegar a destino.
OpenAI y Anthropic abrieron por primera vez salas de crisis para vigilar el uso de ChatGPT y Claude durante las elecciones legislativas de Estados Unidos del 3 de noviembre. El hallazgo revela una nueva pieza clave: las empresas de inteligencia artificial ya no solo entrenan modelos, también montan guardias especiales cuando la información puede afectar una votación.
OpenAI anunció el 28 de octubre su Centro de Operaciones Electorales, dirigido por Josh Lawson, responsable de riesgo cívico y estratégico. Según informó Politico, reúne a cientos de empleados y seguirá activo hasta que termine el recuento de todos los votos.
La función central es detectar abusos, respuestas inesperadas y posibles incumplimientos de las normas mientras los hechos ocurren. Anthropic también prepara una sala de monitoreo para Claude, aunque no reveló cuántas personas integran ese equipo.
También te puede interesar:El Próximo Modelo de Anthropic podría anunciarse en las próximas semanasKatie Harbath, exdirectora de política pública de Meta, señaló que estas salas sirven para clasificar con rapidez situaciones imprevisibles y responder con procesos ya preparados.
Una central eléctrica para las respuestas de la IA
La analogía más simple es la de una central eléctrica durante una tormenta. Los chatbots son la red de cables que lleva respuestas a millones de personas, mientras que las salas de crisis son el tablero con interruptores, alarmas y técnicos que detectan una sobrecarga antes de que deje a oscuras a un barrio entero.
El mecanismo busca cortar el circuito de la desinformación antes de que una respuesta falsa se convierta en una señal compartida miles de veces. Si un usuario pregunta dónde votar, cuándo vence el registro o quién ganó una elección, el equipo debe comprobar que el cableado digital transporte datos confiables.
El desafío no se limita a una mentira evidente. La inteligencia artificial puede facilitar videos falsos, imágenes manipuladas o resultados de búsqueda equivocados. La semana anterior, por ejemplo, el modo de IA de Google no respondió una consulta sobre quién ganó las elecciones de 2020, y la compañía indicó que trabajaba para corregir esa ausencia.
También te puede interesar:El Próximo Modelo de Anthropic podría anunciarse en las próximas semanasAnthropic examinó 250.000 conversaciones de Claude.ai durante una semana en Estados Unidos. Los temas políticos y de asuntos públicos fueron el 5,75% de los intercambios, mientras que las consultas específicas sobre elecciones o votación alcanzaron el 0,51%.
Las solicitudes de recomendaciones de voto representaron cerca del 0,01%, y las conversaciones que infringían las reglas de integridad electoral llegaron al 0,002%. Aunque parecen cifras pequeñas, la empresa espera que aumenten a medida que se acerque la votación.
Además, pruebas del Institute for Strategic Dialogue y el McCain Institute detectaron una vulnerabilidad: Claude podía rechazar una petición dañina aislada, pero no siempre veía una campaña fragmentada en encargos aparentemente inocentes. Por eso Anthropic añadió clasificadores, sistemas que reconocen patrones repetidos, para encontrar esas piezas dispersas.
La compañía también bloqueó cuentas de operadores extranjeros vinculados a un sitio de noticias falsas que usó Claude para producir contenidos favorables a narrativas de Rusia, Irán y Corea del Norte. El problema, entonces, no siempre entra por una puerta principal: a veces intenta colarse como varias tareas pequeñas.
OpenAI ya muestra en ChatGPT datos de Democracy Works sobre registro, plazos y lugares de votación, y sumará resultados en directo de The Associated Press tras el cierre de los colegios electorales. También limita las imágenes sobre interferencia electoral a estilos de dibujo, en lugar de representaciones fotorrealistas.
Anthropic prevé ofrecer en Claude información oficial desglosada por estado y resultados actualizados durante la noche electoral. La oportunidad está en que, cuando el tablero digital se encienda en un momento sensible, alguien esté mirando los interruptores correctos.
Directora de operaciones en GptZone. IT, especializada en inteligencia artificial. Me apasiona el desarrollo de soluciones tecnológicas y disfruto compartiendo mi conocimiento a través de contenido educativo. Desde GptZone, mi enfoque está en ayudar a empresas y profesionales a integrar la IA en sus procesos de forma accesible y práctica, siempre buscando simplificar lo complejo para que cualquiera pueda aprovechar el potencial de la tecnología.
