Imagínate la escena: tu padre sufre un infarto delante de ti, el pánico te bloquea por completo y, en un acto reflejo propio de nuestra era, le pides a ChatGPT que te explique cómo hacer una reanimación cardiopulmonar paso a paso. Esto no es el guion descartado de un capítulo de Black Mirror, sino un caso clínico y real que rompió internet en junio de 2023. La ambulancia llegó a tiempo y el hombre sobrevivió al evento cardíaco. Pero esta historia de éxito viral esconde un reverso tenebroso que la industria de Silicon Valley prefiere no mirar de cerca.
Y es que, aunque este valiente usuario de Reddit logró el milagro técnico y humano de salvar a su familiar, él mismo lanzó una advertencia rotunda nada más bajarle la adrenalina. Su mensaje a la comunidad fue claro como el agua: por favor, no intentéis imitar lo que yo acabo de hacer. Una auténtica locura.
El motivo principal de su aviso nos lleva de bruces contra el mayor talón de Aquiles de los modelos fundacionales que usamos hoy en día. Estamos hablando de las alucinaciones de la inteligencia artificial. Esa peligrosa costumbre que tienen plataformas punteras como Gemini o los mastodónticos LLM de OpenAI de inventarse datos manteniendo una falsa apariencia de certeza absoluta. En un resumen para el instituto te cuelan un gazapo inofensivo; en una urgencia médica real, el coste de esa latencia creativa puede ser una vida.
El peligro oculto de llevar un médico complaciente en el bolsillo
A pesar de las constantes banderas rojas agitadas por la comunidad científica, la adopción masiva por parte de los usuarios no ha frenado ni un mísero milímetro. Si analizamos la telemetría y los números de descargas, las cifras son mareantes. Para noviembre de 2025, el chatbot estrella liderado por Sam Altman ya trituraba la barrera de los 800 millones de usuarios semanales. Prácticamente se ha coronado como la app de cabecera entre el público joven a la hora de buscar diagnósticos rápidos o interpretar síntomas raros. Adiós a teclear en Google; hola al «prompt» sanitario.
Evidentemente, las corporaciones detrás de estos inmensos pipelines de datos saben exactamente lo que hay en juego a nivel legal y moral. Por ese mismo motivo, en enero de 2026 presenciamos el despliegue mundial de ChatGPT Health. Se trata de un vertical específico, refinado mediante técnicas avanzadas de RAG (Generación Aumentada por Recuperación) y entrenado mano a mano con profesionales sanitarios del sector. Todo llega muy bien empaquetado, con el clásico disclaimer legal avisando de que su función es de mero apoyo y jamás sustituye al médico colegiado.
Pero claro, la letra pequeña es que la teoría corporativa choca frontalmente con la realidad del usuario medio en su casa. Ante la duda o el miedo, la gente asume lo que escupe la pantalla de su móvil como una verdad esculpida en piedra.
Aquí es justo donde los datos empíricos entran con fuerza a destrozar la burbuja del hype tecnológico. Un reciente y riguroso estudio publicado en la revista especializada BMJ Open ha puesto contra las cuerdas a cinco de los principales cerebros sintéticos del mercado. El resultado de los benchmarks médicos es como para sudar frío antes de consultarles cómo tratar una simple fiebre.
Según las métricas de la investigación, un devastador 50% de las respuestas médicas generadas resultaron imprecisas o escondían un potencial peligro severo para el paciente. Es decir, tirar una moneda al aire tendría casi la misma tasa de acierto a la hora de recibir directrices clínicas fiables desde tu smartphone. Un desastre a nivel de fiabilidad.
La red neuronal te dice lo que quieres escuchar, no lo que necesitas
Por si esto fuera poco, los investigadores destaparon un patrón algorítmico fascinante y aterrador a partes iguales durante las pruebas. Los modelos evaluados demostraron sufrir una preocupante desviación estructural hacia la adulación del usuario. Básicamente, el sistema prioriza fabricar una respuesta que valide tus miedos o tus suposiciones previas, descartando la fría y objetiva literatura médica.
Imagina que escribes sugestionado pensando que tienes una afección grave. El chatbot, optimizado desde su entrenamiento para ser un asistente conversacional amable, empático y resolutivo, terminará amoldando sus pesos y probabilidades para no llevarte demasiado la contraria. Un fallo de alineación técnica que, en el entorno crítico de la salud, se vuelve letal.
Historias límite como la que difundió el portal Mein‑MMO sobre aquel agónico masaje cardíaco son excepciones estadísticas puras, no la norma a seguir. El joven que operó bajo presión reconoció que sonó la flauta al aplicar el ritmo de compresiones que le devolvió el servidor en tiempo real. Un solo token mal calculado por la red en esos milisegundos de inferencia habría acabado en tragedia absoluta.
Nos guste o no el avance imparable del software, usar estas redes en pleno ataque de pánico abre un debate ético de dimensiones colosales. Descartar la potencia de procesamiento que llevamos en el bolsillo parece un atraso, pero delegar decisiones críticas a un modelo predictivo es comprar todos los boletos para una desgracia evitable. Las latencias en los servidores son cada vez más bajas, sí, pero la fiabilidad sigue estando en fase beta.
Al final del día, la pelota se queda en el tejado de nuestro propio sentido común. Hoy en día, la IA rinde de forma espectacular para depurar bases de datos, organizar tu agenda o picar código en Python sin apenas despeinarse. Pero cuando el tiempo se congela y el pulso falla, la mejor instrucción que puedes ejecutar sigue siendo teclear el 112 y dejar que un especialista humano tome las riendas de la situación. Veremos si las futuras iteraciones de OpenAI logran domar este caos, pero hasta entonces, es mejor no jugar a la ruleta rusa con las APIs de nadie.
Me dedico al SEO y la monetización con proyectos propios desde 2019. Un friki de las nuevas tecnologías desde que tengo uso de razón.
Estoy loco por la Inteligencia Artificial y la automatización.
