¿Quién Responde por los Errores de la Inteligencia Artificial en Salud Mental?

El debate sobre inteligencia artificial y orientación clínica revela una tensión de fondo: la primera consulta no es un filtro administrativo, sino un acto clínico. Según el marco que fija la Ley Nacional de Salud Mental y las objeciones de organizaciones profesionales, ese encuentro inicial incluye escucha, evaluación y decisiones que no pueden reducirse a una clasificación automática.

Además, la evidencia científica disponible marca un límite claro. Las herramientas de IA muestran beneficios acotados, sobre todo en síntomas leves y como complemento de tratamientos ya existentes. No hay respaldo suficiente para reemplazar funciones clínicas centrales, en especial la evaluación inicial y la orientación terapéutica.

El punto no es rechazar la tecnología, sino delimitar qué puede asistir y qué exige intervención humana.

La clave está en entender el mecanismo. Un algoritmo trabaja como el tablero eléctrico de una casa: detecta patrones, distribuye señales y activa un interruptor cuando reconoce cierto consumo. Sirve para ordenar el cableado. Pero no puede saber por qué una lámpara parpadea si el problema real está en la humedad de la pared.

Con la salud mental ocurre algo parecido. Expresiones como “tengo ansiedad” o “no puedo dormir” funcionan para la IA como etiquetas de entrada. Sin embargo, para la clínica esas frases son apenas la superficie. Debajo puede haber duelos, miedos, conflictos o contradicciones que ni la propia persona logra nombrar del todo.

Ahí aparece una pieza clave del primer encuentro: la entrevista de orientación. No se trata solo de identificar un síntoma, sino de alojar al paciente, es decir, reconocer al sujeto detrás de lo que dice y también detrás de lo que no puede decir con claridad.

El límite de la clasificación automática

Desde el psicoanálisis, la demanda de atención nunca coincide por completo con lo expresado de forma explícita. El síntoma no es un dato objetivo. Es una formación subjetiva atravesada por historia, deseos y conflictos. Por eso, anticipar su sentido sin escuchar antes puede cortar el circuito en el punto equivocado.

En cambio, la lógica de la IA busca reducir incertidumbre. Su central está diseñada para encontrar regularidades, comparar variables y ofrecer recomendaciones personalizadas. Ese engranaje puede ser útil para organizar información o detectar señales frecuentes, pero tropieza cuando aparece la excepción, que en salud mental no es un error del sistema: es el corazón del problema.

También está la cuestión de la responsabilidad. Un profesional puede explicar por qué tomó una decisión, revisarla y corregirla. Un algoritmo opaco, es decir, un sistema cuyo proceso interno no resulta fácil de auditar, vuelve más difusa la respuesta ante errores, sesgos o fallos en la detección de riesgos.

Qué puede hacer la IA y qué no

Esto no cancela la oportunidad tecnológica. La IA puede asistir en tareas de apoyo, seguimiento de síntomas leves o respuestas iniciales bajo supervisión. Puede funcionar como un mapa. Pero un mapa no reemplaza a quien conoce el terreno cuando hay señales confusas o peligro real.

La aplicación práctica del debate es directa. Si la eficiencia se vuelve el criterio dominante, la lógica de la clasificación puede desplazar a la lógica de la escucha. Y cuando eso pasa, el sufrimiento humano corre el riesgo de convertirse en una casilla más dentro de una planilla.

Por eso, la discusión no debería girar en torno a si la IA entra o no a la consulta. La pregunta más útil es otra: en qué tramo del recorrido suma una herramienta y en qué tramo hace falta una presencia humana capaz de escuchar lo que ningún cálculo termina de captar. En salud mental, no todo lo importante hace ruido en la superficie. A veces, la pieza clave no es el interruptor que responde más rápido, sino la mano experta que sabe cuándo no conviene apagar la luz.

Sofía Sicilia

Directora de operaciones en GptZone. IT, especializada en inteligencia artificial. Me apasiona el desarrollo de soluciones tecnológicas y disfruto compartiendo mi conocimiento a través de contenido educativo. Desde GptZone, mi enfoque está en ayudar a empresas y profesionales a integrar la IA en sus procesos de forma accesible y práctica, siempre buscando simplificar lo complejo para que cualquiera pueda aprovechar el potencial de la tecnología.