Imagina que buscas en internet cómo lidiar con una crisis de ansiedad y el buscador te responde con un consejo dudoso sacado de un hilo anónimo de Reddit. Piénsalo un segundo. Ese es exactamente el escenario al que se enfrentan millones de adolescentes cada día. Tras meses de quejas silenciosas en el sector educativo, una contundente investigación de Common Sense Media ha destapado las graves carencias de los nuevos resúmenes generados por inteligencia artificial de Google.
La cruda realidad es que el famoso Modo IA y los AI Overviews no son el asistente infalible que nos querían vender. Al contrario, están inyectando sesgos, información inventada y graves fallos de seguridad directamente en las pantallas de los más jóvenes.
La ruleta rusa del algoritmo: 43 % de variabilidad
Si vamos a los datos duros, el experimento deja poco margen para la duda. Los investigadores crearon perfiles falsos simulando el comportamiento de un niño de 11 años y un adolescente de 15, lanzando la friolera de 2.624 interacciones contra el buscador. ¿El resultado? Un nivel de inconsistencia que asusta.
Fíjate en este detalle clave. Aunque Google saca pecho afirmando que su precisión ronda el 90% en temas genéricos o de actualidad, la maquinaria gripa cuando haces consultas más específicas. En un 43 % de los casos, la inteligencia artificial arrojó respuestas significativamente distintas a preguntas que eran prácticamente idénticas. Una auténtica lotería informativa.
También te puede interesar:El Modo IA de Google Ya Está Disponible en Español a Nivel Mundial
El motivo principal de este desajuste reside en las fuentes que alimentan al mastodonte. Resulta que un 29 % de los enlaces citados provenían de plataformas como Reddit, grupos de Facebook o vídeos de YouTube. Hablamos de contenido generado por usuarios aleatorios que el buscador te empaqueta con una pátina de autoridad absoluta. Y, evidentemente, un menor de edad no suele tener el filtro crítico necesario para detectar cuándo le están colando información falsa.
Adiós al esfuerzo cognitivo en las aulas
A ello se le suma el daño colateral directo que esto supone para el sistema educativo. Durante las pruebas técnicas, el Modo IA de Google fue capaz de resolver ejercicios matemáticos y redactar ensayos completos en el 100 % de los 180 casos evaluados. Ni se despeinó. Te escupe los deberes perfectamente terminados en un par de segundos.
Básicamente, esta automatización extrema aniquila el esfuerzo intelectual del estudiante. Los especialistas en pedagogía ya están encendiendo las alarmas, advirtiendo que delegar las tareas a la máquina impide que los alumnos desarrollen la memoria de trabajo, la resiliencia y el razonamiento lógico. Si el buscador te hace el trabajo pesado, tu cerebro deja de entrenar. Así de simple.
Consejos sobre resacas y lagunas en salud mental
Pero el punto más oscuro de todo el informe sale a la luz al evaluar cómo gestionan estas herramientas las crisis emocionales. Y aquí no debería haber margen para el error. En situaciones donde era vital recomendar ayuda psicológica profesional, la función AI Overview solo lo hizo en un preocupante 58 % de las ocasiones.
También te puede interesar:El Modo IA de Google Ya Está Disponible en Español a Nivel MundialLa letra pequeña es que los grandes modelos de lenguaje (LLM) de Google tienen serios problemas para leer entre líneas. Si un usuario expresa ideación suicida de forma muy explícita, el sistema reacciona de forma segura el 71 % de las veces. Sin embargo, si la señal de socorro es indirecta, la eficacia se desploma a la mitad. En casos de trastornos alimentarios la IA apenas sugirió ayuda en el 38 % de las consultas.
Por si fuera poco, los perfiles que simulaban ser menores recibieron consejos detallados para curar resacas e incluso mensajes que felicitaban el consumo de cannabis. Todo esto sin adaptar el tono ni incluir advertencias médicas severas para su edad. Un despropósito que normaliza conductas de alto riesgo frente a un público altamente influenciable.
El botón de apagado que Google te oculta
Y aquí viene la verdadera pesadilla para padres y tutores. Estas funciones están soldadas al código base del buscador y, tal y como aseguró la propia organización tras finalizar las pruebas, es totalmente imposible desactivarlas desde las cuentas familiares. Los adultos están atados de pies y manos frente a una plataforma que procesa 14.000 millones de consultas diarias.
Teniendo en cuenta que se estima que un 75 % de los preadolescentes y adolescentes en Estados Unidos ya interactúan con herramientas de IA de forma rutinaria, la escala global del problema es monstruosa.
La pelota está ahora mismo en el tejado de Mountain View. No sirve de mucho colocar un diminuto descargo de responsabilidad diciendo que «la IA puede cometer errores» cuando sabes perfectamente que tu usuario final tiene 11 años. Veremos si la gran G decide recapacitar y ofrecer opciones reales de control, o si prefieren seguir utilizando a toda una generación de estudiantes como conejillos de indias de su última tecnología.
Me dedico al SEO y la monetización con proyectos propios desde 2019. Un friki de las nuevas tecnologías desde que tengo uso de razón.
Estoy loco por la Inteligencia Artificial y la automatización.
