¿Qué pasa cuando le pides a una de las inteligencias artificiales más avanzadas del planeta que cuente cuántas letras tiene su propio nombre? Pues que falla estrepitosamente. La todopoderosa Google ha vuelto a tropezar con la misma piedra, y esta vez su función AI Overview está dejando en evidencia los límites más absurdos y cómicos de la tecnología actual.
Nos bombardean a diario diciendo que estas máquinas van a programar software complejísimo o a sustituir empleos enteros. Sin embargo, resulta que creen firmemente que la palabra «Google» se escribe con dos letras «p«. Una auténtica locura. Tras meses intentando convencernos de que su buscador vitaminado con IA es el futuro definitivo de internet, la realidad nos da un necesario bofetón de humildad.
De recomendar pegamento en la pizza a no saber deletrear
El historial de despropósitos de la inteligencia artificial de los de Mountain View empieza a ser digno de estudio. Si hace poco nos sorprendía sugiriendo que añadiéramos pegamento al queso de la pizza para que no se cayera, o que comiéramos un par de piedras al día por sus minerales, ahora el problema ataca directamente a la base del lenguaje humano. Y es que los modelos de lenguaje actuales son pésimos en ortografía.
Si miramos los últimos errores reportados por los usuarios, la situación roza lo surrealista. El sistema ha llegado a afirmar con total seguridad que la palabra inglesa «poop» contiene exactamente una letra «r». Pero claro, el nivel de confusión no termina ahí, ni mucho menos, como ya demostró un error reciente donde la definición de «disregard» arrojó un mensaje irrelevante propio de un chatbot averiado.
En otras consultas recientes, la IA ha escrito «journalism» de la pintoresca forma «j-o-u-r-n-a-d-i-s-m«. Ni siquiera el apellido del actual o pasado presidente de Estados Unidos se ha librado de esta dislexia artificial. El sistema acabó deletreándolo como «t-r-p-u-m», aunque la máquina sabía, curiosamente, que el nombre original llevaba una «p». Así de absurdo. Todo esto ocurre en el peor momento posible para la estrategia comercial de la empresa.
El problema de los «tokens»: por qué la IA no lee como tú
Probablemente te estés preguntando cómo es posible que un sistema capaz de aprobar exámenes de abogacía o resolver problemas matemáticos avanzados tenga la capacidad ortográfica de un niño de preescolar. La clave de todo este embrollo reside en la misma arquitectura del software. Los famosos LLM no leen el texto como una secuencia tradicional de letras. Básicamente, lo que hacen es devorar los inmensos volúmenes de datos y trocear el lenguaje en «tokens».
Estos tokens pueden ser palabras enteras, sílabas sueltas o simplemente fragmentos de texto aleatorios. A partir de ahí, el algoritmo convierte esos pedazos en representaciones numéricas puras para poder operar con ellas. Es decir, el modelo no «ve» las letras individuales que forman una frase. Solo ve un bloque codificado matemáticamente que procesa a velocidades de vértigo guiado por el contexto.
También te puede interesar:Mientras Critican a Google por Imponer IA en el Buscador, Crecen las Descargas de DuckDuckGoDe hecho, en la comunidad técnica es muy habitual usar el reto de la palabra «strawberry» (preguntarle a la IA cuántas ‘r’ tiene) para destapar al instante esta debilidad estructural. Y casi siempre fracasan. Como señala el investigador Matthew Guzdial, estas inmensas redes neuronales reconocen las palabras completas como unidades sólidas, memorizadas por fuerza bruta. No tienen ni la más remota idea de lo que hay dentro de ellas.
¿Tiene solución esta ceguera ortográfica en la IA?
Evidentemente, Google sabe que esto es un problema de imagen enorme frente a la dura competencia actual. La propia empresa californiana ha reconocido públicamente que contar letras dentro de las palabras es un desafío técnico muy bien documentado. Y sí, a nivel de relaciones públicas, afirman estar trabajando a destajo en solucionarlo cuanto antes.
La letra pequeña es que resolver este fallo arquitectónico no es nada fácil, y no genera demasiado optimismo entre los investigadores. Para los ingenieros del sector, enseñar a un LLM a deletrear a la perfección simplemente no es una prioridad absoluta en sus gigantescos pipelines de desarrollo. Su utilidad real se mide en la capacidad de inferencia general o en asistir en la creación de código abierto. No en ganar un concurso escolar de deletreo.
Por si fuera poco, muchos expertos coinciden en que no existe una tokenización perfecta debido a la naturaleza flexible y altamente ambigua de los idiomas humanos. Esta limitación está grabada a fuego en el ADN de la tecnología actual. Un pequeño peaje a pagar por la inmensa capacidad de procesamiento que nos ofrecen día a día.
Quizás la lección más valiosa de todos estos fallos garrafales no sea puramente técnica, sino práctica para nuestro uso diario. Estos errores evidentes nos sirven como un recordatorio vital de que la inteligencia artificial está muy lejos de ser infalible. Seguimos delegando nuestra confianza en sistemas que alucinan con una facilidad pasmosa. La pelota ahora mismo está en el tejado de las grandes tecnológicas para pulir sus algoritmos, pero hasta entonces, tocará aplicar el sentido crítico y verificar cada respuesta.
Me dedico al SEO y la monetización con proyectos propios desde 2019. Un friki de las nuevas tecnologías desde que tengo uso de razón.
Estoy loco por la Inteligencia Artificial y la automatización.
