Los errores ortografia Google AI han puesto en evidencia una limitación fundamental que ninguna empresa debería ignorar. Cuando el buscador más usado del mundo no puede deletrear correctamente su propio nombre, contando dos P en ‘Google’ o transformando ‘periodismo’ en ‘j-o-u-r-n-a-d-i-s-m’, estamos ante un problema que va más allá de simples fallos técnicos.
Qué está pasando exactamente con los AI Overviews
Los AI Overviews de Google, la función que muestra respuestas generadas por IA en la parte superior de los resultados de búsqueda, están cometiendo errores de deletreo que cualquier niño de primaria detectaría. Cuando los usuarios preguntan cuántas letras P tiene la palabra ‘Google’, el sistema responde que dos. Al solicitar el deletreo de ‘periodismo’ en inglés, produce ‘j-o-u-r-n-a-d-i-s-m’ en lugar de ‘j-o-u-r-n-a-l-i-s-m’.
Estos no son casos aislados ni errores menores. Representan una falla sistemática en cómo los modelos de lenguaje procesan información a nivel de caracteres individuales. Los investigadores han documentado que esta limitación afecta prácticamente a todos los LLM basados en arquitectura transformer, desde GPT hasta Claude, aunque Google es quien más visibilidad pública está dando al problema al integrarlo directamente en su buscador.
Por qué los LLM no pueden contar letras correctamente
La raíz del problema está en cómo funcionan internamente estos modelos. Los LLM no procesan texto letra por letra como lo haríamos los humanos al deletrear una palabra. En su lugar, dividen el texto en ‘tokens’ – fragmentos que pueden ser palabras completas, partes de palabras o incluso caracteres individuales, dependiendo del contexto y la frecuencia de aparición en los datos de entrenamiento.
Cuando un modelo ve la palabra ‘Google’, no la procesa como G-o-o-g-l-e, sino como uno o varios tokens numéricos. Esta tokenización hace que contar letras específicas sea una tarea contraintuitiva para el modelo, similar a pedirle a alguien que cuente las letras de una palabra que solo puede ver como un símbolo abstracto. La arquitectura transformer, diseñada para entender patrones semánticos y contextuales, simplemente no está optimizada para manipulaciones a nivel de carácter.
Cómo pueden aplicar esto las empresas hoy
Esta limitación tiene implicaciones directas para cualquier empresa que esté implementando o evaluando soluciones de IA. Primero, establece la necesidad absoluta de sistemas de verificación para cualquier output de IA que requiera precisión factual, especialmente en tareas que involucren procesamiento de texto detallado como transcripciones, análisis de documentos legales o generación de contenido técnico.
Las empresas deben implementar capas de validación específicas para tareas que requieran manipulación precisa de texto. Esto incluye verificación ortográfica tradicional, conteo de caracteres mediante algoritmos deterministas, y revisión humana para contenido crítico. No se trata de descartar la IA, sino de entender sus límites y diseñar workflows que los compensen de manera sistemática.
Análisis Blixel
Este episodio ilustra perfectamente por qué el hype de la IA ‘perfecta’ es peligroso para las empresas. Google, con todos sus recursos y expertise, está mostrando públicamente que incluso los modelos más avanzados tienen agujeros fundamentales en tareas que consideramos triviales. La lección no es que la IA sea inútil, sino que tratarla como una caja negra infalible es un error costoso.
Para las PYMEs españolas evaluando IA, esto refuerza una regla de oro: nunca implementes IA sin entender exactamente qué puede y no puede hacer. Los errores de deletreo son la punta del iceberg de limitaciones más profundas en razonamiento lógico, matemáticas básicas y procesamiento preciso de información. La IA es una herramienta poderosa cuando sabes cómo usarla, pero puede ser un desastre cuando asumes que ‘simplemente funciona’ en todos los contextos.
¿Quieres aplicar esto en tu empresa? En Blixel.ai te ayudamos a integrar IA con sentido común. Hablemos.