Parte II: Más allá de la atención. El pensamiento emergente de las IAs

En la primera entrega exploramos cómo el mecanismo de atención permitió a los modelos de lenguaje entender el contexto y las relaciones entre palabras. Pero… ¿y si te dijera que eso solo fue el inicio?

A medida que escalamos estos modelos en tamaño y datos, emergen habilidades que no fueron programadas explícitamente, pero que sorprenden por su sofisticación. Hablamos de razonamiento, comprensión semántica profunda e incluso cierta «intuición» lógica. Aquí comienza lo verdaderamente fascinante.

Hay una distinción que atraviesa toda esta discusión: una cosa es lo que un modelo hace (su rendimiento) y otra lo que entiende (su competencia). En este artículo recorro estudios recientes que intentan medir esa distancia, sin exageraciones ni temores de ciencia ficción: qué sorprende, qué se rompe y qué sigue abierto.

De la predicción a la inteligencia: ¿cómo aprenden a razonar?

Aunque el entrenamiento de estos modelos se basa en algo aparentemente simple, predecir la siguiente palabra, en la práctica parecen captar regularidades del mundo que aparecen en el texto: patrones lógicos, físicos y psicológicos.

¿Cómo lo logran?

• La atención permite extraer información relevante del contexto inmediato (el prompt).
• Las capas de red neuronal feed-forward funcionan como una especie de «memoria semántica» del modelo, capaz de aplicar combinaciones de ideas aprendidas durante el entrenamiento.
• Juntas, permiten crear razonamientos analógicos, como «París es a Francia lo que Roma es a Italia».

Teoría de la mente: el examen que los modelos empezaron a aprobar

Primero, un concepto clave: la «teoría de la mente» (ToM, por sus siglas en inglés) es la capacidad de atribuir y rastrear los estados mentales no observables de otros, como sus creencias, intenciones y deseos. Es una habilidad fundamental que nos permite navegar nuestras complejas interacciones sociales, entender el sarcasmo, la mentira o la empatía. Durante mucho tiempo se consideró una capacidad exclusivamente humana.

Un estudio del investigador Michal Kosinski (2024) puso a prueba a los modelos de IA más avanzados con las tareas de «falsa creencia», el estándar de oro para medir la ToM. Estas tareas evalúan si se puede entender que otra persona tiene una creencia que sabemos que es falsa (por ejemplo, «Sally cree que su juguete está en la caja, aunque nosotros vimos que Anne lo movió a la cesta»). Mientras los modelos de IA más antiguos fallaban de forma sistemática, GPT-4 resolvió el 75% de estas tareas, un rendimiento a la par con el de un niño de 6 años.

Lo notable es que esta habilidad no fue programada intencionadamente. El estudio sugiere que la capacidad de modelar los estados mentales de otros pudo haber surgido como un subproducto no intencionado de la simple mejora de las habilidades lingüísticas de la IA. Al entrenarse para predecir el lenguaje humano con mayor precisión, la IA parece haber aprendido una de las estructuras subyacentes más profundas de nuestra comunicación: la mente de los demás. Es un ejemplo claro de rendimiento.

Pero esta «mente» es frágil

Justo cuando empezamos a pensar que la IA ha descifrado uno de los secretos de la cognición humana, otras investigaciones matizan esa lectura. A pesar del impresionante rendimiento en las pruebas clásicas de ToM, estudios más recientes revelan que esta aparente «mente» es frágil, cuestionando su competencia subyacente.

Una investigación de Lombardi y Lenci (2025), utilizando simulaciones más complejas basadas en acciones en lugar de solo respuestas de texto, encontró que GPT-4 falla con frecuencia en seleccionar acciones coherentes basadas en la atribución de creencias a otros agentes. En esencia, mientras el primer estudio demostraba que la IA podía pasar un examen teórico sobre psicología, el segundo demostró que no sabía cómo actuar en una situación social real. Puede recitar las reglas del juego, pero falla al jugar.

Esto ha llevado a una hipótesis alternativa: las habilidades de ToM de la IA podrían no ser un razonamiento genuino, sino el resultado de «asociaciones estadísticas superficiales». En otras palabras, los modelos no entienden realmente los estados mentales, sino que han memorizado patrones lingüísticos de su vasto entrenamiento que asocian ciertas situaciones con ciertas frases sobre creencias. La IA se ha vuelto tan buena imitando el lenguaje asociado a la teoría de la mente que es casi indistinguible del razonamiento real, pero se desmorona bajo un escrutinio más riguroso.

Matemáticas: resultados notables, con matices

Aunque no usan una calculadora interna, los modelos han aprendido a seguir patrones algorítmicos implícitos al resolver problemas matemáticos o de lógica:

• Descomponen problemas en pasos más simples (chain-of-thought).
• Generalizan métodos de solución aprendidos.
• Producen secuencias que se parecen a un razonamiento paso a paso, aunque no está claro si lo ejecutan o lo imitan.

Podemos enseñarle a razonar pidiéndole que piense «paso a paso»

De esta idea proviene una técnica de prompting conocida como «cadena de pensamiento» o chain-of-thought (CoT). La idea es simple: en lugar de pedirle a la IA solo la respuesta final, le proporcionamos ejemplos en los que se detallan los pasos de razonamiento intermedios para llegar a una conclusión. Un estudio de Moghaddam y Honey (2023) llevó esto al siguiente nivel. En sus pruebas de teoría de la mente, GPT-4 pasó de una precisión de casi el 80% en el modo zero-shot (sin ejemplos) a una precisión del 100% (en esa prueba) cuando se le proporcionaron prompts que combinaban la técnica CoT con la simple instrucción de pensar «paso a paso».

Esto sugiere que la competencia para el razonamiento complejo puede estar latente dentro de los modelos, y estas técnicas de prompting actúan como una clave para «desbloquear» un modo de procesamiento más sistemático, cerrando la brecha entre la capacidad oculta y el rendimiento observado.

H-Net: una arquitectura que rompe con el pasado

Todo lo anterior sigue dependiendo de una tecnología que tiene sus limitaciones: la tokenización. Dividir texto en «palabras artificiales» (tokens) puede ser eficiente, pero también introduce sesgos y limita la comprensión en lenguas complejas o sin espacios, como el chino.

Aquí entra en juego H-Net (Hwang, Wang y Gu, 2025), una nueva arquitectura que elimina la tokenización tradicional y reemplaza ese paso con un proceso completamente aprendido, jerárquico y contextual:

• Aprende automáticamente cómo segmentar el texto según el contenido.
• Funciona directamente a nivel de byte, sin perder información clave.
• Crea niveles de abstracción, como hacemos los humanos: letras, palabras, frases.

¿Qué lo hace diferente?

• Un módulo de enrutamiento detecta cambios en el significado del texto y propone límites inteligentes.
• Un módulo de suavizado convierte esas decisiones en cálculos suaves para que el modelo pueda aprender sin bloqueos.
• En los experimentos de sus autores, mejora a los modelos con tokenización en robustez ante errores de escritura y en idiomas o formatos donde la tokenización funciona peor, como el chino, el código o el ADN.

Además, decide por sí mismo cuánta energía computacional dedicar a cada palabra durante la inferencia, como si priorizara lo más importante del mensaje.

Conclusión

Los modelos de lenguaje hacen cosas que nadie programó explícitamente: resuelven tareas de falsa creencia, siguen cadenas de razonamiento, generalizan. También fallan donde un niño no fallaría: cuando la tarea exige actuar y no solo describir. Hoy no sabemos si lo que vemos es una forma incipiente de comprensión o una imitación estadística extraordinariamente buena. Lo honesto es sostener ambas posibilidades y diseñar pruebas que las distingan.

Referencias

• Hwang, S., Wang, B. y Gu, A. (2025). Dynamic Chunking for End-to-End Hierarchical Sequence Modeling. arXiv:2507.07955.
• Kosinski, M. (2024). Evaluating large language models in theory of mind tasks. Proceedings of the National Academy of Sciences, 121(45).
• Lombardi, A. y Lenci, A. (2025). Doing Things with Words: Rethinking Theory of Mind Simulation in Large Language Models. CLiC-it 2025.
• Moghaddam, S. R. y Honey, C. J. (2023). Boosting Theory-of-Mind Performance in Large Language Models via Prompting. arXiv:2304.11490.
• Wei, J. et al. (2022). Chain-of-Thought Prompting Elicits Reasoning in Large Language Models. NeurIPS 2022.