El 87% de los ejecutivos proyecta un aumento de ingresos impulsado por GenAI en los próximos tres años, según el informe Tendencias LOL 2025.

Comprensión Potemkin: el límite invisible de la inteligencia artificial

Aunque los modelos de IA responden con claridad y precisión, su comprensión real es limitada. La “comprensión Potemkin” revela cómo simulan saber sin entender, mostrando una fachada de conocimiento que se desmorona al aplicarlo en contextos prácticos o complejos.

Redacción de ITSitio julio 8, 2025

4 minutos de lectura

A primera vista, los modelos de inteligencia artificial parecen saberlo todo. Responden con rapidez, explican con claridad y, a veces, incluso sorprenden por su creatividad. Sin embargo, bajo esa apariencia sofisticada y convincente, se esconde un vacío crucial: la falta de comprensión real. A este fenómeno se lo conoce como “comprensión Potemkin”, y representa una de las principales limitaciones que aún enfrenta la IA en su evolución.

Qué significa comprensión Potemkin

El término “comprensión Potemkin” se inspira en una famosa anécdota del siglo XVIII, cuando el general ruso Grigori Potemkin habría construido aldeas falsas para impresionar superficialmente a la emperatriz Catalina la Grande durante una visita a Crimea. Lo que parecía ser prosperidad y orden era, en realidad, una puesta en escena cuidadosamente elaborada.

Hoy, el mundo de la inteligencia artificial enfrenta una metáfora similar. Los grandes modelos de lenguaje, como GPT-4o, Claude 3.5 o Llama 3.3, pueden ofrecer respuestas detalladas y coherentes sobre casi cualquier tema. Pero según un reciente estudio conjunto entre el MIT, Harvard y la Universidad de Chicago, esa precisión aparente no equivale a comprensión. Los investigadores descubrieron que aunque estos modelos aciertan en un 94% al definir conceptos, fallan en más del 55% de los casos cuando deben aplicar ese conocimiento en tareas concretas.

Aunque generan respuestas precisas, los estudios revelan que fallan al aplicar conceptos en contextos nuevos o prácticos.

La IA, en otras palabras, puede explicar bien lo que es una rima ABAB, pero cuando intenta escribir un poema siguiendo ese esquema, comete errores básicos. Puede identificar un sesgo en teoría, pero no logra detectarlo cuando se manifiesta en un texto complejo. Esa brecha entre “saber decir” y “saber hacer” es el corazón del problema.

Por qué la IA no entiende

Lo que revela este fenómeno es que los modelos actuales están diseñados para imitar el lenguaje humano, no para comprenderlo. Basan sus respuestas en correlaciones estadísticas aprendidas de grandes volúmenes de texto, sin una representación interna coherente de los conceptos que manejan. Es como si repitieran una receta sin entender para qué sirve cada ingrediente.

Esta ilusión de entendimiento puede ser particularmente peligrosa en contextos donde se asume que la IA entiende lo que dice. En el ámbito educativo, por ejemplo, un alumno podría utilizar un modelo de IA para resolver un problema sin advertir que la solución carece de lógica práctica. En medicina, derecho o política, esta falsa seguridad podría traducirse en decisiones mal fundamentadas, con consecuencias graves.

El fenómeno Potemkin pone en duda el uso de la inteligencia artificial en áreas sensibles como salud, educación y justicia.

Cómo se evaluó a los modelos

Una de las conclusiones más importantes del estudio es que los métodos tradicionales para evaluar la IA resultan insuficientes. Pruebas centradas en la corrección gramatical, la fluidez o la precisión de definiciones no logran detectar si hay un verdadero entendimiento detrás de las respuestas.

Para superar este desafío, los investigadores propusieron pruebas más exigentes que obligan a los modelos a demostrar que pueden aplicar conceptos en distintos contextos. A través de lo que denominaron “keystone sets”, evaluaron si los modelos eran capaces de identificar ejemplos correctos, corregir errores o construir nuevos casos aplicando el mismo concepto previamente definido. Los resultados fueron claros: muchos modelos no mantienen una coherencia interna entre lo que explican y lo que hacen.

Otras limitaciones de la IA

Además de las fallas al aplicar conceptos, otros estudios han demostrado que la IA también tropieza con textos largos y contextos complejos. Investigaciones de la Universidad Ludwig Maximilian de Múnich y Adobe Research mostraron que la capacidad de los modelos disminuye a medida que el contenido se vuelve más extenso o requiere relaciones entre ideas distribuidas en varios párrafos.

La IA puede explicar conceptos con soltura, pero su falta de sentido común y razonamiento limita su uso confiable.

Esto se debe a que la IA carece de sentido común, experiencia del mundo físico y comprensión emocional. No sabe por qué una metáfora funciona o cómo se interpreta una ironía. Su creatividad no es auténtica: simplemente reorganiza patrones aprendidos sin comprender su significado.

Qué riesgos implica

La comprensión Potemkin no es solo un problema teórico. Si un sistema de IA se utiliza en campos sensibles —como salud, justicia o educación—, una respuesta incorrecta basada en una falsa comprensión puede generar errores graves. La apariencia de entendimiento puede ocultar fallas profundas.

Esto también plantea un problema en la relación que las personas establecen con estas tecnologías. Si confiamos ciegamente en una IA que “suena inteligente”, corremos el riesgo de delegar decisiones importantes a una herramienta que, en realidad, no entiende lo que está haciendo.

Cómo debería evaluarse la IA

Los especialistas coinciden en que es necesario repensar las formas en que se evalúa a la inteligencia artificial. Ya no alcanza con medir su precisión en pruebas que solo evalúan la forma. Se necesitan métodos que desafíen su capacidad de aplicar conocimiento, de adaptarse, de razonar con lógica.

Comprensión Potemkin: el pensamiento crítico humano sigue siendo clave para interpretar y validar las respuestas generadas por inteligencia artificial. — El pensamiento crítico humano sigue siendo clave para interpretar y validar las respuestas generadas por inteligencia artificial.

También se discute el desarrollo de modelos híbridos, que combinen lenguaje con mecanismos de razonamiento simbólico o sistemas que integren una comprensión más estructural del mundo. El objetivo no es que la IA simplemente diga algo bien, sino que realmente entienda lo que dice y por qué lo dice.

El rol del pensamiento humano

En este contexto, el pensamiento crítico sigue siendo esencial. Ningún modelo, por avanzado que sea, puede reemplazar la capacidad humana de interpretar, cuestionar y razonar. La comprensión Potemkin es un recordatorio de que la inteligencia artificial puede ser poderosa, pero aún necesita supervisión, criterio y sentido común.

A medida que estas herramientas ganan protagonismo en todos los sectores, resulta indispensable formar usuarios informados, capaces de distinguir entre una respuesta bien escrita y una solución bien razonada.