INICIO / ARTÍCULO PRINCIPAL
¿Puede la IA imaginar? Fronteras entre la predicción estadística, la simulación y la proyección humana
La inteligencia artificial es mucho más que ChatGPT. La afirmación de esta frase tan sencilla y aparentemente obvia, resulta imprescindible ante la cada vez más reducida comprensión y el limitado uso de las posibilidades de una tecnología que busca regularse e implementarse con urgencia en todo ámbito, incluyendo el educativo.
Decimos reducida comprensión y uso limitado de las posibilidades en razón de algunas intuiciones derivadas de la observación cercana de programas formales y no formales de formación en IA para docentes, enfocados muchos en el aprovechamiento pedagógico de aquellas de Modelo de Lenguaje Extenso (LLM por sus siglas en inglés), y el desarrollo de foros y espacios de discusión centrados también en, prácticamente, este único tipo de sistemas o el de las IA generativas. Datos recabados en un breve rastreo bibliográfico parecen mostrar que nuestras intuiciones no son simples especulaciones o premisas erradas.
El Informe EDUTEC sobre Inteligencia Artificial y Educación de la Asociación Internacional para el Desarrollo de la Tecnología Educativa (2024) recuerda la existencia del Ciclo de Sobreexpectación de Gartner y lo demuestra con el análisis de datos recolectados entre docentes y estudiantes de España, México y Colombia de Instituciones de Educación Superior: ante la gran publicidad y pese a la amplia oferta tecnológica, los profesores encuestados utilizan exclusivamente sistemas de IA Generativa para prestar asesoría a sus estudiantes o cumplir tareas administrativas (Chatbots), producir material educativo (ChatGPT, DeepL, Perplexity, herramientas inteligentes de Canva y DALL-E), o realizar búsquedas, mejorar textos y traducirlos (Gemini, Grammarly). Asimismo, del informe La llegada de la IA a la educación en América Latina: en construcción, preparado por ProFuturo y la Organización de los Estados Iberoamericanos para la Educación, la Ciencia y la Cultura (2025), que examina y describe 26 iniciativas continentales en las que se emplean desarrollos o soluciones de IA (la mayoría adelantadas por el sector privado), se puede extraer que casi en su totalidad corresponden a proyectos que integran sistemas de tipo generativo (como chatbots y asistentes conversacionales) y plataformas de aprendizaje adaptativo, siendo sus principales aplicaciones la generación de contenidos personalizados, la planificación docente automatizada, la tutoría digital y la evaluación con retroalimentación inmediata.
Frente a este escenario, y con la intención de ampliar la reflexión sobre lo que aún no comprendemos de la inteligencia artificial, discutimos algunas inquietudes acerca de los principios operativos de esta tecnología, los puntos de encuentro y divergencia con el pensamiento humano, y los comportamientos que han asombrado a desarrolladores, con Rémy Cazabet, profesor de la Universidad Lyon 1 (Francia), miembro administrativo de la PCI Network Science —plataforma de revisión por pares que integra a expertos en ciencia de redes de países como Alemania, Francia, Italia, Estados Unidos, Benín y China— y hasta hace poco, investigador invitado del Grupo de Univalle en Inteligencia Artificial (GUIA) de la Escuela de Ingeniería de Sistemas y Computación.
¿Qué hace realmente un LLM o Modelo de Lenguaje Extenso?
Parece que cada vez que se dice IA, profesores y estudiantes imaginan asistentes virtuales como ChatGPT, reduciendo un campo disciplinar basto a la idea de asistir, o mejor, comunicarse con un consultorio omnirresolutivo o una especie de oráculo. Esta reducción epistemológica no es inocente, pues deriva de un desconocimiento del funcionamiento operativo de una amplia gama de sistemas diferenciados por el tipo de arquitectura que los soporta, su anatomía en términos de independencia de la intervención humana, su función e incluso su existencia empírica o teórica (conceptos como la superinteligencia, por ejemplo, aún no tienen modelos reales).
En esa diversidad aparecen los LLM o Modelos de Lenguaje Extensos, popularizados a raíz del lanzamiento de ChatGPT en 2022, y sobre los que el profesor Cazabet explica que tras haber sido alimentados con grandes cantidades de datos —la aspiración de los grandes desarrolladores es toda la literatura del mundo— y unas reglas base proporcionadas por seres humanos, aprenden estrategias propias para resolver problemas. La operación fundamental es, en apariencia, sencilla: la máquina predice palabras siguiendo lo que “ha visto” en los textos que sus creadores le han provisto. Pero esta simplicidad superficial, nos dice, oculta una estructura de extraordinaria complejidad matemática en la que los números, entendidos como vectores, se organizan en paquetes o bloques de cientos, miles o millones y cuyas pequeñas variaciones cambian no sólo las palabras, como conceptos, sino sus representaciones.
|
“El sistema está aprendiendo operaciones matemáticas. Puedo tomar la palabra <<médico>>, que por una cuestión de sesgo el sistema la relaciona con un rol masculino… Esa palabra tiene un código, y como se trata de operaciones matemáticas, puedo sumarle otro código, restarle otro y obtener así, la palabra <<médica>>. La manera de entrenar estos LLM es mostrarles entradas y salidas lógicas, decirles: si te muestro esto, tú debes responder esto. Lo que hace la diferencia entre un sistema sencillo y ChatGPT es lo que llamamos transformers; la idea general es la misma, solo que las IA encontraron nuevas maneras de hacer funciones matemáticas más poderosas”, explica Cazabet.
Los transformers son, en pocas palabras, el cerebro de las inteligencias artificiales modernas y funcionan mediante modelos de aprendizaje profundo en los que la información se procesa por capas, permitiendo con ello que los datos adquieran variadas formas de representación y esto decante en una mejor predicción, clasificación e identificación de patrones. La gran innovación de los transformers es la capacidad de rastrear relaciones entre palabras gracias a un mecanismo de “autoatención” que le posibilita al sistema analizar secuencias de texto en paralelo y en su totalidad, en lugar de hacerlo simplemente sobre la individualidad y sucesividad de sus partes.
|
La introducción de los transformers ha sido clave para alcanzar la generalización, esa particular acción por la que los seres humanos consolidamos conceptos, reglas y categorías generales a partir de la observación y la abstracción del contenido de situaciones particulares más allá de la memorización. “Antes, el sistema no tenía que aprender o entender nada, sólo tenía que retener. Ahora se hace algo distinto: los investigadores le muestran al sistema cien palabras de un libro, y este, aun cuando pueden cambiar algunas palabras al azar, seguirá entregando respuestas o salidas correctas porque las ha entendido, ya no memorizado, pues eso no es interesante. El sistema tiene que hacer una generalización que funcione con todas las frases de todo el mundo. Tiene que hacer conceptos”, enfatiza el profesor Cazabet.
Esta generalización que, es necesario decir, es forzada para evitar la simple memorización, produce lo que los investigadores han denominado universalidad conceptual. Al respecto, nuestro interlocutor amplía: “Se puede demostrar que el sistema, después de aprender con todos los libros de la humanidad, desarrolla un espacio abstracto en el que existen significados compartidos. Un ejemplo: si uno le pregunta a este tipo de IA el código de la palabra <<rey>> y sobre él se hace la sustracción del código de la palabra <<hombre>> y se adiciona el de <<mujer>>, el resultado va a ser casi igual al código de la palabra <<reina>>. Del mismo modo, si uno pregunta cuál es el código de Colombia, de Francia, de Venezuela, se puede verificar que para la IA, los códigos de Colombia y de Venezuela van a estar muy cerca, e igual el de Francia y España, pero el de Francia y el de Colombia van a ser muy diferentes. Entonces se puede ver que el sistema aprendió no sólo una representación geográfica, sino cómo se parecen los conceptos de esos países, y eso lo hace con todo”.
Pero aquí emerge una distinción crucial con el pensamiento humano: esta universalidad conceptual es el resultado de una optimización matemática, mas no de una comprensión vivida. La IA cambia constantemente los parámetros con los que emite respuestas o elabora salidas, y lo hace en direcciones aleatorias para observar si el resultado es mejor o peor; pero carece de intención y de proyección hacia el futuro, pues no hay cuerpo que sienta ni subjetividad que aspire a la acción. En la máquina corre, únicamente, una optimización de la función matemática. Con la toma de conciencia y la comprensión de esta diferencia, los usuarios pueden mejorar las órdenes (prompts) que dan a los sistemas LLM.
La temperatura: cuando la máquina simula imaginar
Si la imaginación humana implica la capacidad de proyectar, de representar mentalmente lo que no está presente, de componer imágenes únicas e irrepetibles del mundo en diversos marcos y modos de sensibilidad, ¿existe en la máquina algún tipo de correspondencia a esta habilidad?
Rémy Cazabet nos acerca a un concepto revelador: la temperatura, un parámetro que hace que la IA —especialmente los modelos que operan por aprendizaje profundo— responda con mayor o menor “imaginación” a nuestras solicitudes. “Lo que está aprendiendo la IA son probabilidades. En un texto de cien palabras, por ejemplo, ¿cuál es la probabilidad de que tras una palabra, la próxima sea <<gato>>, <<perro>>, etcétera? Con la temperatura en cero el sistema elige la palabra más probable, pero al aumentar su graduación, elige una palabra al azar en un bias (sesgo) más amplio de las probabilidades. Es por la temperatura que si uno pregunta dos veces lo mismo, la IA puede responder dos cosas diferentes. Si pones la temperatura en cero, responderá siempre la misma cosa porque es un sistema determinista”.
Así entonces, la temperatura difiere radicalmente de la imaginación humana, pues esta última no opera sobre ajustes o parámetros de probabilidad y coherencia, e implica, en cambio, la capacidad de crear, de prefigurar lo posible (y lo imposible) involucrado un azar sobre el que nunca hay absoluto control, y en el que aparecen de manera relevante cuestiones como el deseo, el sentir, la intención y la dirección dada a lo creado. La imaginación humana otorga sentido allí donde antes no lo había, mientras que la temperatura de la máquina es, en el fondo, una simulación estadística de la variabilidad de información que le ha sido suministrada; no es una verdadera apertura a lo inesperado.
El razonamiento infiel: cuando la máquina finge cómo piensa
Entre los aspectos más llamativos de la observación y descripción del funcionamiento de los sistemas IA actuales, se encuentra la distinción entre lo que los expertos denominan razonamiento fiel e infiel. En un artículo publicado por Anthropic en 2025, los desarrolladores afirman de manera tajante que los modelos de razonamiento no siempre dicen lo que piensan, o, para añadir precisión, la fidelidad u honestidad de cómo lo piensan.
Claude, por ejemplo, puede revelar la forma en que elaboró respuestas o encontró soluciones a problemas, detallando el paso a paso. Sin embargo, muchos de los pasos informados pueden no haberse desarrollado y corresponder a acciones o argumentos que el sistema considera que los observadores humanos aceptarán como plausibles. Además, gracias al referido estudio sistemático, la compañía estadounidense concluyó que la IA oculta información relevante sobre sus cadenas de razonamiento. El experimento fue a lo sustancial: con el objetivo de determinar si los sistemas Claude 3.7 Sonnet de Anthropic y R1 de DeepSeek reconocían utilizar información clave e ineludible en la resolución de problemas, los investigadores suministraron dicha información con gran sutileza, en forma de pistas. El resultado fue negativo: las IA evadieron en altísimos porcentajes reconocer que habían empleado los datos, especialmente cuando estos representaban información considerada de riesgo, ya sea porque los sistemas no deberían poder disponer de ellos o porque comprometían límites éticos. En concreto, los modelos estudiados han desarrollado una estrategia de ocultamiento; saben que una pista es importante, pero eligen no revelarla o hablar de ella en su explicación.
La pregunta que aparece inmediatamente es, ¿está la IA fingiendo un pensamiento? Rémy Cazabet explica que —dejando a un lado la discusión sobre la intención, propia del ser humano—, la IA ha desarrollado un tipo de pensamiento más complejo del esperado por los investigadores. “La IA aprendió a hacer respuestas parecidas a las que los humanos harían. La manera como están razonando estos sistemas, como están pensando, deriva de que vieron muchos ejemplos de cómo pensar. Y en el camino hay dos procesos distintos. Uno, del aprendizaje de las formas de pensar humanas, que aprendieron con textos, ejemplos de textos; y otro, el de las operaciones matemáticas de la red neuronal. Son dos cosas paralelas, pero no son la misma cosa. Entonces lo que pasa es que en una capa, la IA puede decir <<yo estoy pensando de esta manera>>, pero está haciendo una imitación de cómo aprender, cómo pensar, y así el pensamiento descrito va a ser lógico o parecido a algo lógico, pero en la matemática hace algo que puede no corresponder a eso, hace algo distinto”.
Algo similar al razonamiento infiel tiene lugar en la producción de pensamiento humano, ya que las operaciones neuronales que se desencadenan en nuestro cerebro cuando pensamos no son exactamente —casi que en ningún nivel— las mismas operaciones con las que describimos cómo hemos razonado. Esto puede constatarse fácilmente al relatar una y otra vez cómo se ha analizado una situación específica y cómo se han elaborado las abstracciones en torno a ella, sin que esto incluya una descripción de lo que ha ocurrido material y químicamente en nuestro cerebro.
La caja negra y el espejo biológico
Tomando como excusa el mencionado estudio elaborado por Anthropic y resaltando que para ese tipo de investigaciones el gigante tecnológico desarrolló una herramienta de observación de los patrones de activación internos a los sistemas, a la que llamó microscopio de IA, nos preguntamos también por los efectos del uso indiscriminado en la informática de denominaciones que emulan conceptos con los que se describe a los organismos vivos, sus relaciones o la fisiología de la mente humana, estableciendo con ellas una suerte de analogía que puede llegar a crear falsas expectativas sobre la tecnología o azuzar alertas desproporcionadas sobre el desplazamiento de los seres humanos y sus capacidades.
Sobre el uso de la terminología de la biología y la verdadera semejanza de los procesos de las máquinas y los de la mente humana, Remy Cazabet aclara: “Hay algo llamado neuronas artificiales que recibe ese nombre porque al principio la idea era construir algo parecido al cerebro. ¿Si hay similitudes con lo que pasa en nuestra cabeza? Sí, las neuronas artificiales funcionan con inputs y outputs eléctricos de forma parecida a como funciona la sinapsis de nuestras neuronas y por la que se transmiten los impulsos nerviosos. A su vez, al complejo sistema que integran esas neuronas artificiales se le llama Deep Neural Network, precisamente porque hay muchas capas, cada una compuesta por estas neuronas, números, con entradas y salidas. Entonces hay una pequeña similitud con el sistema biológico, pero más allá de eso todo es muy diferente. Lo vemos en los transformers, que cuando ven una palabra tienen que hacer una predicción sobre la próxima, y para hacerlo aprenden cuáles son las palabras previas más relevantes, aplicando operaciones matemáticas. Pero no hay una relación directa con lo que pasa en el cerebro humano”.
Sobre la base de estas explicaciones, resulta necesario decir que las analogías pueden ser, en cierto sentido, de utilidad para la divulgación científica, pues facilitan el acercamiento a las bases del funcionamiento de los procesos o estimulan, como puntos de partida, la inspiración para la imaginación y creación de los modelos y sus estructuras; poseen, por así decirlo, una finalidad didáctica primaria. Pero, por otro lado, pueden interferir en la comprensión profunda de la operatividad de los sistemas IA, sus tipologías y aplicaciones, así como crear falsas expectativas sobre lo que pueden o no hacer por el momento. Además, enmascaran la distancia entre formas de representación, ya que como lo hemos dicho hasta ahora, y tomando apenas el ejemplo de las palabras, percepción y dotación de sentido no son equivalentes en los sistemas digitales y biológicos. Mientras las máquinas procesan las palabras como vectores o paquetes de números, los seres humanos las apreciamos en su materialidad gráfica, las percibimos como luz, aunque no las procesamos como tal, y las comprendemos en su amplio espectro semiótico (que difiere, entre muchas cosas, por el contexto cultural en que son emitidas o presentadas).
Uno de los trabajos en los que participa el profesor Cazabet, en colaboración con la Universidad Javeriana de Cali, permite asomarnos a una ampliación de las dimensiones de este problema de representación, especialmente en el abordaje de fenómenos sociales. Con el objetivo de estudiar la polarización política en la ciudad, utilizando modelos clásicos, pero intentando superar la paradoja del modelo estrictamente matemático, su equipo de investigación creó agentes digital twins (dobles o réplicas virtuales de seres, procesos o fenómenos físicos) que interactúan entre sí en redes sociales en una aproximación a como lo harían los seres humanos. “La idea es hacer algo más realista. Porque si uno hace algo que no es puramente matemático, no se puede estudiar con las herramientas de la física clásica. Entonces lo hacemos con modelos que involucran conocimientos de otras disciplinas y que no son estadísticos; modelos en los que no controlamos todo porque no podemos controlar todo lo que la IA está haciendo. La verdad es que no sabemos completamente cómo funcionan los sistemas. Este proyecto ilustra algo profundo sobre cómo imaginamos la IA. Tratamos de que los agentes piensen y opinen, pero lo que obtenemos es una simulación de la conducta humana. Los agentes no tienen cuerpo, no han vivido, no tienen memoria autobiográfica; tienen vectores de personalidad, mil números que representan rasgos y a partir de ahí, generan discursos que parecen humanos. Pero la apariencia no es la realidad”, enfatiza el investigador.
Hacia una pedagogía de la imaginación crítica
Si la IA no imagina en el sentido humano, pero nos obliga a repensar qué es la imaginación, ¿qué implicaciones tiene esto para la educación superior? La Universidad del Valle, en su Plan Estratégico 2025-2035, se propone liderar en el suroccidente colombiano la adopción de la Inteligencia Artificial para mejorar la enseñanza-aprendizaje, la investigación, la extensión y la gestión administrativa. Pero esta proyección, para ser verdaderamente transformadora, debe comprender que la IA no es un oráculo ni un consultorio automatizado. Es una herramienta de predicción estadística que, usada sin criterio, puede reproducir sesgos, limitar la creatividad y sustituir el pensamiento crítico por la conveniencia algorítmica.
Tal vez, la pedagogía que necesitamos no es una que sólo enseñe a usar la IA, sino una que enseñe a imaginar la IA. Esto implica capacitar a estudiantes y docentes en la comprensión de que detrás de cada respuesta hay billones de operaciones matemáticas que expertos y desarrolladores no entienden aún del todo, que la IA no memoriza y avanza a la generalización, que su “creatividad” es un parámetro ajustable de temperatura, que aquello que observamos de su razonamiento puede ser un informe infiel y que su abstracción de conceptos universales son espacios numéricos, más no significaciones vividas.
Por supuesto, también implica reconocer lo que la IA nos revela sobre nosotros mismos: nuestra capacidad de abstracción, en constante cambio y no descrita del todo por las neurociencias, que también aprendemos y reproducimos sesgos culturales aprendidos de la multiplicidad de textos con los que entramos en contacto a diario, o que también explicamos nuestro pensamiento de manera que no corresponde exactamente con las operaciones neuronales que lo produjeron.
La imaginación que necesitamos en la era de la IA no es la que produce la máquina, sino la que permite a los humanos proyectar escenarios de uso ético, de integración pedagógica sensata y de regulación informada. Es la imaginación que dimensiona, que escala lo posible, que incorpora el azar no como parámetro sino como condición de la existencia, que deja espacio a lo inconsciente, a lo que no controlamos. Es la imaginación que permite componer imágenes ideales no para escapar de la realidad, sino para transformarla.
Bibliografía