La ilusión de la Inteligencia Artificial

Al menos en su forma más extendida hoy, la Inteligencia Artificial no entiende, pero actuamos frente a ella como si lo hiciera. ¿Por qué? Porque produce lenguaje con una fluidez y unas cadencias que imitan casi perfectamente las humanas. Sus respuestas, además, son coherentes y estructuradas, adaptadas al contexto de la pregunta. Pero es una ilusión. La fluidez no es comprensión. Ni la información, conocimiento.

Hay algo profundamente inquietante en la manera en que hablamos hoy con las máquinas. Les formulamos preguntas y nos convencen sus respuestas, les pedimos aclaraciones, matizamos razonamientos… Y, sobre todo, en ese intercambio ocurre algo casi imperceptible: empezamos a atribuir comprensión allí donde, quizá, solo hay cálculo. Muchos expertos dicen, argumentan y advierten que, al menos en su forma más extendida hoy, la Inteligencia Artificial no entiende. Pero seguimos actuando como si lo hiciera. ¿Por qué?

Bueno, porque es que parece entender. Y ese ‘detalle’, aparentemente sutil, es en realidad decisivo. Por supuesto que este fenómeno tiene más matices y facetas, pero lo cierto es que las respuestas de la IA nos resultan tan convincentes, principalmente, no porque sean verdaderas en un sentido fuerte, ni porque estén necesariamente bien fundamentadas. Lo que nos seduce es otra cosa: la forma.

¿Recuerdan aquella época en que las máquinas hablaban… como máquinas? ¿Esa forma mecánica, robótica, que incluso usábamos como broma, al igual que los movimientos ‘de robot’ hasta se convirtieron en un baile? ¿O cuando Kubrick tuvo que contratar al actor Douglas Rain para ponerle una voz no tan ‘robótica’ a HAL 9000? Aquello nos ponía los pies en la tierra, sabíamos que no hablábamos con una inteligencia propiamente dicha, sino con algo que alguien había programado para cumplir una función específica.

La seducción de la fluidez

Pero hoy la Inteligencia Artificial produce lenguaje con una fluidez extraordinaria, y unas cadencias y formas que imitan casi perfectamente las humanas, y de diferentes culturas. Sus respuestas, además, son coherentes y estructuradas, adaptadas al contexto de la pregunta. Utiliza conectores adecuados, mantiene el hilo argumental, anticipa objeciones. En otras palabras: habla como alguien que sabe.

Y hemos aprendido, durante siglos, a asociar el dominio del lenguaje con el dominio del pensamiento. Percibimos el hablar bien como una de las principales señales de inteligencia. Quien se expresa con claridad, suponemos, piensa con claridad. Quien argumenta con solidez, creemos, comprende lo que dice. La IA (o, mejor dicho, quienes la han diseñado y construido), explota con éxito precisamente estas asociaciones. Pero no debemos engañarnos. La fluidez no es comprensión. Es solo su apariencia.

¿Qué significa comprender?

Producir respuestas correctas o plausibles sobre un asunto es, sin duda, uno de los resultados que indican que se ha comprendido. Pero estamos viendo que, por sí mismo, no es una evidencia definitiva. Comprender implica, al menos, otras tres dimensiones que las máquinas actuales no poseen en sentido pleno.

En primer lugar, comprender requiere poseer una referencia al mundo real. Cuando un ser humano comprende una frase, no solo reconoce su estructura, sino que la conecta con experiencias, objetos, situaciones vividas o imaginadas. Las palabras remiten a algo. Por otro lado, comprender también implica intencionalidad. El saber qué se está diciendo, y por qué. Tiene una orientación hacia el significado, no solo hacia la forma. Y, en tercer lugar, comprender requiere una capacidad de conciencia del error. Un ser humano puede equivocarse, pero también puede reconocer que se ha equivocado. Puede revisar, dudar, rectificar. Esa dimensión reflexiva es parte del propio acto de comprender.

La Inteligencia Artificial, en cambio, opera de otro modo. No accede al mundo, no tiene intenciones, y no sabe que se equivoca. Lo que hace es generar secuencias de palabras que, estadísticamente, encajan con lo que se espera en un contexto dado.

En sus respuestas hay correlación, no comprensión.

El espejismo del sentido

Sin embargo, en muchos casos el resultado es extraordinariamente convincente. Y cuando leemos una respuesta bien construida, tendemos a proyectar en ella una mente. Es un reflejo casi automático. Donde hay lenguaje coherente, suponemos que hay alguien que lo sostiene.

En el caso de la IA, ese “alguien” no existe. Lo que hay es un sistema, un algoritmo entrenado con cantidades masivas de texto y capaz de predecir qué palabra debe venir a continuación en función de las anteriores. Pero lo hace con tal precisión que reproduce, incluso, los matices del discurso humano: la ironía, la cautela, la argumentación… El lenguaje tiene sentido, pero el sistema que lo produce no lo posee. Para nosotros, el resultado es como un espejismo. Y caemos.

Información vs conocimiento

Y, además, tenemos otra confusión fundamental: la diferencia entre información y conocimiento. La IA maneja muchísima información. Puede combinarla, reorganizarla y presentarla de forma útil, sintetizarla, resumirla, ampliarla… Pero el conocimiento es otra cosa. Conocer es saber qué hacer con todos esos datos, para qué son relevantes, cómo integrarlos. Entender también sus relaciones, sus límites, su relevancia. Saber cuándo una información es pertinente, o fiable, y cuándo no.

Y, sobre todo, el conocimiento implica una relación con la verdad, y la IA no la tiene. A ella no le importa la verdad, no distingue entre lo verdadero y lo falso en un sentido fuerte. Cuando más, distingue entre lo más probable y lo menos probable en términos de lenguaje. Por eso puede ser tan útil y, al mismo tiempo, tan peligrosa.

El riesgo de la confusión

Porque el verdadero problema no es que la IA no comprenda, sino que nosotros podemos olvidar qué significa comprender. Si empezamos a equiparar fluidez con inteligencia, coherencia con conocimiento, plausibilidad con verdad, corremos el riesgo de degradar nuestros propios criterios.

Desde los tiempos de los filósofos griegos sabemos que la inteligencia humana se mide más por la capacidad de hacerse preguntas, que de producir respuestas. Es lo que hace un físico, por ejemplo, o un químico, cuando diseña un experimento. Enfrentado a un problema, sabe que su montaje experimental es la forma que tiene para preguntar a la Naturaleza. Y que esta solo le responderá si sus preguntas son las adecuadas, y que, además, solo podrá entender su réplica si, a su vez, luego es capaz de escudriñar con sentido crítico los datos que le devuelven sus aparatos.

Tiene que existir una intencionalidad de conocer, y una comprensión de lo que ha ocurrido en el proceso. Solo entonces el discurso que pueda formular a partir de todo ello podrá ser considerado como realmente inteligente. Articular discursos, per se, no basta. La inteligencia está en saber plantearlos, y en someterlos a crítica. No es solo manejar información, es saber buscarla, y saber hallarle sentido.

La IA puede simular muchas de esas capacidades, pero no las posee. Y confundir la simulación con la realidad es siempre el primer paso hacia el error.

Una herramienta, no una mente

Nada de esto implica que la Inteligencia Artificial sea inútil. Al contrario: es una herramienta extraordinaria. Puede ampliar nuestras capacidades, acelerar procesos, facilitar el acceso a la información, ayudar en la escritura, en el análisis, en la exploración de ideas.

Pero solo si entendemos lo que es, y no nos dejamos llevar por el espejismo de las formas. Por más real que parezca, una máquina no es una mente, o una conciencia, o una inteligencia en el sentido humano del término. Es un sistema que maneja datos y tokens, y produce lenguaje sin comprenderlo, de la misma forma que un destornillador nunca entenderá por qué le hacemos dar tantas vueltas cada vez que lo tomamos en nuestras manos.

De modo que, quizá, la verdadera cuestión no sea qué puede hacer la IA, sino qué estamos dispuestos a creer sobre ella. Porque, en última instancia, la ilusión no está en la máquina. Está en nosotros.