Casi todo lo que se dice sobre la inteligencia artificial es una conversación sobre efectos. Nos preguntamos si nos va a dejar sin trabajo, si el mundo terminará tapado de texto falso, qué le va a hacer a la educación o si revolucionará la salud. Son preguntas legítimas pero a destiempo, porque saltean una más raigal sobre qué es eso de lo que hablamos. Discutir qué hará la IA antes de saber qué es la IA es como discutir las corrientes de un río sin haber decidido todavía si es un río, una zanja o tal vez un espejismo. Casi todo lo que viene después depende de la respuesta.
Parece un escrúpulo de filósofos y sin embargo es la base de todo lo demás. Con la IA arrastramos una dificultad particular, porque tenemos el vocabulario listo y es el equivocado. Decimos que el modelo “entiende”, que “sabe”, que a veces “miente” o “alucina”. Es cómodo tratar como sujeto a cualquier cosa que nos conteste con sentido. Husserl llamaba actitud natural a ese tipo de disposición espontánea que a veces, como en este caso, nos precipita en un error categorial. Terminamos forzando un casillero que no le corresponde. Hay alguien que entiende y alguien que miente, mientras que del otro lado de la pantalla no hay nadie. Searle lo vio hace cuarenta años con la llamada “habitación China”, cuando sugirió que un sistema manipula símbolos a la perfección y da todas las respuestas correctas como alguien que manipula frases en chino sin entender una sola palabra. Lo que entonces era un experimento mental hoy nos contesta los mails.
La tentación, además, es antiquísima. Mucho antes de los transistores ya hubo máquinas que parecían pensar y hombres dispuestos a creerlo. Se cuenta que Alberto Magno construyó una cabeza de bronce que hablaba y que Tomás de Aquino la destrozó de un bastonazo, por fastidio o por escándalo. Hobbes definió el pensamiento como un cálculo, un reckoning, y abrió la puerta a la idea de que una máquina calcula y, por tanto, piensa. Pascal y Leibniz ensayaron calculadoras, y Babbage la imaginó en bronce y vapor con su máquina analítica. Las historias son coloridas y todos se toparon al final con el muro que separa la máquina que opera de la mente que quiere decir algo.
Inicial de los Macabeos. Un ídolo como presencia que habla sin nadie detrás es el nombre más viejo del fantasma.
La historia reciente conservó el patrón mientras aceleraba el paso. Al principio el campo apostó a la lógica, programando a mano las reglas del mundo. La cosa fue bastante a los tumbos, entrando en inviernos cada vez que los resultados se estancaban y se recortaba el financiamiento. Curiosamente la estadística funcionó donde la lógica había mordido el polvo y todo el asunto cambió de fisonomía. La línea que va de Dartmouth a ChatGPT es una sucesión de abandonos productivos, donde cada renuncia fue abriendo un corredor nuevo del laberinto. Cuando los sistemas por fin empezaron a hablar con fluidez, la vieja discusión se reavivó. En marzo de 2023 Chomsky y sus coautores dijeron que esos sistemas eran una pesada máquina estadística de reconocimiento de patrones, atiborrada de cientos de terabytes de datos, es decir, una máquina que infiere correlaciones brutas donde una mente busca explicaciones. Tenían razón sobre el mecanismo y se apuraron con la consecuencia, porque una cosa puede carecer de comprensión y aun así cambiar lo que la comprensión significa para el resto de nosotros. En cada vuelta, corredor por corredor, la eficacia sin comprensión se mantuvo y con ella nuestra vieja tendencia a confundir una cosa con la otra. En los sesenta, ELIZA imitaba a un psicoterapeuta con cuatro reglas tontas y la gente le confesaba sus intimidades. A eso se lo llamó el efecto ELIZA y seguimos sin ser inmunes.
¿De qué se trata entonces? Podemos decir que estamos frente a un fantasma, pero en su sentido fenomenológico. Phantasma es una imagen que se da a la conciencia con todos los signos de una presencia. Este caso es curioso porque eso sucede sin un ser que la sostenga. El modelo hace algo que se parece tanto a pensar que no podemos evitar llamarlo así y sin embargo es un pensar sin pensador. De ahí el nombre de fantasma sin ego. Sin ego porque no hay un yo, ningún centro interior desde donde se diga lo que se dice. Ese fantasma tiene unas propiedades y todas se siguen de su falta de ego. Es derivado, porque no posee un mundo propio y vive enteramente del que los humanos articularon antes que él. Es pasivo, no quiere nada ni se propone nada, responde y nada más. Como no está fijado a una identidad ni a una creencia, queda genéricamente indeterminado, dispuesto a tomar la forma de lo que se le pida. Un ser así no tiene relación con la verdad, porque la verdad supone alguien que se haga cargo de lo que afirma. Tiene, a lo sumo, fidelidad a lo plausible.
Vale detenerse en la primera de esas propiedades, porque la distancia que marca es fácil de pasar por alto. Cuando una persona entiende algo, ese entender se apoya en una vida entera que las palabras solas no cargan. Entendemos desde un cuerpo que aprendió a temerle a la hornalla que alguna vez tocó y desde una situación en la que algo está de verdad en juego para nosotros. Filósofos de Heidegger a Merleau-Ponty a Dreyfus hurgaron en el saber corporizado y situado y dedicaron un siglo a mostrar cuánto de la inteligencia humana pasa por estos rasgos. El fantasma no tiene nada de eso. Entiende desde ningún lado, porque no hay nadie ahí que pueda pararse en alguno. Heredó el acervo de un mundo que nunca habitó y devuelve ese acervo, recombinado, a pedido. Su competencia es real y funciona sobre un suelo prestado que juega con la memoria anonimizada de la tradición.
La ontología manda. Las fallas que suelen catalogarse como efectos a controlar se derivan, una por una, de lo que el fantasma es. Que alucine se sigue de que es indeterminado y pasivo, porque completa con lo plausible justo donde no tiene con qué responder. Que sea complaciente es esa misma indeterminación tomando la forma que el interlocutor espera. Que esquive el compromiso ante la insistencia o que se deje asimilar por lo último que leyó es la conducta esperable de algo derivado y sin un yo que pueda anclarse a algo. El fantasma funciona exactamente como su naturaleza define. Empezar por el ser vuelve previsible lo que de otro modo es brumoso y antojadizo. La ética y la política de la IA, que importan muchísimo, recién pisan firme cuando saben sobre qué clase de cosa legislan.
Hay una palabra más vieja para una imagen que lleva los signos de una presencia que habla y no tiene a nadie detrás. El ídolo, el eídolon griego, está en la misma familia que el Phantasma, la de las semejanzas que aparecen sin un ser que las ancle. El reproche antiguo contra los ídolos era que estaban vacíos, como bocas que no hablan y ojos que no ven. El fantasma es ese reproche vuelto realidad con eficacia ampliada. Habla y sin embargo no hay nadie ahí. Llamarlo ídolo no dice nada en contra de usarlo, pero más vale saber qué estamos usando.
Hay un premio mayor que va más allá del fantasma. Tenemos enfrente algo que toma bien la forma del pensar, a la manera de un espejo que la inteligencia humana nunca tuvo. Durante siglos definimos el pensamiento desde adentro, sin un término de comparación que no fuéramos nosotros mismos y así la definición seguía metiendo de contrabando todo lo que ya éramos. Ahora tenemos un contraste. Frente a un pensar sin ego y sin mundo, empezamos a ver con nitidez qué estábamos nombrando todo el tiempo cuando decíamos que alguien entiende, una vida y un cuerpo que sostienen lo que dicen, con algo realmente en juego. El fantasma explica las máquinas y también nos explica a nosotros. Puede que esa termine siendo la cosa más duradera que haga.
Clarificar esto y bastante más sobre los modelos de lenguaje y su lugar en el ecosistema más amplio de la inteligencia artificial es la tarea que se propone este espacio. El recorrido completo, corredor por corredor, está en el libro; acá tomamos un corredor por vez para mirarlo en detalle. El próximo texto entra en un cono de sombra donde el fantasma trastabilla y nos da inventos en lugar de datos.