Agustín Fernández Mallo: “La IA está consiguiendo hacernos más tontos”

Poeta, así le gusta definirse a Agustín Fernández Mallo, porque “todos mis textos tienen como origen un núcleo poético, una idea metafórica”. El ángel de la inteligencia artificial (Galaxia Gutenberg) es su último trabajo, una indagación ensayística en torno a la IA a partir de la teología, la antropología, la física y la metafísica.

De esta manera, Fernández Mallo nos propone un nuevo marco conceptual para pensar la IA y sus consecuencias, un nuevo marco cuyo punto de partida es la necesidad del ser humano de crear, desde sus orígenes, instancias y seres que les superen y a los que confiarse.

“La creación de una IA es un sueño que lleva con nosotros desde que somos sapiens, y que su más clara manifestación se da en las religiones, verdaderas IA primitivas”, escribe en su ensayo. Por tanto, ¿no estamos delante de nada radicalmente nuevo?

No, porque, a la base de todo siempre ha estado y está el deseo de crear un ser que nos supere y hacia el cual proyectar todo lo que no sabemos hacer, lo que no podemos hacer o todas nuestras aspiraciones para encontrarlo en él. Esta es la base de la creación de los dioses, de cualquier tipo de deidad. De ahí que diga, en parte entre comillas, que las primeras inteligencias artificiales son las religiones, que no dejan de ser estructuras casi algorítmicas, es decir, no dejan de estructurarse en torno a una serie de instrucciones.

Y un algoritmo es justo esto, una secuencia de instrucciones para llegar a un fin. Una receta de cocina es un algoritmo, por ejemplo. Es más que evidente que las religiones tienen sus mandatos y sus mandamientos; tienen una serie de instrucciones que indican a sus fieles la forma en que se debe operar.

Como los estados.

Por supuesto. Los estados son el primer sistema algorítmico cuyo objetivo es manejar a una población. Una sociedad no puede organizarse sin vigilancia y sin una serie de ordenaciones mediante las cuales quienes tienen el poder de decidir pueden tomar decisiones para la población. Para ello es esencial hacer medias aritméticas y regresiones estadísticas, porque, para poner un ejemplo, lo que importa no es cuánto midas tú o cuánto mida yo, lo que importa es lo que mide el ciudadano medio a la hora de definir, entre otras cosas, la altura de los autobuses.

Es un ejemplo simple, pero refleja la importancia de la estadística y no olvidemos que la palabra “estadística” y la palabra “estado” tienen la misma raíz. No solo, etimológicamente hablando, “estadística” significa “ordenación del Estado”. Este es su origen. Posteriormente, se convirtió en una rama de la matemática.

Por tanto, los Estados son una suerte de maquinarias algorítmicas y son, asimismo, algo que nos supera y algo que construimos para que teóricamente nos solucione los problemas, como hacemos con las divinidades, pero en un plano humano. De ahí que haga énfasis en que esta pulsión de crear algo que nos supere y nos solucione es una pulsión antropológica.

Por esto, usted recurre a la figura del ángel caído para definir la IA.

El cerebro humano necesita 15 vatios de potencia para funcionar, es decir, le bastan los vatios de una simple bombilla para hacerlo todo. Sin embargo, por lo menos cuando yo empecé a escribir el libro hace tres años, el chatgpt para contestar lo que te contesta, necesita una energía equivalente a una sala de 10.000 habitantes. Ante este dato yo me doy cuenta de que con la IA no estamos haciendo una réplica del cerebro humano; en realidad, vamos en la dirección contraria: Estamos haciendo una máquina que es muy poco eficiente, porque no va a haber recursos en el planeta Tierra para sostenerla.

Además, trabajamos en la creación de esta inteligencia artificial a través del algoritmo y el algoritmo no tiene nada que ver con la biología, que está sujeta, ante todo, al error, al ruido, a la diferencia. Por tanto, ¿qué demonios estamos haciendo? Porque si no es un cerebro humano, ¿a qué nos apela la figura de algo que tiene voluntad propia, pero no es humana?

Y ahí aparece la imagen de los ángeles caídos, que son figuras, presentes en todas las religiones, que desobedecen a la divinidad y caen entre los humanos, ganando en voluntad propia, pero condenados eternamente al destierro. Y las inteligencias artificiales son la enésima versión de esos ángeles caídos…

Con la diferencia, sin embargo, de que la IA no posee esta voluntad propia que sí tienen los ángeles caídos.

Cierto, por esto digo que, en realidad, hoy la IA es más bien un ángel de la guarda, está para cuidarnos, para acompañarnos… El otro día, un amigo me explicó que hace unos días le hizo una pregunta a la IA y esta le contesto erróneamente. Así que este amigo le replicó: “Me estás mintiendo”, y la IA le contestó, “bueno sí, te he mentido”.

Todavía tienen una inocencia que no es propia del ángel caído. Admiten la mentira y te piden perdón, pero luego, con variaciones, repiten lo mismo. Esto es lo que hacen las IA ahora. Sin embargo, en realidad, la IA no miente, mentir es otra cosa, es algo mucho más complejo que solo los humanos podemos hacer.

Y, de hecho, a este amigo, la IA terminó diciéndole que no estaba preparada para no contestar. Esto es muy interesante, quiere decir que la IA no está preparada para el silencio, porque el silencio forma parte de la inteligencia humana.

El silencio es una forma de lenguaje que la IA no contempla.

Y expresa una forma de inteligencia muy compleja, aquella que, por ejemplo, te hace guardar silencio, cuando alguien te interpela sobre algo que desconoces. Callas para aprender. Porque la inteligencia es precisamente esto: el camino para llegar a las cosas, al conocimiento. La IA contesta siempre y, por tanto, no aprende en el sentido humano, solo repite consignas a partir de combinaciones de datos.

Por ello, la IA no recurre a la metáfora, que para usted es la expresión más elevada de la complejidad del lenguaje.

La IA no puede entender la metáfora porque esta surge de un lenguaje complejo. Y el lenguaje complejo surge de nuestra condición de sabernos mortales. Tú y yo sabemos que nos vamos a morir algún día; sin embargo, un perro, un gato, un árbol y una IA no lo saben. En el caso de la IA, además, cabe decir que ella es potencialmente inmortal: siempre y cuando tenga energía y datos, vivirá eternamente.

Tú y yo sabemos que nos vamos a morir, por muchos alimentos que comamos y que son nuestra energía y por muchos libros que leamos y que son nuestros datos. Esta autoconciencia que tenemos sobre nuestra mortalidad es lo que nos hace crear todo lo que creamos. Creamos, ya sea en arte o ciencia, porque queremos trascendernos, porque sabemos que nuestro tiempo es finito y queremos no solo aprovecharlo, sino dejar algo. Por esto, entre otras cosas, escribimos libros, por esto no somos como esos personajes de Borges que son inmortales y que, precisamente por serlo y no tener conciencia de finitud, no hacen nada, no crean nada.

Y entre las cosas que creamos están los recuerdos.

Porque lo que nos separa de la IA es tener memoria. La IA tiene datos, es una especie de enciclopedia, mientras que tú y yo construimos la memoria, la construimos desde el presente y no tiene nada que ver con los datos, porque la memoria es un relato que nos construimos y, por tanto, no transcribe los hechos tal y como fueron exactamente, es decir, no se conforma de datos y hechos verificables.

Tú tendrás una memoria, por ejemplo, de esta conversación que muy probablemente no coincida con la memoria que yo vaya a tener, porque tú partes de unos datos y yo de otros. La memoria se crea desde el libre albedrío.

La memoria, que es un mecanismo de creación, es subjetiva desde el momento en que no hay dos subjetividades iguales.

Absolutamente. El arte es eso: una subjetividad que crea a través de distintas memorias. Una IA no puede hacer esto, ante todo, porque no tiene esa pulsión de finitud y, como decía antes, no tiene consecuentemente un lenguaje complejo.

Y son así las IA por mucho que nosotros las antropomorficemos, les demos forma y actitudes humanas. Antropomorfizamos la IA, porque el ser humano lo antropomorfiza absolutamente todo. El riesgo que corremos es de terminar convirtiendo las IA en sujetos de derecho.

Y esto implicaría, como usted mismo señala, que desenchufar una IA se considere un homicidio.

Es así y podríamos llegar a esto. Yo tengo 59 años. Cuando yo era pequeño, nadie se planteaba que los animales pudieran tener derechos. Hoy los tienen. Tú no puedes maltratar a un gato o a un perro. Lo que sucede es que ni el gato ni el perro son una amenaza para nosotros; ellos, como cualquier otro animal, no nos perjudican en absoluto. La IA puede perjudicarnos, sobre todo si la dotas de derechos.

Si sueltas las IA, estas pueden convertirse en verdaderos ejércitos de pequeños bots o de códigos que pueden acabar con nosotros de la misma manera que lo pueden hacer las armas biológicas. Por esto, debe haber una regulación sí o sí. Las tecnológicas hablan de esta cuestión, pero no asumen responsabilidades; dicen que las IA adquieren autonomía propia. Por esto, es esencial una coerción real por parte de los estados a las tecnológicas.

En este sentido, yo soy chino, es decir, si usted va a hacer un grave perjuicio, tendrá un castigo. En temas de IA los estados tienen que ser coercitivos, no pueden fiarlo todo a la educación, ante todo, porque la educación tarda en dar resultados. No basta solo con educar, hay que poner medidas coercitivas: lo vimos con los accidentes de tráfico, bajaron cuando apareció el carné por puntos y se incrementaron las penas.

Lo terrible es que la IA está substituyendo el estudio: muchos estudiantes ya no hacen los trabajos, recurren a la IA para que lo haga por ellos.

Esto es resultado de lo que podríamos definir como la externalización total del cerebro y del cuerpo: La gente ya no sabe hacer un pollo al horno o un pescado a la plancha porque lo compra hecho y se lo trae Glovo. Por su parte, los alumnos ya no hacen los trabajos de casa. Teclean los enunciados y una IA se lo hace en segundos. Los alumnos ya no se equivocan, ya ni ensayan ni investigan por sí mismos.

No olvidemos que educar es enseñar a pensar, pero con la IA ya no se piensa, porque la IA piensa por ti. Por esto, señalo que lo que está consiguiendo la IA es hacernos más tontos. Ante todo, porque estamos externalizándolo todo a un cacharro, que es muy potente para algunas cosas, pero no para otras; a un cacharro que hemos terminado por definir como inteligente, pero ¿qué entendemos por inteligencia?

Se nos dice que la IA ha resuelto uno de los siete problemas matemáticos del milenio, ¿esto quiere decir que es más inteligente que tú, que me estás haciendo esta entrevista? En absoluto. Porque la inteligencia humana es algo mucho más amplio que conjugar una serie de datos, la inteligencia humana tiene que ver también con el día a día, con el gestionar la vida y las relaciones.

En este sentido, la IA estaría más cerca de la inteligencia humana si pudiera ser analfabeta.

Es decir, la inteligencia va más allá de los conocimientos reglados.

Ha habido y puede haber en este planeta personas que sean analfabetas, principalmente porque no han podido aprender a leer y a escribir, pero ¿el hecho de que sean analfabetas las hace menos inteligentes que tú y que yo? Para nada.

Pensemos, por ejemplo, en una comunidad de las montañas del Nepal, que apenas ha tenido contacto con nosotros y un sistema simbólico complejísimo que nosotros no entendemos. ¿La inteligencia artificial que estamos haciendo emula a esos cerebros?

Evidentemente no, pero ¿esto implica esas personas no sean inteligentes? ¿De qué barbaridad estamos hablando? Claro que son inteligentes, quizás, incluso más que nosotros, pero su inteligencia es de otro tipo.

La cuestión es que la IA tiene como referente una inteligencia y una del conocimiento occidental.

Totalmente y tiene su origen en un planteamiento cartesiano: solucionar problemas a través del cálculo. Sin embargo, todos nosotros resolvemos cientos de problemas diariamente, con los hijos, con la pareja, con los compañeros, con el trabajo… a través de la intuición.

Es decir, a través del llamado pensamiento abductivo, que no es ni el deductivo ni el inductivo, un pensamiento que no puede ser programado y que funciona entre el error y el acierto. Y aquí aparece lo interesante: el error, que es algo que no se puede programar y, por tanto, que no puede contemplar la IA como recurso.

Y el error está en la base de la creación. De hecho, las grandes obras de arte -literarias, pictóricas, fotográficas- nacen del error o, por lo menos, de la imperfección.

Esto tiene que ver con algo que ya planteaba en Teoría general de la basura: se crea desde los residuos y desde el error que terminan por configurarse como algo positivo. En la presentación de Barcelona puse, al respecto, este ejemplo: Estoy en mi casa y me cocino un huevo frito.

Este se rompe, me sale mal, porque no he sabido hacerlo y, sin embargo, en ese huevo frito mal hecho encuentro una idea o una imagen para, quizás, escribir un poema u otra cosa. Es decir, la creatividad está en la capacidad de extraer una línea a partir de un error.

Esto es la creación, un delirio controlado que te permite hacer algo nuevo a partir de algo que ha salido mal. Esto la IA no lo sabe ni lo puede hacer: si la IA se da cuenta de que ha frito mal un huevo, lo volverá a hacer hasta que le salga bien, pero no aprovechará el error.

A propósito de líneas y de huevos fritos —imagen inicial de su ensayo Postpoesía—, quería preguntarle de qué manera todas sus indagaciones literario-teóricas están conectadas. Dicho de otra manera, en este último ensayo sobre la IA encontramos elementos que ya estaban en sus primeros poemas.

Para mí, todo lo que yo hago es poesía. Entiendo que haya que hablar de ensayo, de novela o poema, porque la industria necesita una estructuración, sin embargo, entiendo mi obra como poemas con la máscara del ensayo o poemas con la máscara de la novela. Lo que quiero decir con esto es que el núcleo de toda mi escritura es un núcleo poético; el punto de partida son ideas metafóricas.

Escribo con una serie de horizontes a los que me dirijo y que, en su origen, se articulan en alegorías poco controladas. Dicho esto, por lo que se refiere al ensayo, cuando escribo, me atengo a lo que dice la palabra: escribo ensayando, es decir, con la idea clara de que nunca llegaré a una respuesta definitiva.

Ahora muchísima gente académica se ha metido a hacer ensayo, pero la mayoría lo que consigue es hacer tesis doctorales camufladas: cambian algo el lenguaje de tal manera de que el texto sea más divulgativo, pero se olvida de que, a diferencia de una tesis, el ensayo no quiere demostrar nada en concreto.