La destrucción de la confianza

El filosofo de la ciencia Daniel Dennett, autor de De las bacterias a Bach. La evolución de la mente (ed. Pasado y Presente) afirma que el problema más acuciante de la Inteligencia Artificial “no es que nos vaya a quitar el trabajo, ni que vayan a cambiar la guerra, sino que va a destruir la confianza humana. Nos llevarán a un mundo en el que no sabremos distinguir la verdad de la mentira. No sabremos en quién confiar. La confianza resulta ser una de las características más importantes de la civilización, y ahora corremos un grave peligro de destruir los vínculos de confianza que han hecho ésta posible”.

Con lo de no poder ya distinguir la verdad de las mentiras se refiere Dennett a los prodigiosos recursos de duplicado y falseamiento de imágenes, discursos y noticias que la IA hace posibles. Este discurso me sonaba, y he encontrado las notas que tomé días atrás mientras escuchaba un debate que The Economist colgó en abierto entre el investigador británico de la IA Mustafá Suleyman, autor de La ola que viene (ed. Debate) y el conocido historiador de la Universidad de Jerusalén Yuval Noah Harari, autor de los best sellers Sapiens y Homo deus, en la misma editorial. Harari se refiere también ahí a la confianza, pero antes plantea una curiosa metáfora sobre la clase de peligro que trae consigo la IA: “Dentro de cinco años habrá tecnología que pdorá tomar decisiones independientemente, y que podrá crear nuevas ideas independientemente del ser humano. Quizá sean buenas, quizá podremos así curar el cáncer, pero no estamos seguros… Tiendo a pensar en términos de, realmente, una invasión extraterrestre, una flota de naves espaciales procedentes del planeta Zircom o lo que sea, con seres muy inteligentes. A esto es a lo que nos enfrentamos, sólo que los extraterrestres no vienen en naves espaciales del planeta Zircom, vienen del laboratorio”.

Yuval Noah Harari y Juan Luis Arsuaga, en un coloquio moderado por Carme Artigas en el Mobile World Congress (MWC) / EP

Y luego advierte que la única posibilidad de mantener sometida a los designios del ser humano la inteligencia artificial es en el caso de que la Humanidad esté unida, “pero si los seres humanos están divididos entre ellos, y en una carrera armamentística, entonces se hace virtualmente imposible contener a esa IA”. El historiador no afirma que estemos condenados inevitablemente, ya que “si lo creyera, ¿para qué hablar?” Pero parece aludir a la paradoja de Fermi –que sostiene que siendo muy alta la posibilidad de que haya vida inteligente en el Universo, si no hemos establecido contactos con ella es probablemente debido a que las civilizaciones cuando llegan a determinado nivel de inteligencia fatalmente se autodestruyen— cuando dice que “el concepto de inteligencia está sobrevalorado". “El homo sapiens es el ente más inteligente del planeta, sí, pero simultáneamente es el más destructivo y en cierta manera también el más estúpido. Es la única entidad que pone la supervivencia del ecosistema en peligro”.  

Harari reconoce que el potencial positivo de la IA es enorme, en campos como el de la salud, o para resolver graves problemas como el cambio climático, y que por eso es tan tentador el trato que nos ofrece y estamos dispuestos a asumir con ella “enormes riesgos”, pero teme que al final “el trato no valga la pena”.

Aplicación del ChatGPT PEXELS

La periodista de The Economist le recuerda que en uno de sus libros sostiene que la democracia liberal nació de la revolución industrial, y que nuestra vida política es producto del sistema económico en el que vivimos. Ahora bien, si el sistema económico cambia, como parece que va a hacer mediante la IA, ¿sobrevivirá la democracia liberal? Harari responde que la democracia no es sólo producto de la revolución industrial sino también de las nuevas tecnologías de la información de los siglos XIX y XX, es decir cuando aparecieron los periódicos, telégrafos, radio y televisiones. Antes del siglo XIX no hay ningún ejemplo en la Historia de una democracia a gran escala. Sólo se dio en comunidades pequeñas, como las ciudades estado griegas de la antigüedad, o en ciertas sociedades tribales. ¿Por qué? “Porque la democracia es una conversación, y antes no había tecnología de la información en comunicación que hiciera pública la conversación entre millones de personas en un país entero”.

Ahora bien, a diferencia del Medioevo, cuando no había posibilidad de comunicación entre millones de personas, en el siglo XXI es la IA, teme Harari, la que hará la comunicación imposible, porque el ciudadano no podrá fiarse de lo que oye o de lo que ve. “Si la confianza entre la gente colapsa, si el on line está inundado de entidades no humanas, si hablas con alguien y ni siquiera sabes si es humano”. Es lo que preocupa a Dennett, como hemos visto. De hecho, sostiene Harari, la conversación ahora ya está colapsando. “La gente ya no se pone de acuerdo en lo más básico, que es quién ganó las últimas elecciones”.