La era de los 'tecnoprofetas' y el miedo de los iluminados

¿Tiene sentido preguntarse, fuera de contexto, si un robot puede ser imparcial? ¿Y si se pretendiera que dictara sentencias judiciales, esto es, que sustituyera a los jueces de carne y hueso? Por supuesto, éstos no son infalibles y tienen además sesgos ideológicos. Leo a Manuel Marchena, formidable jurista que acaba de publicar La justicia amenazada (Espasa) y que dedica un capítulo a esta cuestión. Ve la Inteligencia Artificial como un estupendo instrumento de trabajo, pero sus algoritmos están producidos desde unas inclinaciones ideológicas, más o menos conscientes o pronunciadas. Para el juez Marchena una sentencia “tiene que estar motivada por el análisis de los hechos y la valoración de las pruebas que se hayan desarrollado durante el juicio”.

Esto es capital: analizar y sopesar sobre la marcha, de forma abierta y continua, atentamente; con sólida capacidad de distinguir lo que es real y no imaginario. El sesgo ideológico puede influir en el desenlace de un juicio, pero una resolución absolutoria o de condena no puede argumentarse a partir de la ideología o de un algoritmo, herederos inevitables de prejuicios y presupuestos implícitos; vicios ocultos.

Decimos que la experiencia es un grado porque, más allá de los conocimientos teóricos, la vivencias se acumulan y junto a una reflexión adecuada permiten penetrar en la realidad de lo que se debe juzgar: causas, condicionamientos, entramados, omisiones. Lo que importa, por consiguiente, es disponer de jueces sabios, sensatos y ecuánimes, saturados de realidad y provistos de buenos medios de trabajo. Y no buscar sustitutos artificiales de forma snob.

Lo cierto es que topamos con una histórica obsesión por producir seres artificiales que se asemejen a nosotros en la capacidad de aprender de la experiencia, con una base lingüística y lógico-matemática. A la copa que Jesucristo utilizó en la Última Cena, antes de ser apresado y luego ejecutado, se le dio en llamar Santo Grial. Ahora se habla del Santo Grial de la inteligencia artificial a un objetivo alcanzable, el de lograr una inteligencia artificial general, es decir: una IA que sea capaz de comprender y efectuar cualquier trabajo intelectual que puede hacer un ser humano, con suficiente flexibilidad cognitiva. Este horizonte nos sitúa en una sombra de pesadillas la de unos daños severos, programados con toda intención destructiva.

'La manzana de Turing' KAIRÓS

José Ramón Jouve Martín, profesor de literatura en una universidad canadiense, ha escrito La manzana de Turing (Kairós), un viaje histórico, literario y filosófico por la inteligencia artificial. Llama manzana envenenada al hecho de que no sepamos decidir, aunque acaso las máquinas sí lo sepan hacer; la pésima combinación de inclinarse a la superstición y desdeñar la aportación científica, abre la puerta esclavizadora de multitudes. Sin quererlo ni beberlo, nos vemos forzados a un marco de dilemas éticos sobre discriminación y desigualdad. Hay que estar preparados para ello.

La mitología griega ofrece interesantes alegorías de actitudes antagónicas y complementarias. Así, los hermanos Epimeteo y Prometeo. Por etimología, el primero carece de prudencia o previsión, y es segundo sabe anticipar. Epimeteo se casó con Pandora y al abrir la caja que recibieron de regalo de bodas, y que no debía ser abierta, se desparramaron alrededor todas las desgracias (enfermedades y sufrimientos); sólo quedó, al fondo, la esperanza.

Medio siglo atrás, el matemático James Lighthill redactó un informe, solicitado por el Gobierno británico, sobre los efectos de la IA. Lightill fue un adelantado en el campo de la acústica no lineal, al demostrar que unas mismas ecuaciones diferenciales no lineales sirven para expresar tanto olas en un río como el tráfico en una autopista. Su informe denunció afirmaciones exageradas e imprudentes y forzó un acalorado debate sobre los métodos y enfoques seguidos. Generó una desconfianza enorme en la IA y provocó una reducción importante de fondos públicos a su desarrollo; un período que ha sido calificado como primer invierno de la IA.

En 1955, hace ahora setenta años, un empleado IBM se dirigió a Jacques Perret, quien había sido su profesor de filología latina en la Sorbona, pidiéndole un término equivalente a computer. De este modo, se abrió paso entre nosotros el término ordenador (ordinateur). Más allá de calcular y ordenar, es capital aprender a tomar decisiones óptimas y resolver conflictos de intereses. En los años 40, a punto de acabar la Segunda Guerra Mundial, el matemático húngaro John von Neumann y el economista alemán Oskar Morgenstern desarrollaron en Princeton una teoría de juegos en el análisis económico mediante razonamientos estadísticos y probabilísticos. Hay juegos de suma cero, como el go; lo que unos pierden lo ganan otros, con total exactitud. A veces hay lo que se denomina información perfecta, como es el caso del ajedrez, cuando los jugadores disponen del historial completo de la partida.

En informática el orden no determinístico indica un sistema en que a una entrada le pueden corresponder distintos resultados, no siempre el mismo. Un problema NP se define como no determinístico y tiene soluciones verificadas en un tiempo polinómico (en contraposición a exponencial), pero no necesariamente resueltas en ese tiempo. Por su parte, un problema P es el que permite asegurar no sólo que tiene solución (esto es, que es verificada), sino que la encontraremos en un tiempo polinómico. Operar con vectores de muchas dimensiones es complicado y requiere una enorme potencia de cálculo. De este modo, comprimir la información de vectores de menores dimensiones implica una pérdida de información, pero facilita cálculos relevantes.

Una cuestión inevitable a hacerse es sobre el modo de incorporar estos conceptos en cada sociedad humana. No sólo está en función de su realidad presente, sino de sus fundamentos, compuestos con el paso de los siglos. ¿Se rechaza producir dispositivos mecánicos que imiten al Creador? Desde el ámbito judío que planteaba los golem protectores: “Desarrollaos pacíficamente y no destruyáis el mundo”, hasta el mundo árabe en el que Al-Jazari escribió en el siglo XII un completo libro de instrucciones sobre la construcción de autómatas.

Leibniz, el genio que desarrolló el cálculo infinitesimal y nos legó una notación insuperable, estaba convencido del significado universal y religioso de la aritmética binaria (ceros y unidades) que asociaba con los 64 hexagramas del Libro de las Mutaciones (texto chino escrito unos doce siglos antes de Cristo). En este conjunto aleatorio y vigoroso de aportaciones cabe evocar a Ada Lovelace, hija del poeta lord Byron, nacida en 1815 y fallecida en 1852, quien prefiguró conceptos de software del siglo XX: almacenamiento de datos, bucles, subrutinas. Colaboró con Charles Babbage (1791-1871) en el diseño de una máquina analítica (programable para cualquier tipo de cálculo); si bien no llegó a ser construida.

Acabemos este breve recorrido con una referencia a los fundadores, dueños y dirigentes de las grandes empresas tecnológicas. Alejados de los centros universitarios, se han orientado a la expansión práctica de sus negocios, lo que ha ido acompañado de un afectado aire de modernidad, en su forma de vestir y de arreglarse. Dice José Ramón Jouve que lo han sabido combinar con la autoridad sagrada de los profetas del Antiguo Testamento; son los tecnoprofetas. En esto andamos, entre la esperanza y el miedo ante los iluminados.