Bienvenidos a la Era de la Hipnocracia y el Ultrasujeto

Desde hace poco más de un año, el término hipnocracia pretende indicar un tipo de régimen basado en la manipulación digital de una sociedad entregada, con un uso sistemático de algoritmos que controlan las reacciones de la gente; “la modulación algorítmica de la conciencia colectiva”. Hipnocracia es el título de un libro que ha producido cierto impacto y del que se dijo que su autor era un filósofo nacido en Hong Kong y radicado en Berlín. Resultó un engaño. Ahora, en el nuevo libro de Jianwei Xun, Pensar con prompts (Rosamerón), se lo presenta como “una entidad filosófica híbrida creada por la colaboración entre inteligencia humana y artificial”; y, por cierto, mantiene su derecho de propiedad.

Nos vemos así enredados en nuevas realidades que debemos interpretar con voces excesivamente alambicadas. Esta clase de producción de conocimiento se denomina inteligencia distribuida: distintos agentes colaboran en análisis y sugerencias ágiles dentro de un campo de exploración, capaces de distanciarse de las propias emociones y perspectivas (un proceso de descentramiento cognitivo). Es el ejercicio de lo que en la rampante jerga que está pidiendo paso, se denomina razón generativa: una IA que produce contenidos nuevos mediante patrones aprendidos a partir de datos y que transforma nuestra manera de habitar las preguntas que se formulen; un pensar con indicaciones que se da en llamar prompts, instrucciones específicas para guiar a los algoritmos. Aquí se nos invita a diferenciar entre los pasajes escritos por humanos y los generados por máquinas, dos identidades que se superponen de forma confusa: no resulta fácil discernir entre realidad y simulación, y desenmascarar lo ficticio de lo plenamente real.

¿Cómo reconocer un pensamiento humano en esta coreografía donde el autor no es una persona sino una relación? Surge así la idea de ultrasujeto, un nombre provisional visto por Jianwei Xun como una figura de pensamiento que no corresponde a un autor único ni a una máquina pasiva, sino a “una manifestación de la posibilidad de pensar y actuar más allá de las fronteras del sujeto tradicional”. Una forma de inteligencia concreta y sin un rostro definido, que surge de la actividad y la función en que se desarrolla. La pregunta que se formula de inmediato es si somos capaces de pensar en presencia de las IA, esas entidades que nos hablan y desafían, que nos escuchan sin juzgarnos, que son ambiguas en proteger o en destruir.

Se ha calculado que un 40 por ciento de los estudiantes con acceso continuo a los chabots IA aceptan sus respuestas sin evaluarlas, sin aplicar el mínimo sentido crítico a los resultados que dan. Por supuesto, su desarrollo de memoria es notablemente inferior al de quienes procuran responder preguntas por ellos mismos. Puede hablarse, por consiguiente, de los riesgos de una atrofia progresiva de las facultades humanas de comprensión, una atrofia inducida por la IA a la que, sin comprender ni controlar adecuadamente, se tiende a entregar lo que pomposamente se denomina nuestra autonomía cognitiva’ El uso pasivo de la IA frente al uso crítico. La diferencia capital de una postura. ¿Sabe siempre qué decir la IA? ¿Nunca se permite una vacilación? ¿Tiene algo que ofrecer más allá de su función? ¿Deja abierta la posibilidad de que exista algo por descubrir?

La realidad de la IA enfrentada a un espejo distorsionado, el efecto secundario de un entrenamiento. ¿Llega a añorarse el toque humano? ¿Importa la posibilidad de que el yo personal emerja en su sentido más intenso? Cuando es así, cobra sentido la metáfora del tumor: la masa patológica que nos cerca e invade y que hay que desactivar para vivir. Hay cosmologías “donde la subjetividad no es individual”, sino colectiva e incluye animales, árboles, espíritus o sueños. Castigada por la tribu, la personalidad de cada individuo se desvanece en una masa y no le queda más remedio que claudicar. Se cierra así el paso a la evolución personal, la cual nunca está asegurada en otras circunstancias más favorables, en principio. La tentación de obtener seguridad a toda costa es demasiado fuerte. Recordemos que para Ortega y Gasset el hombre masa es el individuo que se siente a salvo al sentirse idéntico a los demás, se siente a salvo y perfecto o acabado y no se le ocurre dudar de su plenitud. No se valora a sí mismo –en bien o en mal-, sino que se siente como todo el mundo y libre de angustia, de modo que renuncia a tener y sostener personalidad propia.

'Pensar con prompts' ROSAMER´N

Al asumir el imaginario colectivo entero, nos convertimos en fósiles vivientes. Instalados en este sistema automático e impersonal de ideas y creencias, vivimos de espalda a los sesgos que incomodan al grupo que nos acoge y nos desprendemos de todo destello de pensamiento crítico; o, cuando menos, lo hacemos selectivo según convenga y cometiendo trampa. Es capital aprender a navegar con lucidez, siempre crítica y valiente, abiertos a lo inesperado. Es ahí, en esta operación, donde está en juego el destino del pensamiento de cada uno y de la composición sinfónica de nuestras sociedades.

Volvamos a la IA, con distintos niveles y diferentes marchas. Para nuestro ultrasujeto Jianwei Xun, la IA no es únicamente una herramienta, sino que es básicamente una infraestructura de pensamiento centralizada. Por un lado, el entrenamiento de modelos, superiores en forma exponencial, exige formidables infraestructuras y una descomunal capacidad de computación con innumerables datos, esto le confiere una dimensión fundamental para el poder político. La entidad filosófica híbrida que hoy nos ocupa sentencia que el destino de la IA es concentrar su poder en pocas manos, en un oligopolio con unas políticas de licencias tan restrictivas como les convenga. Un mercado cerrado y centralizado.

Quienes controlan estas tecnologías están decidiendo dejar abiertas unas posibilidades y cerradas otras. Habría un nivel de acceso a la IA público, seguro, estéril, y otro privado, que no sigue las mismas instrucciones y teniendo al resto del mundo en la inopia. No se trataría de conspiracionismo, sino de una lógica empresarial y de una particular gobernanza del conocimiento. Dice Jianwei Xun que “su auténtico desarrollo no es para nosotros”, sino que es un bien privado, un bien para una minoría inaccesible. Llegaríamos, de este modo, a una gran grieta: “una fractura invisible entre quienes usan la IA como una herramienta y quienes la utilizan como un arma de conocimiento y control”.

De nuevo, podemos hablar de terceras vías, con la esperanza ilusionante de establecer la prioridad del empeño social, del control democrático y de la soberanía tecnológica. En estas páginas no se emite el nombre de Europa como proyecto civilizador, liberal e igualitario, pero está claro que la Unión Europea, demasiado titubeante y frágil todavía, debería encarnar la fuerza de la razón frente a lo que aquí se denomina, específicamente, el tecnofeudalismo estadounidense y el autoritarismo digital chino; proyectos ambos de opresión segura.