El peligro es real, latente. Carissa Vélez lo sabe bien. La filósofa es una de las voces más lúcidas, críticas y urgentes en el debate internacional sobre tecnología, poder y derechos civiles.
De triple nacionalidad —mexicana, española y británica—, Véliz es profesora asociada de Filosofía en el Institute for Ethics in AI y es miembro del Hertford College de la Universidad de Oxford.
Tras romper el panorama global con su enorme Privacidad es poder (elegido libro del año por The Economist en 2020), donde diseccionó la economía de la vigilancia de datos, su investigación da ahora un paso indispensable hacia el núcleo de la Inteligencia Artificial. Véliz no teoriza desde una torre de marfil. Se moja como asesora de los gobiernos del Reino Unido y España, colabora con la Comisión Europea y forma parte del comité Women 4 Ethical AI de la UNESCO.
Su nuevo trabajo interpela al ciudadano que desea activarse y que ve con mucha preocupación el futuro más inmediato. En Profecía: Lecciones sobre el uso y abuso de la predicción, desde los antiguos oráculos hasta la IA (Debate, 2026), la filósofa amplía su campo de batalla: ya no solo nos vigilan para saber quiénes somos, sino para decretar, mediante algoritmos predictivos, quiénes se nos permitirá ser. Alarma roja.
¿Qué nos explica su investigación? A lo largo de la historia, la humanidad ha vivido obsesionada con disolver la niebla del mañana. Desde las entrañas de animales examinadas por los arúspices romanos y el humo sagrado del Oráculo de Delfos, hasta los horóscopos modernos.
Portada del libro de Carissa Véliz
Predecir el futuro ha sido el bálsamo definitivo contra la ansiedad de la existencia. Sin embargo, en Profecía, Carissa Véliz traza una línea de continuidad histórica que podemos calificar de brillante y de aterradora al mismo tiempo. Y es que los nuevos sumos sacerdotes ya no visten túnicas ni interpretan el vuelo de las aves. Lo que hacen es programar algoritmos de aprendizaje profundo en Silicon Valley.
El paso de los dados a los datos no constituye una evolución de la sabiduría humana, sino una sofisticación sin precedentes de los mecanismos de control social y económico.
La tesis de Véliz es contundente: la predicción automatizada que hoy gobierna nuestras vidas —decidiendo desde la concesión de un crédito bancario hasta un perfil laboral, pasando por la prisión preventiva o el acceso a tratamientos médicos— rara vez es un acto de conocimiento genuino. Es, fundamentalmente, un ejercicio de puro poder.
El temor se incrementa. Las pulsaciones del lector se aceleran. El desarmado técnico e histórico que Véliz realiza de la supuesta "infalibilidad" de la Inteligencia Artificial es uno de los puntos más incisivos de su análisis.
Los modelos predictivos contemporáneos sufren de un vicio de origen ideológico y metodológico. Asumen de forma arrogante que el futuro será una copia exacta del pasado. Al alimentar los sistemas de IA exclusivamente con datos históricos, los algoritmos se limitan a detectar patrones de repetición para proyectarlos hacia adelante.
La filósofa Carissa Véliz
¿Cuál es el problema? ¿Exagera Véliz? En el horizonte aparecen dos problemas políticos de enorme calado. Primero, la canonización del sesgo. Si las bases de datos del pasado reflejan racismo, sexismo o desigualdad socioeconómica, la máquina "predecirá" que ciertos colectivos son inherentemente menos aptos o más peligrosos.
El algoritmo no descubre ninguna verdad oculta. Lo que hace es automatizarla y perpetuar las injusticias del ayer bajo una pátina de supuesta neutralidad matemática.
La otra cuestión es la ceguera ante el ‘cisne negro’. La vida humana y el progreso social se definen por la disrupción y el cambio de rumbo. Un algoritmo jamás habría predicho las grandes revoluciones o los virajes existenciales de la historia, porque trabaja bajo la premisa de que los seres humanos somos patrones estáticos e inmutables.
El peligro real, por tanto, radica en la naturaleza performativa de la predicción en los asuntos humanos. A diferencia del meteorólogo que predice la lluvia sin alterar la atmósfera, el algoritmo interviene en la realidad.
Cuando un sistema financiero predice que un ciudadano de un barrio humilde va a impagar un préstamo y, por tanto, el banco se lo deniega, la predicción misma provoca el resultado.
Al negarle la oportunidad, se le condena a la exclusión. La profecía se cumple no por su exactitud, sino porque el poder financiero y tecnológico intervino para forzar su cumplimiento.
Zombis morales
Esto erosiona de raíz la agencia humana, la capacidad de tomar decisiones libres y moldear el propio destino. Si el software decide de antemano nuestro itinerario vital en función de la rentabilidad de terceros, el espacio para el error redentor y la reinvención personal se reduce a cero. ¿Qué tipo de sociedad se dibuja entonces?
Véliz va más allá, al advertir sobre el peligro de los "zombis morales". Las máquinas carecen de conciencia, empatía y responsabilidad moral. Sin embargo, jueces, médicos, directores de recursos humanos y gobernantes se escudan de forma cómoda tras la pantalla bajo el mantra corporativo de: "Es lo que dice el algoritmo".
Esta delegación de decisiones críticas crea un vacío de responsabilidad peligrosísimo para la salud democrática. Cuando la predicción falla --y los sistemas fallan estrepitosamente ante la complejidad humana-- no hay compasión que matice la regla, ni una autoridad humana a la que exigir explicaciones.
Ya más calmados, o no tanto, queda la reflexión profunda. El libro de Véliz no es un manifiesto ludita. Se trata de una advertencia filosófica y política de primer orden, respaldada por figuras de la talla de la Premio Nobel de la Paz María Ressa o el denunciante de Cambridge Analytica, Christopher Wylie.
Carissa Véliz reivindica en su ensayo una visión profundamente humanista que urge a rebelarse contra la dictadura del pronóstico automatizado.
La democracia, que se está debilitando en todo el planeta, debe tener muy en cuenta esas señales de alarma. Para salvar el sistema democrático --¿queremos realmente hacerlo?-- la sociedad debe exigir el derecho a ser impredecible.
La república nunca regresó
El futuro debe seguir siendo un territorio abierto, caótico y disputable. La seguridad absoluta que promete Silicon Valley a cambio de sumisión digital es el equivalente moderno de venderle el alma al oráculo.
Se trata, siguiendo a Véliz, de un engaño que nos despoja de la libertad y de la incertidumbre que, en última instancia, justifican la propia existencia humana.
Si está todo programado, ¿qué nos queda?
Lo que apunta Véliz es que una vez que nos deslizamos por la pendiente será muy difícil rectificar:
"Que la astrología emergiera justo cuando la República romana empezaba a desmoronarse no es casualidad. La democracia y la fe en la predicción son fuerzas incompatibles. Cuanto más angustiosas son nuestras circunstancias, más ansiamos saber qué nos deparará el futuro. Cuanto más consultamos a los adivinos, más desesperada se vuelve nuestra situación, porque al depender de predicciones estamos depositando nuestro poder en los adivinos, quienes aprovechan la ocasión para aumentar el suyo. Una vez que se impuso el imperio como forma de gobierno en Roma, la república nunca regresó".