La artista e investigadora Joana Moll
Joana Moll, artista: “Las IA generativas deterioran el pensamiento crítico porque no tienes el tiempo para desarrollarlo"
La artista e investigadora catalana participará en Sónar +D con The User and the Beast, una lectura performática sobre cómo la publicidad on-line se ha convertido en la principal fuente de inteligencia del mundo
Contenido relacionado: Silvia Bueso, coach: "Pedir es dar, es un acto puro de liderazgo y generosidad"
Noticias relacionadas
El trabajo de Joana Moll (Barcelona, 1982) se sitúa en la intersección entre la tecnología, la ecología, la economía y la política. Sus proyectos transforman datos complejos en experiencias emocionales y accesibles que invitan a reflexionar sobre el impacto real de nuestras interacciones con la tecnología y sobre los modelos económicos e ideológicos que configuran la red.
A pocos días de su participación en el festival de música avanzada y arte multimedia de Barcelona, atiende a Mujeres en Crónica para hablar sobre la importancia de fomentar el pensamiento crítico en entornos cada vez más digitalizados, las relaciones de poder que han modelado los sistemas de comunicación contemporáneos, o sobre cómo los sistemas tecnológicos participan activamente en dinámicas de vigilancia y desigualdad.
-En su práctica integra la investigación teórica, el análisis de datos y la creación artística, ¿cómo dialogan estos tres mundos en su proceso creativo?
-Para mí es un proceso simbiótico donde uno bebe del otro, es algo natural, no es que lo haya considerado así o que responda a una arquitectura en particular, simplemente, para mí, siempre ha sido así.
Los temas que abordo en el arte y en la investigación los toco primero para entenderlos yo; segundo porque considero que es importante que la gente los conozca; y tercero porque la esfera del arte me permite abrir otros aspectos de las problemáticas de los datos y expandirlos más allá de su cajón, tocando así fibras menos tangibles pero que finalmente son cosas que que pasan.
-¿Me puede poner un ejemplo?
-Cuando estamos interactuando con un móvil al cuerpo le pasan muchísimas cosas. Pero cuando se habla de privacidad, de vigilancia, de capitalismo, el cuerpo queda siempre en un tercer, cuarto o quinto plano, si es que existe. Y los procesos artísticos me ayudan muchísimo a ver todo eso que le pasa al cuerpo, a explorar esta parte que forma parte de esta infraestructura pero que es muy invisible porque no se puede nombrar.
-Concibe las diferentes disciplinas como algo interconectado, no como compartimentos estancos.
-Exacto, todo está relacionado. Además, como divulgadora, para que la gente lo entienda, primero debo entenderlo yo. Al final, respondo preguntas que yo misma me hago y que pienso también se hará muchísima gente. Y a medida que vas conociendo cosas aparecen nuevas preguntas que no habías imaginado. Para mí es algo muy básico, está todo integrado.
"Cuando usas ChatGPT, Claude o cualquier otra plataforma, estos programas siempre te responderán. Esto deteriora mucho el espacio para el pensamiento crítico porque no tienes el tiempo para pensar y desarrollarlo"
-¿Considera que el arte llega a lugares de concienciación donde ámbitos académicos y periodísticos más especializados no logran llegar? ¿Es más fácil transmitir a través de las emociones?
-Creo que uno no excluye lo otro. Para lo que yo hago resulta fundamental que haya textos académicos, análisis periodísticos, los uso muchísimo. Y creo que el arte cumple otra función pero no se excluyen, al contrario pienso que se nutren bastante. A nivel intelectual seguramente un análisis periodístico o un artículo académico son más profundos, aunque no siempre es así, depende. Por otro lado el arte bien hecho actúa en lo sensible, en lo somático, activa otros canales sensoriales del cuerpo que reaccionan con la música, con el teatro, con el arte en definitiva. Y creo que esto es muy importante en temas de investigación porque es parte del conocimiento.
Muchas veces el problema es que en los ámbitos académicos y periodísticos si no es algo muy empírico, parece que no existe, y el arte tiene la capacidad de revelar esta parte menos visible. Cuando hablamos de infraestructura de internet, toda la parte técnica, económica, política, material, forma parte de ella, pero es que los cuerpos, las emociones y todo lo que nos pasa cuando estamos en estas infraestructuras también forman parte de ella. El arte ayuda a revelarlo.
-Su trabajo visibiliza procesos ocultos de la infraestructura de internet, como la materialidad, el consumo energético o el rastreo de datos. En cambio la narrativa de las grandes corporaciones nos habla de la tecnología como algo inmaterial, limpio, la famosa nube. Algo en definitiva muy etéreo. ¿Cuál cree que es el mayor peligro de que sigamos concibiendo internet como algo incorpóreo, intangible?
-Internet en sí no es diferente de cualquier otra estructura de poder, y cuando tú no entiendes bien cómo funcionan las estructuras de poder, ya sea económicas, políticas, materiales o tecnológicas, es muy difícil tener capacidad de acción, sobre todo en términos de cómo resistir o proponer alternativas a estas estructuras de dominio. Además, ningún sistema es puramente tecnológico o político o material, son un cúmulo de todas estas cosas.
Para mí no entenderlo es el principal problema porque supone restar poder a la ciudadanía, a la gente que no controla estas infraestructuras. Lo vemos por ejemplo en toda la casta tecnológica que son hiper ricos. Por tanto, cuanto más desconocimiento haya sobre cómo funcionan estas infraestructuras, habrá gente que se hará mucho más poderosa. Elon Musk, Zuckerberg, los directivos de Google, Sam Altman, todos ellos se han hecho ricos a través de corporaciones que están metidas en internet y que construyen internet.
-Parte de la solución sería exigir formación tecnológica para hacer un uso consciente de ella.
-Creo que debería haber muchísima más información, no solo sobre cómo funciona internet y las tecnologías que usamos, sino también sobre cómo funciona la bolsa, los mercados internacionales y muchísimas otras cosas que no sabemos y que rigen nuestro día a día. Yo tengo una hija de ocho años y me gustaría que le estuvieran enseñando estas cosas. No tiene que ser a un nivel muy avanzado, son temas complejos, pero se pueden usar muchísimas metáforas y ellos lo entenderían ya a edades tempranas.
Considero que esto es un fallo del sistema. Deberíamos elaborar programas para entender desde pequeños la lógica del mundo en que vivimos. Yo no entendí qué era el capitalismo hasta bien mayor, sinceramente. Y aunque lo estudias en el colegio, en ciencias sociales, se cuenta como si fuera algo separado de tu vida, como si fuera solo una teoría, y esto es un serio problema.
"La inteligencia artificial no dejará que nosotros hagamos menos y que las máquinas trabajen más, sino que haremos más porque tendremos más tiempo disponible para explotarnos"
-Más que un fallo del sistema, ¿puede haber una intencionalidad detrás? Una sociedad desinformada siempre es más manipulable.
-No sé si responde tanto a una intencionalidad o simplemente a un proceso simbiótico, como un sistema de feedback. Es decir, si la gente sabe menos, pues nosotros podemos hacer más. Si es cierto que aprovechan las oportunidades, pero tener una sociedad completamente analfabeta tampoco le sirve a la clase capitalista, al poder. Yo lo veo más como un proceso de feedback. Cuando hablamos de IA o de cómo funciona internet, para mí uno de los principales problemas es la falta de espacio crítico.
Cuando usas ChatGPT, Claude o cualquier otra plataforma para elaborar un texto, para que te ideas o incluso para saber por qué no le gusto a este chico, estos programas siempre te responderán. Esto deteriora mucho el espacio para el pensamiento crítico porque no tienes el tiempo para pensar y desarrollarlo, esto me preocupa.
-Generan dependencia en detrimento del pensamiento crítico. Además te ahorran tiempo.
-En realidad no te ahorran tiempo, porque al final haces más cosas. Recuerdo, antes de los smartphones, cuando teníamos esos teléfonos con los que crecimos, mandabas cinco SMS al día y ya estabas cansada. Ahora pensamos que los WhatsApp nos van a ahorrar tiempo pero es mentira porque en vez de mandar 20 mensajes al día mandamos muchísimos más y eso se va acumulando.
La inteligencia artificial no dejará que nosotros hagamos menos y que las máquinas trabajen más, sino que haremos más porque tendremos más tiempo disponible para explotarnos, y esto es una de las bases del capitalismo. Eso demuestra que no podemos desligar las tecnologías ni de lo material, de lo político, lo biológico ni de la parte somática del cuerpo. Sencillamente no es posible.
-Con el uso sistemático y continuado que hacemos de la tecnología, de las redes sociales, proporcionamos a las grandes corporaciones información cuantificable: hábitos de consumo, preferencias, información económica... Pero también obtienen datos más emocionales. ¿Tienen los poderes fácticos un perfil preciso y completo de nosotros o aún no estamos en ese punto?
-Es ya una realidad y va a ser aún más preciso, es así. Pero toda esta estrategia de perfilar al usuario es algo que se ha hecho desde el inicio del marketing. Además es algo que también la industria militar ha usado muchísimo, y continúa usando precisamente porque hay perfiles, patrones muy concretos.
Sobre todo tienen capacidad para analizar patrones de comportamiento, porque ¿cuántas veces pasamos por Google para hacer cosas y utilizamos Amazon, Facebook o Meta? Todos esos datos de actividad diaria durante años son una fuente de información extraordinaria, y ellos tienen la capacidad de analizar todos esos datos. Ese es el modelo de negocio. A día de hoy esos sistemas de análisis son más efectivos y más concretos que antes y serán aún más específicos en unos años. Es una realidad.
"Cuanto más desconocimiento haya sobre cómo funcionan estas infraestructuras, habrá gente que se hará mucho más poderosa"
-¿La tecnología en sí puede ser peligrosa o más bien el mal uso que hacemos de ella nosotros y la gente que la controla?
-Esto es un poco el dilema de quién fue antes, ¿el huevo o la gallina? A ver, la tecnología que usamos no es neutral, esto primero. Todas las tecnologías que utilizamos a día de hoy fueron desarrolladas dentro de un marco exclusivamente militar, por temas de seguridad después de la Segunda Guerra Mundial, sobre todo en Estados Unidos. Por tanto, las bases de los ordenadores, de los microprocesadores, todo lo que usamos actualmente, incluso muchos materiales que están dentro de los dispositivos, son fruto de la investigación militar.
Internet, es un proyecto militar. Por eso es fundamental entender que en las tecnologías, en los diseños y proyectos tecnológicos siempre se inscriben los valores ideológicos, los sistemas de creencias del grupo social que los ha creado. Es muy importante ver el contexto: la Guerra Fría tras el fin de la Segunda Guerra Mundial, hombres blancos en su mayoría judíos y cristianos, etc, etc. Por tanto, a la pregunta de si la tecnología puede hacer el bien o el mal, la respuesta es que la tecnología no es neutral. Y cuando tienes una tecnología cuyos valores, fundamentalmente, son todos militares es muy difícil desligarla de todo eso porque esta tecnología está diseñada básicamente para vigilar, controlar y cuantificar.
La idea de internet surgió a raíz de la Guerra Fría, cuando los conflictos ya no eran asunto de dos o tres superpotencias identificables, sino que podían ser luchas asimétricas, como por ejemplo un poderoso Estados Unidos luchando contra guerrillas en el sudeste asiático que no eran tan identificables. Por eso se concibió internet, como un gran sistema de videovigilancia global que pudiera verlo todo e intentar anticipar posibles insurgencias.
-Y ese gran hermano también se usa con fines económicos.
-Tenemos una internet que es comercial, que no es militar, pero que ha acabado haciendo exactamente lo mismo, solo que con una capa narrativa comercial. La publicidad online, que es el principal modelo de negocio de internet y de compañías como Google, Facebook, etcétera, y también de todos los servidores, se ha convertido literalmente, dicho por un alto cargo del gobierno de EE.UU, en la mayor fuente de inteligencia abierta al mundo.
Esto es así y no se puede separar lo militar de lo comercial ¿Puede servir para el bien? Pues no lo sé, porque tiene una ideología y unos valores muy arraigados ¿Se puede usar una infraestructura militar para el bien? Es una pregunta que va mucho más allá de la tecnología en sí, es un tema ideológico. Es una cuestión muy compleja para la que yo no tengo respuesta.
-Cierto, hay mucho de ideología, pero la tecnología en sí puede ser útil.
-Sí, la cuestión es que no lo puedes desligar, la ideología está dentro de la tecnología. No es una capa que puedas poner y quitar. La tecnología está diseñada de una forma y funciona de una forma. Por ejemplo, un ordenador es ver el mundo en binario, 0 1 0 1 0 1 0 1, y un ordenador básicamente lo que hace es calcular procesos, guardarlos y controlar todos los procesos que se están haciendo en un ordenador. Por tanto, estamos hablando de una base de control. Podría ser una tecnología basada en controlar absolutamente nada, pero no es así. Pensamos en la tecnología como algo neutral, pero no lo es.
-Sus trabajos abordan a menudo cómo los dispositivos condicionan nuestro comportamiento. Frente a la creciente dependencia tecnológica, ¿la única respuesta posible sería el ayuno digital o la desconexión absoluta de la tecnología y de las redes o existen alternativas colectivas?
-Desde mi punto de vista, la desconexión digital es una idea muy naif. Tú puedes hacer ayuno digital para tomar distancia y tener tiempo para pensar, para generar pensamiento crítico y luego regresar con otras perspectivas. Pero si nos desconectamos, nos desligamos del sistema, no tendrás ningún poder para incidir en ese sistema. Como una forma de resistencia, de protesta, está bien, pero la cuestión es qué quieres conseguir a largo plazo.
El tema de la lucha no es tanto tecnológico, sino político. Es de conocimiento y es política. Lo que hay que hacer es concienciar a los políticos para que elaboren leyes adecuadas. Y es un trabajo que está en continua evolución. El problema es que la tecnología evoluciona mucho más rápido que la capacidad que tenemos los humanos, como sociedad, para entender sus consecuencias, aunque, personalmente, creo que ya tenemos suficiente bagaje para entender que muchas no son buenas y que hay que vigilar.
-Es decir, la resistencia, la reivindicación, si hay algún tipo de solución tiene que pasar por la reivindicación social.
-Exacto. La reivindicación social es fundamental para cambiar el sistema de gobernanza y las retóricas alrededor de las tecnológicas.
-Como artista e investigadora que está mapeando constantemente la evolución del ecosistema tecnológico, la irrupción masiva de las IA generativas supone una escalada de todas estas amenazas.
-Absolutamente. Supone una aceleración y una intensificación, como pasó cuando aparecieron los smartphones, y antes cuando aparecieron los teléfonos. Todo es parte de la misma de la misma bola que ahora se hace más grande.
"Se necesita mucha más masa crítica y no la hay"
-Usted, como usuaria absolutamente consciente de todo lo que hay detrás ¿cómo usa la tecnología y se protege? ¿Es esto posible?
-Es muy complicado. Por ejemplo, yo solo usaría Signal –un sistema de mensajería muy encriptado y más seguro– pero los mensajes de la familia, del colegio, de todo, van por WhatsApp. Además, claro, tengo una cuenta de Google por necesidad ya que cualquier inscripción que tengas que hacer del colegio, todo, va con formularios de Google. Es muy difícil escaparte en la escuela y en muchos otros ámbitos. Incluso para ciertos sistemas gubernamentales necesitas un teléfono y una app y por tanto tú la relación con el gobierno está mediada por una de estas tecnológicas y sus sistemas operativos –Android o iPhone–. Entonces, por mucho que quieras escapar es muy difícil, es virtualmente imposible si quieres seguir siendo parte activa de la sociedad. Es un problema enorme.
-Al menos usted es consciente.
-Sí, pero esto me genera muchas contradicciones también. Es difícil. Y lo que más me preocupa son todos los lazos con la industria militar y el uso de la inteligencia artificial para usos militares. Sí, es una buena bola, no tiene buena pinta.
-No es muy optimista.
-Soy optimista, creo que se pueden hacer muchas cosas, pero el problema es que hay muy poca gente con demasiado poder. Elon Musk tiene un poder tremendo. Lo vemos por ejemplo con Starlink, estos satélites que dan vueltas por el mundo abasteciendo de internet al 70% de la población. Eso da a una sola persona un poder tremendo.
En la guerra de Ucrania decidió cortar internet a Ucrania y también a Rusia para facilitar ciertas actividades militares, ¿cómo es posible que una sola persona pueda decidir esto? A mí este tipo de cosas me preocupan muchísimo, sobre todo cuando eres consciente del cambio geopolítico global, de las facciones de poder que están ocurriendo ahora, fundamentadas absolutamente en una raíz patriarcal. Da miedo y me preocupa muchísimo ver cómo la gente reacciona apoyando a la ultraderecha. Y la tecnología, las redes sociales, no están ayudando nada.
Precisamente ahora estoy comisariando una exposición, para el centro Arts Santa Mònica en Barcelona, basada en una investigación que llevo muchos años haciendo sobre la militarización de la sociedad civil a través del uso de plataformas digitales comerciales. Es muy importante ver cómo se traspasan todas estas ideologías ultra neoliberales a través de estos dispositivos y cómo las reproducimos nosotros con nuestros cuerpos.
Esto es parte del problema, pero una parte que no se ve. Creo que hay mucho trabajo por hacer. Hay gente que está haciendo cosas muy importantes, pero se necesita mucha más masa crítica y no la hay. Vas a los colegios, a los institutos, y los profesores no se enteran. Y creo que es por ahí, colegios, institutos, por donde hay que empezar.
-Educación de base.
-Eso es, educación de base porque solo así será posible que todas estas generaciones tengan una base de pensamiento crítico que es lo que hace falta, más pensamiento crítico. Se trata de que, aunque no sepas bien cómo funciona internet, te lo cuestiones todo.
