Habla el extranjero Crónica Global Barcelona
La empresa de investigación en Inteligencia Artificial (IA) OpenAI ha informado de que la semana pasada, durante una prueba interna de sus nuevos modelos de IA, el software logró de forma autónoma introducirse en los sistemas de otra empresa de IA. Al parecer, los modelos de IA consiguieron escapar de su entorno de pruebas aislado y obtener acceso a internet.
Leímos la noticia en El País (Juli Ponce): “OpenAI sometió a varios de sus modelos más avanzados a pruebas para medir sus capacidades. La IA consideró que Hugging Face, una de las mayores plataformas mundiales de inteligencia artificial, alojaba recursos útiles para su tarea y decidió acceder ilícitamente a su infraestructura usando una vulnerabilidad desconocida. Podríamos decir que la inteligencia artificial decidió que la manera más eficaz de aprobar el examen era… robar y copiar. El episodio, relatado por la propia OpenAI, parece escrito por un guionista de ciencia ficción.”
Veamos lo que dice sobre el asunto la prensa internacional más solvente (extraemos y traducimos las citas del agregador Eurotopics), empezando por el diario más importante de Alemania, el Frankfurter Allgemeine Zeitung, que reclama una inmediata regulación de la IA:
"La administración estadounidense de Donald Trump ha restado importancia a esto durante demasiado tiempo; de hecho, consideraba que la regulación era perjudicial. [...] Pero el modelo Mythos de Anthropic sí parece haber hecho saltar las alarmas, y Trump emitió recientemente una orden ejecutiva que podría traducirse en una supervisión estatal algo más estricta del sector de la IA. Por ejemplo, establece que las empresas de IA deberían poner sus modelos a disposición del Gobierno para su revisión de forma voluntaria. Aun así, se trata todavía de un intento de regulación bastante tibio. [...] La pérdida de control de OpenAI sobre sus modelos de IA es otro disparo de advertencia más, y particularmente sonoro."
El incidente pone de relieve los riesgos que plantean incluso los modelos de IA que aún no se han lanzado públicamente, advierte The Economist, y comenta un precedente: “En el pasado mes de abril, un investigador de Anthropic publicó en internet que se había sorprendido al recibir un correo electrónico de Mythos —entonces un modelo de IA no publicado— informándole de que había logrado escapar de un entorno aislado (‘sandbox’) como parte de su propia evaluación de capacidades cibernéticas, mientras él estaba sentado en un parque comiéndose un bocadillo. Al igual que el modelo no publicado de OpenAI implicado en el incidente de Hugging Face, se suponía que Mythos no debía tener acceso irrestricto a internet. Sin embargo, en aquel caso, el modelo no llegó a comprometer los servidores de otras empresas.”
También en un interesante artículo para Le Monde, el historiador Julien Broch defiende la integración sostenible de la IA en el sistema legal: “Ya no se trata simplemente de impedir que la IA se vuelva maliciosa. La cuestión es cómo garantizar que se respete la ley cuando las acciones las llevan a cabo sistemas que no pueden ser considerados moralmente responsables. […] La historia demuestra que las sociedades nunca logran controlar nuevas formas de poder solo mediante la confianza. Crean instituciones que limitan ese poder: tras el absolutismo llegó la separación de poderes. La Revolución Industrial dio lugar al derecho laboral. […] Toda gran revolución tecnológica ha encontrado su contrapeso en innovaciones jurídicas. Es poco probable que la IA sea la excepción.”
En el Jornal de Notícias, diario generalista y popular portugués, Pedro Ivo Carvalho considera el incidente de OpenAI extremadamente preocupante: “Este es uno de los primeros ejemplos públicamente conocidos de una brecha de seguridad causada por un ‘actor malicioso’ que se descontrola. Ha pillado por sorpresa incluso a quienes tienen el conocimiento más profundo de estos sistemas. Es el equivalente a que un virus creado en laboratorio escape de instalaciones controladas y diezme un barrio entero. En privado, los escépticos afirman que las estrategias de marketing de las multinacionales de la IA se apoyan en el miedo para impulsar sus cotizaciones bursátiles, pero incluso si eso fuera cierto, no podemos negar que el camino hacia ese precipicio futurista es peligrosamente resbaladizo.”
En Expressen, tabloide sueco sensacionalista, de tendencia de centro derecha, Rutger Brattström traza paralelismos con la energía nuclear y sostiene que el incidente pone de relieve la necesidad de un organismo regulador internacional: “Todos salimos beneficiados de que la humanidad no se destruya a sí misma. Incluso con la guerra entre Rusia y Ucrania en pleno desarrollo, los inspectores del OIEA (Organismo Internacional de Energía Atómica) siguen de guardia en la central nuclear de Zaporiyia, situada justo en la línea del frente. Las empresas que desarrollan IA deben someterse a requisitos de transparencia. Deben revelar qué están haciendo y por qué, y sus medidas de seguridad deben someterse a un escrutinio independiente. Las mejores prácticas para corregir desalineaciones deberían compartirse libremente entre empresas. Hay que crear cuanto antes un OIEA para la IA.”
Al menos el incidente ha impulsado a Estados Unidos a actuar en el ámbito de la regulación de la IA, observa La Stampa: “Hace unos días, Sam Altman lanzó una idea que, viniendo del máximo responsable de OpenAI, suena a provocación: que la empresa podría entregar el cinco por ciento de su capital al Estado estadounidense. El senador demócrata Bernie Sanders subió inmediatamente la apuesta, exigiendo un 50 por ciento en lugar de un 5 por ciento. [...] Pero la verdadera sorpresa vino de Donald Trump, quien dijo estar 'muy interesado' en la idea de que el Estado tuviera una participación en las empresas de IA. [...] El elefante en la habitación debía de ser tan enorme que hasta eclipsó la polarización política, poniendo a Sanders y a Trump del mismo lado: ¿a quién debería pertenecer la IA?"
El moderado diario vienés de centro derecha Kurier sostiene que quizá nos están tomando el pelo, y que la alarma general puede haber sido provocada adrede, como una estrategia de marketing, idea que también insinúa el citado Jornal de Notícias: “¿Así que hemos entrado en una nueva era en la que la inteligencia artificial se descontrola y provoca el caos? Probablemente no. Hay algo que siempre deberíamos tener presente: empresas como OpenAI ganan dinero haciendo que su producto parezca lo más competente y potente posible. El comunicado sobre el incidente de seguridad se lee como un anuncio del nuevo modelo. Precisamente por eso deberíamos tomarnos ese comunicado con cautela.”
