Silvia Urarte y un consejo de administración
La IA entra en el consejo de administración
"El nuevo proyecto de ley sobre inteligencia artificial no trata solo de tecnología: obliga a las empresas a supervisar decisiones automatizadas, documentar responsabilidades y asumir que la IA ya forma parte del perímetro de gobernanza, compliance, reputación y derechos fundamentales"
Durante años, muchas empresas incorporaron inteligencia artificial como quien instala una nueva herramienta de productividad: deprisa, sin mapa y, en muchos casos, sin saber realmente qué decisiones estaba ayudando a tomar.
El proyecto de Ley Orgánica aprobado recientemente por el Consejo de Ministros cambia ese paradigma. No es todavía una ley vigente —el texto debe iniciar ahora su tramitación parlamentaria en el Congreso y podría modificarse durante el proceso—, pero su orientación estratégica es inequívoca: la inteligencia artificial deja de ser únicamente innovación tecnológica para convertirse en infraestructura crítica de decisión.
Y eso cambia completamente el marco empresarial.
La norma busca adaptar España al Reglamento Europeo de Inteligencia Artificial y construir el sistema nacional de supervisión, gobernanza y sanciones. Pero la verdadera transformación no está en los titulares más mediáticos ni en las multas multimillonarias. Está en otra idea mucho más profunda: las organizaciones deberán empezar a gobernar cómo toman decisiones asistidas por algoritmos.
Porque la IA ya no es solo una herramienta de apoyo. Cada vez más, clasifica, filtra, recomienda, puntúa y condiciona decisiones humanas.
Y eso introduce un nuevo nivel de responsabilidad corporativa.
La futura norma incorpora la obligación de supervisión humana en sistemas que puedan afectar derechos fundamentales, endurece las prohibiciones sobre usos considerados de riesgo inaceptable y refuerza el régimen sancionador, con multas que podrían alcanzar hasta 35 millones de euros o el 7% de la facturación global en los casos más graves.
España también ha impulsado dentro del marco europeo la prohibición específica de sistemas destinados a generar deepfakes sexuales y pornografía infantil mediante IA, uno de los puntos más sensibles de la regulación por su impacto sobre menores, mujeres y reputación digital.
Pero el verdadero cambio empresarial no está ahí.
La cuestión clave es que la inteligencia artificial entra oficialmente en el perímetro de gobernanza y compliance corporativo.
Las compañías tendrán que demostrar qué sistemas utilizan, qué riesgos generan, quién supervisa los resultados, qué datos alimentan los modelos y cómo se documenta la responsabilidad cuando una decisión automatizada provoca un perjuicio.
Y el problema ya no es teórico.
Hoy ya existen organizaciones donde algoritmos ayudan a priorizar candidatos en procesos de selección, clasificar clientes, recomendar operaciones financieras, evaluar riesgos aseguradores o decidir qué incidencias reciben atención preferente. La automatización ya no afecta únicamente a tareas. Empieza a afectar al criterio.
Hasta ahora, muchas empresas operaban en una especie de “zona gris algorítmica”. Empleados utilizando herramientas externas sin control, prompts críticos dispersos, automatizaciones invisibles, decisiones parcialmente delegadas y ausencia total de inventarios internos sobre IA.
El problema ya no es si una empresa utiliza inteligencia artificial. El problema es si sabe realmente cómo está tomando decisiones con ella. Y ahí aparece uno de los grandes desafíos de esta década: la gobernanza algorítmica.
Igual que ocurrió hace años con la protección de datos, muchas empresas creen hoy que el reto consiste únicamente en cumplir requisitos legales. Pero, igual que sucedió con la sostenibilidad, el verdadero cambio no estará en reportar, sino en demostrar control, trazabilidad y criterio humano en entornos cada vez más automatizados.
Porque la IA no solo impacta en eficiencia. También afecta reputación, derechos fundamentales, sesgos, gobernanza y confianza corporativa.
La sostenibilidad empresarial ya no trata únicamente de emisiones o impacto ambiental. También empieza a medir cómo se toman las decisiones. Y eso obliga a abrir un debate incómodo: ¿quién supervisa realmente los algoritmos dentro de las empresas? Porque muchas organizaciones todavía no saben cuántas decisiones empiezan a delegar silenciosamente en sistemas algorítmicos.
La creación de la Agencia Española de Supervisión de Inteligencia Artificial (Aesia) refuerza además el papel del Estado en este nuevo escenario. La Aesia se convertirá en pieza central del sistema de control, junto con supervisores sectoriales como el Banco de España, la Agencia Española de Protección de Datos o el Consejo General del Poder Judicial.
No es un movimiento menor.
Europa lleva años intentando construir un modelo propio frente a la lógica más desregulada de Estados Unidos y al modelo de control estatal chino. Pero el objetivo europeo no es únicamente competir en capacidad tecnológica, sino también en legitimidad, supervisión y control democrático.
Y España quiere posicionarse como uno de los nodos europeos de gobernanza de la inteligencia artificial.
Los sectores regulados —finanzas, seguros, salud, Administración pública o infraestructuras críticas— serán probablemente los primeros en notar el impacto real de este nuevo marco.
Especialmente porque muchas de las decisiones estratégicas ya empiezan a apoyarse en sistemas algorítmicos capaces de analizar riesgos, evaluar operaciones, segmentar clientes o automatizar procesos sensibles.
La IA ya no está en el departamento de innovación. Empieza a entrar directamente en los consejos de administración.
Durante años se habló de inteligencia artificial como una revolución tecnológica. Pero las grandes transformaciones nunca llegan únicamente cuando aparece una tecnología, sino cuando la sociedad decide quién puede usarla, cómo debe supervisarse y quién asume las consecuencias.
La inteligencia artificial no está sustituyendo únicamente tareas. Empieza a ocupar un espacio mucho más sensible: el lugar donde las empresas analizan, priorizan y toman decisiones.
