En muchos enfoques de inteligencia artificial y ciberseguridad, la gobernanza termina incorporándose al propio sistema técnico: reglas codificadas, automatismos de control, mecanismos que “deciden” qué está permitido y qué no.
Ese enfoque puede parecer eficiente, pero introduce un error estructural:
desplaza la autoridad desde las personas y las instituciones hacia la tecnología.
La gobernanza no puede depender de que un sistema funcione correctamente.
Debe existir antes, por encima y al margen de cualquier componente técnico.
Cuando un sistema falla, se degrada o se sustituye, la legitimidad de las decisiones no puede desaparecer con él.
Si la autoridad cae junto con la tecnología, no estamos ante un fallo técnico, sino ante un fallo de diseño de gobernanza.
Por eso, en entornos complejos y de alto riesgo, la gobernanza no se concibe como una función del sistema, sino como una propiedad estructural independiente, capaz de sostener responsabilidad y control incluso cuando la tecnología cambia.
Top comments (0)