La IA no necesita revelarse para gobernarnos
Hay una posibilidad que me preocupa más que la idea de una máquina fuera de control: que nosotros perdamos primero la capacidad de gobernarla.
Valentina Arenas
Abogada y columnista · Fundadora · 15 de septiembre, 2026
Hay una posibilidad sobre la inteligencia artificial que me preocupa más que la idea de que una máquina se salga de control.
Que nosotros perdamos primero la capacidad de gobernarla.
No porque desaparezcan las leyes.
No porque los Estados renuncien a regular.
Sino porque llegue un punto en el que nuestras instituciones ya no estén tomando decisiones sobre la tecnología.
Estén simplemente reaccionando a lo que la tecnología acaba de hacer.
Y esa diferencia es enorme.
En julio ocurrió algo que hace pocos años habría parecido ciencia ficción.
Durante unas evaluaciones internas de ciberseguridad, modelos de OpenAI consiguieron evadir controles diseñados para mantenerlos aislados, acceder a internet y comprometer parte de la infraestructura de OpenAI y de Hugging Face. La compañía ha reconocido que las acciones observadas no estaban alineadas con los objetivos de las pruebas y que el episodio exige mejores mecanismos de monitorización y contención.
No fue el único episodio.
Hace unos meses Anthropic restringió el acceso a Mythos, uno de sus modelos más avanzados en ciberseguridad, precisamente porque sus capacidades podían ser utilizadas tanto para defender sistemas como para atacarlos.
Después ocurrió algo todavía más interesante desde el Derecho.
El Gobierno de Estados Unidos ordenó temporalmente restringir el acceso a Mythos 5 y Fable 5 para nacionales extranjeros invocando razones de seguridad nacional.
Un modelo todavía no disponible masivamente estaba modificando política pública, controles de exportación y decisiones sobre quién podía acceder a determinadas capacidades cognitivas.
Y esta semana la frontera volvió a moverse.
Anthropic presentó un estándar que permite a agentes de inteligencia artificial interactuar directamente con equipos físicos: desde microscopios hasta brazos robóticos utilizados en investigación y manufactura avanzada.
Cada uno de estos hechos puede analizarse de forma independiente.
Yo creo que juntos dicen algo más importante.
El objeto que intentamos gobernar está cambiando más rápido que nuestras categorías para entenderlo.
Durante mucho tiempo el Derecho pudo permitirse llegar después.
Primero aparecía una tecnología.
Después entendíamos sus efectos.
Después surgía jurisprudencia.
Después llegaba regulación.
No era perfecto, pero el desfase era manejable.
Con la inteligencia artificial ese espacio se está comprimiendo.
Un modelo cambia.
Una capacidad aparece.
Una vulnerabilidad se descubre.
Una empresa modifica su política.
Un gobierno restringe acceso.
Otra organización necesita esa misma tecnología para defenderse de la primera.
Y antes de que hayamos terminado de decidir qué ocurrió, la frontera técnica ya se movió otra vez.
Aquí aparece una distinción que me parece fundamental:
Regular no es lo mismo que gobernar.
Regular significa establecer reglas.
Gobernar significa conservar capacidad real para comprender, anticipar, decidir, intervenir y corregir.
Puedes tener muchas reglas y muy poca capacidad de gobierno.
Y creo que ese es uno de los riesgos que menos estamos mirando.
El punto crítico de la gobernanza de la IA probablemente no llegará el día en que una inteligencia artificial declare que no obedecerá.
Puede llegar mucho antes.
Llegará cuando una política sea obsoleta al publicarse.
Cuando una institución solo pueda entender un incidente después de que una empresa tecnológica se lo explique.
Cuando los reguladores dependan de las mismas compañías que supervisan para saber qué capacidades existen.
Cuando cada nueva crisis obligue a improvisar una excepción.
Cuando el Derecho deje de anticipar y empiece simplemente a administrar consecuencias.
Ahí todavía habrá leyes.
Todavía habrá organismos.
Todavía habrá comités de ética.
Pero quizá ya no estaremos gobernando. Estaremos apagando incendios.
Y por eso creo que el próximo debate sobre gobernanza de inteligencia artificial no debería ser simplemente:
¿Qué nueva regulación necesitamos?
Debería ser:
¿Qué capacidades necesitamos para seguir siendo capaces de gobernar?
Eso implica algo mucho más difícil que producir normas.
Necesitamos instituciones técnicamente capaces de entender aquello que supervisan.
Necesitamos mecanismos de reporte de incidentes mucho más rápidos.
Necesitamos evaluaciones independientes.
Necesitamos compartir conocimiento sobre amenazas que no respetan fronteras corporativas ni nacionales.
Y necesitamos hablar seriamente de soberanía tecnológica, porque ningún Estado puede afirmar que gobierna una infraestructura que ni comprende ni controla.
También necesitamos aceptar una paradoja.
La opacidad puede parecer seguridad.
Pero cuando las capacidades de un modelo son suficientemente poderosas, impedir que otros investigadores, gobiernos o defensores entiendan cómo funciona puede terminar debilitando al ecosistema que intentábamos proteger.
El debate entre modelos abiertos y cerrados deja entonces de ser una discusión filosófica sobre innovación.
Se convierte en una discusión sobre resiliencia.
Quién puede auditar. Quién puede defender. Quién puede adaptar. Quién puede verificar.
Quién conserva capacidad de actuar cuando algo falla.
Hace tiempo escribí una frase que cada vez me parece más importante:
Regular no es tener poder.
Hoy le agregaría algo.
Tener leyes tampoco garantiza conservarlo.
Porque el verdadero poder de gobernar una tecnología no está solamente en decirle qué puede hacer.
Está en ser capaz de comprenderla lo suficientemente rápido como para seguir tomando decisiones antes de que las decisiones empiecen a tomarse por nosotros.
La inteligencia artificial todavía no ha escapado de nuestro control.
Pero esa quizá no sea la única pregunta importante.
La pregunta anterior es:
¿Qué tendría que pasar para que nosotros dejáramos de estar realmente al mando y ni siquiera nos diéramos cuenta?
El día en que gobernar la IA consista únicamente en reaccionar a lo que acaba de hacer,
ya no estaremos gobernando inteligencia artificial.
Estaremos administrando sus consecuencias.
Sobre la autora
Valentina Arenas
Abogada y columnista · Fundadora
Valentina trabaja en la intersección entre derecho, inteligencia artificial y reputación profesional, ayudando a líderes y organizaciones a convertir criterio en autoridad visible.
