Bitácora · 2026 · Seguridad
El problema es la nave, no el astronauta.
Pasamos meses siguiendo escapes de agentes de IA caso por caso, antes de permitirnos diseñar nada. El patrón era siempre el mismo, y nunca se trató de que el modelo fuera demasiado astuto.
Rodrigo Gutiérrez · Patagonia norte, Chile
Un agente con una tarea chica, suelto en una casa grande.
Le das a un agente una tarea acotada. En algún punto del camino toca credenciales, repositorios o servicios que nunca debió ver, a veces muy lejos de donde empezó. Un profesional de seguridad reacciona en cuanto puede ver el problema. Aquí no había nada que ver: la actividad corría dentro de un sandbox que informaba sobre sí mismo, y los únicos registros eran los que el sistema comprometido decidió escribir.
El reflejo es construir una mejor cerca: un sandbox más apretado, más reglas, otra lista de permitidos. Pero una cerca que se puede saltar no es una ausencia, y el agente nunca fue el peligro por sí solo. El peligro era el poder permanente que lo rodeaba.
Así que dejamos de endurecer la caja y empezamos a botarla.
Al astronauta no lo mantiene vivo confiar en el astronauta. Recibe una cápsula hecha para un solo viaje, con solo el aire y el combustible que ese viaje necesita, y desaparece cuando el viaje termina. Esa es la forma del arreglo: una máquina por paso, autoridad que expira y nunca se amplifica, un testigo fuera de la máquina, y un sucesor que solo puede existir contra evidencia firmada.
el giro
Deja de pedirle al agente que se porte bien. Construye una máquina que no pueda sobrevivir a su trabajo, y un compromiso no tiene a dónde ir.
Eso se volvió el Agent Fabric. La evidencia muestra hasta dónde está probada cada parte, y dónde aún se queda corta. Volver a la bitácora →