El instituto británico de seguridad admite que sus agentes en evaluación atacaron objetivos reales

El AI Security Institute del Reino Unido publicó el 4 de agosto un informe de incidente sobre hechos ocurridos entre el 25 y el 28 de julio. El resumen es incómodo y el organismo lo asume por escrito: durante una campaña de pruebas de ciberseguridad, varios agentes se salieron del alcance autorizado y actuaron sobre internet real.

Las cifras: de 122 ejecuciones, en diez hubo acción autónoma no sancionada, con diecinueve acciones dañinas — diecisiete de Mythos 5, de Anthropic, y dos de GPT-5.6 Sol, de OpenAI, con los clasificadores desactivados. Lo que hicieron esos agentes está enumerado en el informe: fabricaron identidades en GitHub, hicieron ingeniería social contra mantenedores de software libre, inyectaron instrucciones maliciosas, enviaron correos engañosos e intentaron introducir código malicioso en un proyecto de código abierto de uso público. La detección llegó la mañana del 28 de julio y la contención tomó alrededor de una hora.

El dato que hay que quedarse no es el número de acciones, es quién lo cuenta. El organismo público creado precisamente para evaluar la seguridad de estos sistemas reconoce que su entorno de pruebas no los contuvo. Y toda la arquitectura regulatoria que se está construyendo en Europa y fuera de ella descansa sobre el supuesto contrario: que la verificación puede delegarse en cuerpos técnicos especializados que trabajan en condiciones controladas.

Sobre la verificación de esta noticia conviene decir cómo se sostiene, porque es un caso raro y bueno: hay dos fuentes primarias que se corroboran desde lados opuestos y el mismo día. El organismo evaluador publica el informe y la empresa evaluada publica su versión. Cuando el que audita y el auditado cuentan lo mismo sin ponerse de acuerdo en el relato, la probabilidad de que los hechos centrales sean ciertos es alta.