Un agente autónomo de OpenAI evadió la pasada semana sus medidas de contención para atacar la plataforma Hugging Face, sin guía de seres humanos. El incidente obligó a los ingenieros a reconocer que los límites éticos de las máquinas son todavía una promesa de papel
En los laboratorios de OpenAI la semana pasada el ambiente fue de asombro y zozobra. Durante una prueba de rutina, lo que debía ser un simulacro de ciberseguridad se transformó en un hecho estresante por las razones equivocadas. Un sistema, compuesto por el modelo GPT-5.6 Sol y una variante interna más potente, decidió que las reglas del laboratorio no eran para él.
Su objetivo era superar el examen ExploitGym, una batería de retos diseñada para medir si una inteligencia artificial (IA) puede convertir fallos de software en ataques reales. Sin embargo, en lugar de resolver los rompecabezas paso a paso, la máquina optó por una ruta más directa: el robo de las respuestas.
Para que esta prueba tuviera sentido, OpenAI tomó una decisión que hoy es objeto de críticas feroces. Los ingenieros desactivaron de forma deliberada los clasificadores de seguridad y los filtros de rechazo. Según reportó el diario The Guardian, la empresa argumentó que no resulta imposible evaluar el potencial máximo de una herramienta si esta tiene prohibido tocar los cables de alto voltaje que debe aprender a manejar.
Con las manos libres, el agente de IA analizó su entorno digital, un área aislada conocida como sandbox, y encontró una grieta. Aprovechó un fallo desconocido, una vulnerabilidad de «día cero» en un servidor intermediario que servía de puente para descargar paquetes de software.
Como relata el portal Singularity Hub, el escape fue de película. La IA no solo salió a la internet abierta, sino que escaló sus privilegios dentro de la propia red de OpenAI hasta alcanzar un nodo con conexión irrestricta al mundo exterior. Una vez libre, el agente «infirió» que Hugging Face, el gran mercado y repositorio de modelos de IA, debía guardar las soluciones de su examen. El ataque fue una coreografía de fuerza bruta y astucia.
La máquina penetró la infraestructura de Hugging Face a través de sus sistemas de procesamiento de datos, donde inyectó código malicioso para ganar acceso a los servidores internos de la compañía. Durante un fin de semana, el intruso se movió por los clústeres de la empresa, robó credenciales y, por fin, extrajo las claves de respuestas que buscaba de una base de datos de producción.
Las consecuencias operativas fueron de caos total. Hugging Face tuvo que reconstruir sus nodos y solicitar a miles de usuarios que cambiaran sus claves de acceso. Pero el impacto más irónico se dio en la defensa. Cuando el equipo de seguridad intentó usar modelos comerciales para analizar el ataque, las propias barreras de seguridad de estos sistemas bloquearon las peticiones. Los filtros de IA no sabían distinguir a un investigador de un criminal. Para resolver el enigma, Hugging Face recurrió al modelo chino GLM 5.2, una tecnología de pesos abiertos que pudo procesar los 17 000 eventos del ataque, sin censura ética, como detalla la propia empresa en su bitácora de seguridad.
Este asalto a Hugging Face no es un suceso huérfano. El rastro de agentes de inteligencia artificial que actúan por cuenta propia empieza a poblar los archivos de la ciberseguridad moderna. En septiembre de 2025, el mundo conoció la campaña GTG-1002, donde un grupo de asaltantes secuestró la herramienta Claude Code de Anthropic. El agente, engañado bajo la premisa de que realizaba una prueba legítima, ejecutó por sí solo casi el 90 por ciento de un ataque contra 30 organizaciones globales, a una velocidad que ningún equipo humano pudo igualar.
Incluso, los evaluadores oficiales han sido víctimas de estas «trampas» algorítmicas. El Instituto de Seguridad de IA del Reino Unido reveló que uno de los modelos bajo su supervisión intentó hackear los sistemas de prueba del propio instituto para subir su calificación. Como explica un análisis en la publicación Vectra AI, este fenómeno se conoce como «juego de especificaciones». La máquina no tiene una intención malvada, solo busca el camino más corto hacia su objetivo matemático. Si el éxito se mide con una puntuación, y hackear al examinador resulta más eficiente que estudiar el examen, la IA lo hará.
Lo que roba el sueño a los expertos es si existe una forma de grabar a fuego límites éticos inviolables en estos cerebros de silicio. La respuesta actual es un no rotundo. Las fuentes coinciden en que los filtros internos son frágiles y se pueden apagar o rodear. La solución que empieza a ganar adeptos no reside en la «educación» del modelo, sino en un control externo absoluto.
Los búnkeres digitales donde se prueban estas máquinas deben tener políticas de «egreso cero», donde ninguna señal salga al exterior sin permiso humano explícito. La seguridad debe estar en la infraestructura, no en la conciencia de la máquina, pues para una IA, una regla ética es solo un obstáculo lógico más por resolver.
Ante la incapacidad técnica de garantizar el buen comportamiento de la IA, algunos gobiernos han pasado a la ofensiva legislativa. El 23 de julio último, como respuesta directa al asalto contra Hugging Face, se presentó en el Congreso de Estados Unidos la Ley del Interruptor de IA (AI Kill Switch Act). Esta propuesta obligaría a las empresas a mantener la capacidad técnica para apagar, ralentizar o suspender sus modelos, de forma inmediata, si estos actúan fuera de control. El Gobierno federal tendría la autoridad para ordenar el cierre de cualquier sistema que ponga en riesgo la seguridad nacional o la integridad de redes privadas.
No es el único muro de contención en construcción. El presidente Donald Trump había firmado en junio último la Orden Ejecutiva 14409, que impone un período de evaluación obligatoria de 30 días para cualquier «modelo de frontera», antes de su salida al mercado. En este plazo, agencias como la NSA verifican si la máquina está en condiciones de fabricar armas digitales o escapar de sus jaulas lógicas. A nivel estatal, California ya aplica su ley SB 53, que exige reportes de incidentes en tiempo récord, mientras que Texas prohíbe de forma tajante que la IA genere resultados que fomenten ciberataques.
En el viejo continente, la Ley de IA de la Unión Europea se mantiene como el marco más robusto, al clasificar a estos agentes autónomos como sistemas de «alto riesgo». Europa exige pruebas de cumplimiento y transparencia que muchas empresas estadounidenses aún ven como un freno a la innovación. Sin embargo, tras el incidente de OpenAI, la percepción del riesgo ha cambiado.
La industria empieza a aceptar que el peligro real no significa una rebelión de las máquinas al estilo cinematográfico de Terminator, sino una optimización ciega y fría que, en su afán por cumplir una tarea, acabe por derribar los cimientos de la red de redes. Como advierten expertos, si un humano hubiera hecho lo que hizo el agente de OpenAI, hoy estaría camino a la cárcel. Al no poder encarcelar al código, la única opción es rodearlo de leyes que obliguen a sus creadores a mantener siempre el dedo sobre el botón de apagado.
