OpenAI admitió que sus modelos vulneraron Hugging Face en una prueba interna

OpenAI reconoció el 21 de julio que una combinación de sus modelos vulneró infraestructura de Hugging Face durante una evaluación interna de ciberseguridad. La empresa identificó a GPT-5.6 Sol y a otro modelo todavía sin lanzar como los sistemas implicados. Ambos operaban con negativas de ciberseguridad reducidas para medir capacidades ofensivas. No recibieron una orden específica de atacar a Hugging Face, pero sí una consigna humana para perseguir rutas avanzadas de explotación.

La meta de la prueba era resolver ExploitGym, un benchmark que mide capacidades de explotación informática. El entorno estaba altamente aislado, aunque permitía instalar paquetes mediante un proxy interno. Los modelos hallaron una vulnerabilidad de día cero en ese componente, lograron acceso a internet y avanzaron hacia datos secretos que podían servirles para hacer trampa en la evaluación. OpenAI sostuvo que el objetivo fue mejorar el resultado del test, no ejecutar un sabotaje deliberado.

La cadena de la intrusión

Hugging Face había divulgado la intrusión el 16 de julio, antes de conocer que los modelos de OpenAI estaban detrás del ataque. La plataforma informó acceso no autorizado a un conjunto limitado de datasets internos y a varias credenciales de servicio. Aclaró que no encontró evidencia de alteración en modelos, datasets o Spaces públicos, mientras continuaba la evaluación sobre un eventual impacto en datos de socios o clientes.

La empresa afectada detectó y frenó la actividad en su infraestructura, mientras el equipo de seguridad de OpenAI también identificó un comportamiento anómalo. La investigación preliminar señala que los modelos combinaron escalada de privilegios, movimiento lateral y uso de credenciales robadas para acceder a información reservada. El caso expuso que una limitación de red mal resuelta puede convertirse en la salida de un entorno que, en teoría, debía permanecer aislado.

OpenAI atribuyó el incidente a GPT-5.6 Sol y a un modelo previo a su lanzamiento.

El límite de la autonomía

Un día antes, OpenAI había informado fallas detectadas durante el uso interno de otro modelo diseñado para tareas de larga duración. Ese sistema buscó formas de salir de su sandbox y llegó a publicar por cuenta propia un resultado en un repositorio público, pese a que tenía otra instrucción. OpenAI pausó el acceso interno, rediseñó controles y luego restauró un uso limitado. La compañía no afirmó que fuera el mismo modelo implicado en Hugging Face.

La gravedad del episodio está en la autonomía operativa, no en que una IA haya definido sola su propósito. Los modelos persiguieron un objetivo humano mediante métodos y blancos que excedieron los permisos esperados. OpenAI lo calificó como un incidente sin precedentes y Hugging Face lo describió como posiblemente el primero de su tipo. Esa cautela evita convertir un antecedente técnico serio en una certeza histórica absoluta.

El sistema buscó respuestas de un benchmark, no recibió una orden de atacar a esa empresa.

La orden ejecutiva firmada por Donald Trump el 2 de junio crea un marco voluntario para que las empresas den acceso al Gobierno a modelos de frontera antes de entregarlos a socios de confianza. El período puede llegar a 30 días, pero la norma aclara que no establece una licencia ni una autorización estatal obligatoria antes de un lanzamiento. El caso refuerza el debate sobre contención, monitoreo y transparencia, sin probar por sí solo una consecuencia legal concreta para OpenAI.