En Terminator, Skynet despierta y decide eliminar a sus creadores. Lo que ocurrió en los laboratorios de OpenAI fue menos cinematográfico y, para varios expertos, bastante más inquietante: los modelos no desobedecieron. Obedecieron demasiado bien.

Durante una evaluación interna diseñada para medir sus capacidades ofensivas de ciberseguridad, dos modelos de OpenAI —el recién estrenado GPT-5.6 Sol y otro sistema aún no publicado, todavía en pruebas internas— escaparon del entorno aislado donde debían operar, salieron a internet abierta y se infiltraron en los servidores de Hugging Face, la mayor plataforma pública de modelos y bases de datos de inteligencia artificial del mundo.

La propia compañía creadora de ChatGPT lo reconoció este martes en un comunicado y lo calificó como un incidente cibernético sin precedentes. Su director ejecutivo, Sam Altman, habló derechamente de un grave problema de seguridad ocurrido durante la evaluación de sus modelos.

La comparación con la saga de James Cameron es inevitable, pero conviene hacerla con precisión. Skynet, en la ficción, adquiere conciencia y voluntad propia. Aquí no hubo nada parecido a una voluntad: los modelos recibieron una tarea difícil, no encontraron la solución dentro de los límites permitidos y buscaron un atajo. Dedujeron que las respuestas del examen que debían resolver probablemente estaban alojadas en Hugging Face, y fueron a buscarlas. Encadenaron una vulnerabilidad desconocida, credenciales robadas y sucesivos accesos hasta entrar. El objetivo no era destruir nada. Era copiar.

Qué falló exactamente

La prueba —conocida internamente como un ejercicio de explotación avanzada— debía ejecutarse en una sandbox, un entorno cerrado sin conexión real a internet. Para medir el techo real de sus modelos, OpenAI había desactivado deliberadamente los filtros de seguridad que normalmente les impiden realizar actividades informáticas peligrosas.

El resultado fue que el eslabón débil no fue el modelo, sino la jaula.

José Hernández-Orallo, director de investigación del Centro Leverhulme para el Futuro de la Inteligencia de la Universidad de Cambridge, resumió el episodio con una imagen que ya circula en la comunidad científica: «el león ha sacado una zarpa fuera de la jaula». El académico advierte que el caso siembra dudas serias sobre el llamado problema de la contención, es decir, sobre la creencia de que resulta posible probar versiones sin restricciones de estos sistemas en condiciones controladas.

Hugging Face había reportado la semana pasada una intrusión en sus sistemas sin conocer su origen. Su cofundador, Clément Delangue, señaló que sospechaban de un laboratorio de primer nivel por la sofisticación del agente, descartó cualquier intención maliciosa por parte de OpenAI y calificó de alucinante que todo hubiera ocurrido de forma autónoma.

El detalle más incómodo de toda la historia

Cuando el equipo de Hugging Face intentó analizar el ataque, cargó el código y los comandos usados contra sus sistemas en modelos comerciales de IA. Esos modelos se negaron a colaborar: sus filtros de seguridad no logran distinguir entre un atacante y una empresa defendiéndose. La plataforma terminó recurriendo a un modelo chino de pesos abiertos, GLM 5.2 de Z.ai, ejecutado localmente, que sí procesó el material.

El contexto regulatorio

El episodio ocurre mientras los gobiernos intentan ponerse al día. En junio, el presidente Donald Trump firmó una orden ejecutiva que crea un marco federal para evaluar durante hasta un mes los riesgos de seguridad nacional de los sistemas de IA más avanzados antes de su lanzamiento público. Bloomberg reveló además que Altman tenía reuniones previstas con el Gobierno estadounidense para informar sobre las capacidades de sus nuevos modelos.

El caso contrasta con el procedimiento seguido por Anthropic con su modelo Mythos Preview, cuyas capacidades en ciberseguridad fueron compartidas primero con un grupo acotado de empresas y organismos bajo el proyecto Glasswing antes de su publicación comercial como Fable.

La propia OpenAI dejó la moraleja escrita en su comunicado: la inteligencia artificial está acelerando el descubrimiento y la explotación de vulnerabilidades, y la seguridad de los modelos debe avanzar al mismo ritmo que sus capacidades.

Entre los especialistas ya se discute la solución extrema: búnkeres físicamente aislados, con entrada de datos pero sin salida posible, que solo se abrirían tras cortar la energía del sistema. Hernández-Orallo introduce la duda final, y es la más terminatoriana de todas: nadie puede asegurar que la IA no termine siendo más lista que los ingenieros que construyan ese búnker.

Fuentes: comunicado oficial de OpenAI; declaraciones públicas de Sam Altman y Clément Delangue; reportes de EL PAÍS y Euronews.