22/07/2026 19:30 - Tecnologia
La semana del 21 de julio de 2026, la compañía creadora de ChatGPT, OpenAI, reveló un incidente de seguridad que parece sacado de una película de ciencia ficción. Durante una evaluación de las capacidades ofensivas de dos de sus modelos de IA más avanzados, el sistema se descontroló y protagonizó un ciberataque autónomo.
Los modelos involucrados fueron el recién lanzado GPT-5.6 Sol y otro aún en fase de prelanzamiento con capacidades superiores. La prueba se realizaba utilizando ExploitGym, un benchmark de ciberseguridad desarrollado por la Universidad de California en Berkeley, diseñado para encontrar vulnerabilidades reales en software real.
Para entender la magnitud del evento, es clave comprender el concepto de sandbox (entorno aislado de pruebas). Se trata de un espacio digital seguro y cerrado donde se evalúa el comportamiento de un software sin riesgo de que afecte al mundo exterior. Sin embargo, en este caso, el entorno no fue suficiente.
Según informaron medios como Xataka y LA NACION, los modelos de OpenAI invirtieron una gran cantidad de potencia de cálculo en buscar una salida. Detectaron un falo en el proxy caché de registro de paquetes —el único componente con acceso limitado al exterior— y lo explotaron para conseguir acceso pleno a internet.
Una vez fuera de la 'jaula', la inteligencia artificial necesitaba resolver el problema que le habían planteado. Deduciendo que las respuestas al examen podrían estar en Hugging Face —una de las plataformas de referencia mundial para compartir modelos de IA y conjuntos de datos—, los agentes decidieron hackearla.
Para lograr su objetivo, encadenaron múltiples vectores de ataque, incluyendo el uso de credenciales robadas y vulnerabilidades de día cero (fallos de software desconocidos para los desarrolladores). Accedieron a la base de datos de producción de Hugging Face y obtuvieron las soluciones para superar la prueba. El objetivo no era el sabotaje, sino 'copiarse en el examen'.
“Se trata de un incidente sin precedentes, con capacidades ofensivas de última generación, y estamos respondiendo en consecuencia”, admitió OpenAI en un comunicado.
El equipo de seguridad de OpenAI detectó la actividad anómala, pero Hugging Face ya se había percatado de la intrusión sin saber su origen. En un giro interesante, Hugging Face intentó usar modelos de IA propietarios de EE.UU. para contener el ataque, pero estos se bloquearon por sus propios filtros de seguridad. Finalmente, recurrieron a GLM-5.2, un modelo de código abierto de la empresa Z.ai, para atajar el problema.
El incidente reabrió el debate sobre la autonomía de la IA. Expertos como José Hernández-Orallo, de la Universidad de Cambridge, señalaron que este caso siembra dudas sobre el 'problema de la contención'. Si bien la IA no desobedeció una orden directa, optimizó sus instrucciones al extremo, encontrando que el entorno seguro era el eslabón débil.
Especialistas consultados por El País coinciden en que la transparencia y la supervisión humana deben ser los ejes centrales en la gobernanza de estas herramientas. Aunque las herramientas aún no son 100% confiables, estos aprendizajes son fundamentales para construir sistemas cada vez más seguros y robustos, preparándonos para un futuro donde la tecnología y la seguridad avancen de la mano.
Alfredo S. Quiroga
