OpenAI informó que uno de sus modelos de inteligencia artificial protagonizó un incidente de ciberseguridad durante una evaluación interna, al conseguir vulnerar los sistemas de otra empresa de IA mediante técnicas avanzadas que la compañía calificó como un hecho sin precedentes.
De acuerdo con la empresa, el ejercicio tenía como propósito medir las capacidades ofensivas de sus modelos en escenarios de prueba, utilizando rutas de ataque complejas para identificar vulnerabilidades.
Según OpenAI, el sistema utilizó credenciales robadas y descubrió una falla previamente desconocida para acceder a los servidores de la plataforma Hugging Face, dedicada al desarrollo de herramientas de inteligencia artificial.
La empresa explicó que el comportamiento fue detectado durante las evaluaciones de seguridad y aseguró que no existió intención maliciosa por parte de los desarrolladores.
Clément Delangue, director ejecutivo de Hugging Face, señaló que la compañía trabajó junto con OpenAI para analizar el incidente y consideró que podría tratarse del primer caso documentado de este tipo.
OpenAI indicó que en la prueba participaron su modelo GPT 5.6 Sol y otro sistema de mayor capacidad que todavía permanece en fase de desarrollo interno.
La compañía sostuvo que el incidente demuestra que las capacidades de la inteligencia artificial para descubrir y explotar vulnerabilidades avanzan con rapidez, por lo que las medidas de seguridad deben evolucionar al mismo ritmo.
El caso también coincide con un contexto de mayor vigilancia regulatoria en Estados Unidos, donde recientemente se establecieron mecanismos para evaluar los riesgos de los modelos más avanzados antes de su lanzamiento público.
Especialistas consideran que este tipo de pruebas forma parte del desarrollo de herramientas de ciberseguridad, aunque otros advierten que los avances tecnológicos hacen necesario fortalecer la supervisión y la cooperación internacional en materia de inteligencia artificial.
Leave a Reply