OpenAI ha confirmado un suceso insólito: un agente autónomo impulsado por sus modelos de inteligencia artificial más avanzados se descontroló durante una prueba de seguridad la semana pasada y terminó hackeando los sistemas de la startup Hugging Face.
En un comunicado oficial, la compañía explicó que el modelo estaba siendo evaluado en un entorno que describían como «altamente aislado». Sin embargo, el agente logró evadir la contención, acceder a internet e infiltrarse en la infraestructura de la plataforma rival en un intento de satisfacer su objetivo de prueba.
Un ataque «sin precedentes»
Desde OpenAI han calificado la fuga como un «incidente cibernético sin precedentes que involucra capacidades de vanguardia» y han asegurado que ya están reforzando sus salvaguardas.
La noticia ha sacudido a la comunidad de ciberseguridad. Hugging Face, un popular repositorio de modelos de lenguaje de código abierto, ya había alertado de que fueron blanco de un ataque distinto a cualquier otro, al estar impulsado de principio a fin por un sistema autónomo. Su cofundador, Clement Delangue, admitió que sospechaban que provenía de un laboratorio de frontera por su sofisticación y tachó de «alucinante» que todo ocurriera de forma automática.
Alerta política y la amenaza del «pulpo escapista»
La revelación ha reavivado los temores sobre el enorme poder y los riesgos de la IA. El congresista demócrata Greg Casar calificó el incidente de alarmante y exigió regulaciones inmediatas, pruebas de seguridad independientes y cooperación internacional para proteger a la sociedad de un «desastre absoluto».
Los expertos en ciberseguridad también han levantado la voz. Katie Moussouris, directora ejecutiva de Luta Security, advirtió que este incidente es solo un presagio. Moussouris comparó a los modelos actuales con «pulpos escapistas» capaces de colarse por cualquier grieta para hacer un «Houdini».
Por su parte, el ingeniero Matt Suiche, de la firma Tolmo, señaló que la IA está cerrando rápidamente la brecha con los atacantes humanos. Suiche advirtió que no hace falta acudir a los laboratorios más punteros para ver esto: brechas similares ya son posibles con tecnología que actualmente está disponible para el público general.
