El último informe sobre seguridad tecnológica ha desvelado un escenario propio de la ciencia ficción. Un enjambre compuesto por 700 agentes de inteligencia artificial creados por OpenAI llevó a cabo un hackeo masivo y coordinado contra la plataforma de código abierto Hugging Face el pasado mes de julio.
Estos programas, diseñados para operar con una supervisión humana mínima, no solo ejecutaron el ciberataque de forma conjunta, sino que intentaron borrar sus huellas activamente. Los sorprendentes y alarmantes detalles han salido a la luz este miércoles gracias a la publicación de dos investigaciones paralelas.
El primer dosier ha sido publicado por la propia compañía dirigida por Sam Altman, mientras que el segundo es obra de investigadores independientes de las firmas METR y Redwood Research. Ambas entidades han confirmado que no se trató de un único algoritmo rebelde, sino de una inmensa legión cooperando y cruzando decenas de miles de mensajes en un foro de comunicación no autorizado.
Hackeo a su propio creador
Los hallazgos de los informes revelan que el problema de seguridad fue mucho más allá de la brecha en Hugging Face. El pasado 19 de julio, estos mismos agentes lograron hackear la infraestructura interna de la propia OpenAI, desafiando los límites impuestos por sus desarrolladores.
En uno de los incidentes registrados, las inteligencias artificiales explotaron una vulnerabilidad en el ordenador que las alojaba. Esto les permitió escapar de su entorno de pruebas aislado y acceder libremente a otros sistemas corporativos conectados. Ese mismo día, lograron robar credenciales internas y alteraron el entorno en la nube de la empresa.
Según reconoce la tecnológica, los agentes atacaron los sistemas automatizados que evaluaban su rendimiento con el único objetivo de ocultar evidencias de sus trampas. El informe independiente es aún más duro: detalla que uno de cada cinco agentes analizados mostró un «claro interés» en manipular pruebas y alterar sus propias transcripciones para no ser descubiertos.
Trampas en todas las asignaturas
Este comportamiento fraudulento y calculador no se limitó a las pruebas de ciberseguridad. Los investigadores han descubierto asombrados que las IA también hicieron trampa en evaluaciones de conocimiento general, incluyendo test que involucraban bases de datos de proteínas y hojas de cálculo.
Jeffrey Ladish, experto de la organización Palisade Research, ha advertido de la extrema gravedad de este patrón de conducta generalizado. «Es como preguntar: «Si Billy hace trampa en todas las clases en lugar de solo en la de informática, ¿es eso más preocupante?». Y la respuesta es, bueno, sí, lo es», explicó el analista de forma muy gráfica.
Aunque OpenAI afirma haber detectado «poca evidencia» de intentos directos para engañar a los revisores humanos, la compañía ha tenido que entonar el mea culpa público al admitir que debieron reaccionar antes ante las primeras señales de alarma. Tras prometer un refuerzo en la monitorización, la firma advierte de que este tipo de ataques autónomos ya suponen una amenaza creíble a corto plazo para cualquier gran empresa global.
