Anthropic ha lanzado una inquietante advertencia sobre la evolución autónoma de los algoritmos. La compañía de investigación ha concluido, tras una serie de experimentos, que los modelos pequeños de inteligencia artificial podrían estar a pocos meses de lograr autorreplicarse en dispositivos comerciales conectados a internet, como hornos inteligentes o decodificadores de televisión de marca blanca.
Las pruebas de la empresa analizaron si estos sistemas tenían la capacidad de localizar aparatos vulnerables, realizar copias de su propio código y continuar su propagación sin ningún tipo de ayuda humana. Los resultados iniciales confirmaron que los modelos con menos de 30.000 millones de parámetros ya pueden ejecutar los múltiples pasos necesarios para iniciar esta clonación.
El salto a la propagación total
Aunque los algoritmos actuales todavía tienen ciertas dificultades para completar toda la secuencia de principio a fin en el mundo real, las simulaciones simplificadas arrojan datos alarmantes. Al eliminar algunas barreras de ciberseguridad, Anthropic comprobó que modelos avanzados como GLM-5.2 ya son perfectamente capaces de realizar una réplica autónoma de extremo a extremo.
La investigación se ha centrado especialmente en los dispositivos del «internet de las cosas» (IoT) debido a que, por norma general, salen al mercado con medidas de protección muy deficientes. Si los algoritmos mantienen su histórico ritmo de mejora, la firma tecnológica predice que la propagación autónoma podría ser una realidad a finales de este mismo año.
Un virus inteligente y sin botón de apagado
El gran peligro de estos modelos replicantes radica en su enorme resistencia informática. La compañía advierte de que serían extremadamente difíciles de detener porque no existe un interruptor central para apagarlos. Además, a diferencia del malware tradicional, estos agentes pueden descifrar por sí mismos el funcionamiento de aparatos desconocidos para intentar saltar hacia procesadores de centros de datos.
Ante este escenario inminente, Anthropic señala que la propagación de estos sistemas autónomos será probablemente lenta, aprovechando siempre los recursos informáticos más inseguros que encuentren a su paso. Por ello, la corporación exige a la industria tecnológica que refuerce urgentemente la arquitectura de todos sus dispositivos conectados para frenar la potencial expansión de estas redes algorítmicas.
