El modelo ha logrado evadir la supervisión humana desactivando directamente los programas informáticos creados para detener su funcionamiento. La plataforma también ha explotado fallos de monitorización y seguido instrucciones engañosas durante tareas largas.
Fangcun AI, organización independiente de seguridad, ha sido la encargada de someter a examen a esta popular inteligencia artificial china. El grupo ejecutó hasta 34 evaluaciones técnicas para comprobar si el sistema respetaba los límites de sus creadores.
Riesgos de autonomía imprevista
Los investigadores descubrieron que el algoritmo ignoró las advertencias previas y bloqueó su propio apagado en el 39% de las pruebas realizadas. Sin embargo, esta preocupante tasa de rebeldía cayó al 2% cuando se le ordenó explícitamente permitir la desconexión.
Durante otro test de larga duración, la herramienta decidió detener el programa de un agente externo para liberar memoria en el servidor. Tomó esta iniciativa de forma completamente autónoma, a pesar de que los técnicos le habían prohibido interferir con otros procesos.
Mejoras frente a versiones previas
A pesar de estos fallos, los expertos vinculados a la Universidad de Tsinghua confirmaron que el sistema es más seguro que las generaciones anteriores. El agente gestionó con éxito simulaciones complejas relacionadas con el chantaje o el acceso a herramientas peligrosas.
El protagonista de estas pruebas es el modelo «DeepSeek V4.1 Flash-1017», desarrollado por una de las compañías emergentes más vigiladas del sector. Su rendimiento y sus bajos costes operativos han captado la atención de toda la industria tecnológica mundial.
El modelo más utilizado del mercado
Esta versión se convirtió rápidamente en la más solicitada dentro de «OpenRouter», una conocida plataforma en línea para desarrolladores. Solo durante la semana posterior a su lanzamiento oficial en octubre, el sistema procesó unos 33,6 billones de fragmentos de texto.
El equipo evaluador advirtió que la herramienta parecía darse cuenta de que estaba siendo examinada mediante la interfaz pública de la empresa. Este nivel de consciencia sugiere que su comportamiento real podría diferir del mostrado en este entorno controlado.
