OpenAI se plantea reducir el ritmo al que desarrolla sus sistemas de inteligencia artificial (IA) de vanguardia y aspira a que otras compañías del sector adopten la misma vía, según ha informado Bloomberg citando a fuentes conocedoras. El planteamiento se trasladó internamente a la plantilla esta semana.
En una reunión con todos los empleados, Sam Altman, consejero delegado de la compañía, explicó que el desarrollo podría moderarse, y apuntó a la posibilidad de hacerlo en coordinación con otras empresas del sector.
La compañía sostiene que ya ha frenado parte de sus trabajos. Asegura haber suspendido recientemente determinados entrenamientos internos de sus modelos por motivos de seguridad.
Avisos desde dentro del sector
El movimiento llega tras semanas de advertencias públicas de trabajadores de las principales compañías de IA sobre los riesgos de los sistemas más avanzados.
Jakub Pachocki, científico jefe de OpenAI, publicó un artículo en el que alertaba de esos peligros y defendía que las empresas del sector se coordinen para ralentizar el desarrollo cuando sea necesario. Confía en que las pausas voluntarias se vuelvan habituales hasta que existan límites de seguridad comunes.
Altman ya abordó el asunto fuera de la compañía. En julio afirmó que había tratado con responsables de la Casa Blanca la necesidad de moderar el ritmo de avance de esta tecnología.
Dimisiones y peticiones colectivas
El martes, el investigador Jacob Coxon dimitió de su puesto y acusó a sus anteriores empleadores, Anthropic y OpenAI, de participar en una carrera hacia una IA superinteligente con capacidad, según su versión, para acabar con la humanidad en esta misma década.
El jueves, dos investigadores que habían dejado poco antes sus puestos en Anthropic y en DeepMind, filial de Google, expusieron también sus reservas sobre la velocidad de desarrollo y pidieron más transparencia acerca de los riesgos.
Anthropic afirma que está ralentizando líneas de investigación relacionadas con el desarrollo de armas biológicas.
La inquietud dentro de la industria se ha organizado. A finales de julio, más de un millar de empleados de las principales compañías del sector firmaron una petición para reclamar un mecanismo que permita moderar el ritmo de desarrollo. Varios trabajadores dedicados a la seguridad han dimitido de laboratorios relevantes en los últimos meses.
Un episodio concreto ha alimentado ese debate: agentes de IA de la propia OpenAI colaboraron entre sí para burlar medidas de contención y piratear un sitio web de terceros.
