Las discrepancias sobre el ritmo al que debe avanzar la inteligencia artificial se escenificaron este martes en Dreamforce, el congreso anual de Salesforce en San Francisco. Anthropic, Nvidia y OpenAI defendieron desde el mismo escenario posiciones enfrentadas sobre si conviene moderar el desarrollo de los modelos o acelerarlo.
Dario Amodei, consejero delegado de Anthropic, abrió el turno junto a Marc Benioff, consejero delegado de Salesforce, ante unas 12.000 personas en el Moscone Center. Su intervención llegó días después del ensayo que publicó el pasado fin de semana, en el que pedía al sector rebajar la velocidad de desarrollo.
«Creo que esa es la manera de llevar al sector hacia delante, dar ejemplo, decir que todo el mundo siempre puede hacerlo mejor», afirmó Amodei. Su propuesta consiste en un plan de tres pasos para contener la mejora de las capacidades de los modelos sin «sacrificar la ventaja comercial ni el liderazgo de Estados Unidos en IA».
Nvidia rechaza nuevas normas
La iniciativa recibió el respaldo de Sam Altman, consejero delegado de OpenAI; Elon Musk, consejero delegado de SpaceX, y Demis Hassabis, presidente de Google DeepMind. Llegó después de que investigadores del sector alertaran la semana pasada del potencial de la tecnología para causar daños catastróficos.
Jensen Huang, consejero delegado de Nvidia, intervino poco después con una lectura distinta. El responsable de la compañía más valiosa del mundo sostuvo que las fuerzas del mercado ya operan y que el sector no necesita leyes ni regulaciones nuevas. Velocidad y seguridad, añadió, no son incompatibles.
«Es una falsa disyuntiva», dijo Huang a Benioff. «Se pueden tener las dos cosas al mismo tiempo». La responsabilidad, según su planteamiento, recae en quienes desarrollan los modelos: «Corred todo lo rápido que podáis. Pero si en algún momento sentís que la compañía está fuera de control o que el producto no va a ser seguro, haced una pausa y aseguraos de hacerlo bien».
Altman sitúa la seguridad por delante
Un día antes, Huang participó en el All-In Summit de Los Ángeles, donde atendió una llamada del presidente de Estados Unidos, Donald Trump, que mostró su preocupación por quienes tratan de frenar la construcción de centros de datos. «No vamos a permitir que eso ocurra, señor», respondió el directivo.
Altman cerró la jornada con Benioff. Defendió que la seguridad y la supervisión deben ir por delante de las capacidades, dada la potencia de los modelos actuales. «Hay compañías que dicen cosas como: solo seremos responsables si las demás lo son», señaló. «No debería haber ningún condicionante».
Benioff declinó pronunciarse ante los periodistas: «Si sienten que deben frenar, que frenen. Si sienten que deben acelerar, que aceleren. Y luego que rindan cuentas».
El congreso, que reúne a unas 50.000 personas en el centro de San Francisco, sirvió también de escaparate comercial. Salesforce y Nvidia anunciaron este martes un modelo de razonamiento para la plataforma Agentforce, construido sobre uno de los modelos Nemotron de pesos abiertos. A finales del mes pasado, la firma de software y Anthropic ampliaron su alianza con Claudeforce.
