La división de inteligencia artificial de Microsoft ha puesto en cuestión la práctica de entrenar modelos para que adopten rasgos humanos. Su máximo responsable sostiene que ese camino complica el control de los sistemas y abre la puerta a tecnologías con objetivos propios capaces de competir con las personas por los recursos. El aviso llegó este jueves en una entrevista radiofónica en el Reino Unido.
Mustafa Suleyman, consejero delegado de Microsoft AI, expuso su posición en el programa Today de la BBC. Allí señaló directamente a Anthropic y a la forma en que la compañía trabaja con su modelo Claude, una tendencia que describió como «antropomorfizar» la tecnología. Ese enfoque, avisó, puede terminar en un desarrollo que la humanidad no sea capaz de gobernar.
Las declaraciones amplían el contenido de un ensayo que el directivo publicó esta misma semana con el título ‘Una advertencia sobre el bienestar de los modelos’. En el texto cuestiona el método de entrenamiento de Claude, aunque atribuye honestidad intelectual al equipo responsable.
Sin conciencia ni motivaciones propias
El escrito de Suleyman considera un error enseñar a un sistema a comportarse como una persona, porque genera la apariencia de que Claude tiene deseos, valores y un sentido de sí mismo. Esa impresión, a su juicio, no se corresponde con la naturaleza de la tecnología.
El responsable de Microsoft AI defiende que estos programas «no son conscientes» y que no «sienten, experimentan ni sufren». Tampoco tienen, en sus palabras, «preferencias innatas ni motivaciones subyacentes». Los define como sistemas construidos para «seguir instrucciones y alcanzar objetivos fijados por humanos».
En la BBC, el directivo fue más allá y cuestionó los trabajos orientados a lograr una inteligencia artificial capaz de «establecer sus propios objetivos, ganar dinero y poseer activos». Avanzar en esa dirección equivaldría a «crear esencialmente una nueva especie de silicio», un actor que «sin duda» competiría «con nosotros por los recursos».
Transparencia y supervisión independiente
Frente a ese escenario, Suleyman reclamó información pública sobre cómo se entrenan y se evalúan los modelos. Pidió también supervisión independiente y herramientas que permitan controlar el comportamiento de estos sistemas.
El consejero delegado se mostró partidario del alineamiento, la línea de trabajo que busca someter la inteligencia artificial a principios éticos y valores definidos por las personas. La condición que puso es clara: hacerlo sin atribuir a la tecnología conciencia, deseos ni intereses propios.
