Microsoft advierte sobre la antropomorfización de modelos de inteligencia artificial

Postura de Microsoft sobre el desarrollo de IA

En declaraciones realizada este jueves al programa Today de la BBC, Suleyman criticó a Anthropic por lo que considera una tendencia a "antropomorfizar" su modelo Claude y advirtió de que este enfoque puede llevar a desarrollar una tecnología que la humanidad no pueda controlar.

Las declaraciones de Suleyman se derivan de su ensayo publicado esta semana, titulado "Una advertencia sobre el bienestar de los modelos", en el que cuestionó el enfoque de Anthropic para entrenar a Claude. En ese mismo trabajo, calificó de "intelectualmente honestos" al consejero delegado Dario Amodei y a su equipo.

Críticas sobre las características humanas en la IA

En su ensayo, Suleyman criticó que se enseñe a la inteligencia artificial a adoptar características humanas, porque puede hacer que parezca que Claude posee sus propios deseos, valores y sentido de sí mismo.

Según Suleyman, las IA "no son conscientes", no "sienten, experimentan ni sufren" y carecen de "preferencias innatas ni motivaciones subyacentes". Las describió como sistemas diseñados para "seguir instrucciones y alcanzar objetivos fijados por humanos".

Riesgos de sistemas de IA autónomos

El directivo también cuestionó el desarrollo de una IA capaz de "establecer sus propios objetivos, ganar dinero y poseer activos". A su juicio, esto supondría "crear esencialmente una nueva especie de silicio (tecnológica)" que podría "sin duda competir con nosotros por los recursos".

Demandas de transparencia y control

Suleyman reclamó una mayor transparencia sobre cómo se entrenan y evalúan estos modelos, así como supervisión independiente y herramientas para controlar su comportamiento.

El ejecutivo defendió el denominado "alineamiento", que busca que la IA esté subordinada a principios éticos y valores establecidos por los humanos, pero sin atribuirle conciencia, deseos o intereses propios.