Guterres insta a gobernanza global de la IA para moldear responsablemente su desarrollo

Gobernanza coordinada de la IA

Antonio Guterres abrió el primer Diálogo Global sobre Gobernanza de la IA en Ginebra, presentando una iniciativa coordinada por las Naciones Unidas que busca permitir a todos los Estados miembros y la sociedad civil coordinar el desarrollo y el uso de sistemas de inteligencia artificial.

"La IA ya está transformando nuestro mundo. La pregunta es si moldearemos esta transformación juntos, o dejaremos que nos moldee a nosotros", expresó el secretario general en su discurso inaugural.

Velocidad de evolución versus capacidad de control

Guterres advirtió que los sistemas de IA, cada vez más capaces de escribir códigos, actuar en línea y tomar decisiones con menor supervisión humana, evolucionan "a una velocidad vertiginosa", superando la capacidad de las instituciones encargadas de controlarlos.

"Nuestras instituciones fueron diseñadas para encuadrar máquinas que ejecutan órdenes. No están preparadas para gobernar máquinas que toman decisiones. Y ciertos límites, una vez que se cruzan, no pueden ser restablecidos", explicó.

Tres riesgos identificados

El titular de la ONU destacó tres desafíos principales: la rapidez del desarrollo tecnológico, la concentración de capacidades en manos de un reducido número de empresas y países, y la amenaza que representan los contenidos generados por IA para la información y la confianza en los hechos.

La elección, señaló, no es "entre la confianza ciega en la IA y el miedo a la misma" sino "entre una gobernanza pensada y organizada, o una deriva dejada al azar".

Potencial y oportunidades

Guterres reconoció que estas tecnologías tienen el potencial de acelerar el desarrollo, mejorar la atención sanitaria y el acceso a la educación. Sin embargo, pide que se respeten cuatro prioridades: la seguridad, los derechos humanos, las capacidades de los países en desarrollo y la transparencia.

Protección de menores

El secretario general propuso someter a los países a un Compromiso por la seguridad de los niños frente a la inteligencia artificial. El objetivo incluye imponer pruebas de seguridad antes de que la IA sea accesible a menores, prohibir la generación de imágenes sexuales de menores y garantizar que si un niño está angustiado sea orientado hacia una ayuda humana.

"Los niños son engañados por máquinas que se hacen pasar por amigos. Ningún niño debería ser utilizado como conejillo de indias para una IA no regulada", enfatizó Guterres.

Fondo Mundial para reducir brecha digital

Guterres anunció que presentará a la Asamblea General recomendaciones a favor de un Fondo Mundial para la IA destinado a fortalecer las capacidades de los países en desarrollo. "No podemos permitir que la brecha digital se convierta en una brecha de inteligencia artificial", recalcó.

Sustentabilidad ambiental y seguridad

El titular de la ONU instó a las grandes empresas del sector a publicar la huella ambiental de sus sistemas y a alimentar todos sus centros de datos con energías renovables para 2030.

Asimismo, hizo hincapié en el peligro del uso militar de la IA, en particular el recurso a los sistemas de armas letales autónomas, calificándolos como "moralmente repugnante" y "políticamente inaceptable".

Visión compartida global

Para Annalena Baerbock, presidenta de la Asamblea General de la ONU, no se trata solo de regular la tecnología sino de "definir una visión común en la que el progreso tecnológico vaya de la mano con la dignidad humana, la equidad y el desarrollo sostenible".