Guterres aboga por gobernanza mundial de la inteligencia artificial

El secretario general de las Naciones Unidas, Antonio Guterres, convocó a la comunidad internacional a unirse en una gobernanza mundial organizada de la inteligencia artificial para evitar improvisar el futuro de la humanidad. Durante la apertura del primer Diálogo Global sobre Gobernanza de la IA en Ginebra, expresó que la pregunta fundamental es si los países moldearán esta transformación tecnológica conjuntamente o si permitirán que ella los moldee.

Este nuevo foro intergubernamental, coordinado por las Naciones Unidas, tiene como propósito permitir que todos los Estados miembros y la sociedad civil coordinen el desarrollo y uso de la inteligencia artificial. Guterres señaló que estos sistemas, ahora capaces de escribir códigos, actuar en línea y tomar decisiones con supervisión humana cada vez menor, evolucionan a una velocidad vertiginosa, más rápido que las instituciones encargadas de controlarlos.

Desafíos institucionales

El secretario general enfatizó que las instituciones actuales fueron diseñadas para encuadrar máquinas que ejecutan órdenes, pero no están preparadas para gobernar máquinas que toman decisiones autónomamente. Advirtió que ciertos límites, una vez cruzados, no pueden ser restablecidos. Según Guterres, la elección no es entre confianza ciega en la IA o miedo a la misma, sino entre una gobernanza reflexiva y organizada, o una evolución dejada al azar.

"La IA ya está transformando nuestro mundo. La pregunta es si moldearemos esta transformación juntos, o dejaremos que nos moldee a nosotros"

Identificó tres riesgos principales: la rapidez del desarrollo de la inteligencia artificial, la concentración de capacidades en manos de un reducido número de empresas y países, y la amenaza que representan los contenidos generados por IA para la información y la confianza en los hechos.

Oportunidades y prioridades

Guterres reconoció que estas tecnologías tienen potencial para acelerar el desarrollo, mejorar la atención sanitaria y ampliar el acceso a la educación. Sin embargo, propuso que se respeten cuatro prioridades: seguridad, derechos humanos, capacidades de los países en desarrollo y transparencia.

Protección de la infancia

El secretario general presentó un Compromiso por la seguridad de los niños frente a la inteligencia artificial, que incluye tres objetivos principales: imponer pruebas de seguridad antes de que la IA sea accesible a menores, prohibir la generación de imágenes sexuales de menores y garantizar que si un niño experimenta angustia sea orientado hacia asistencia humana. Guterres enfatizó que ningún niño debería ser utilizado como sujeto de prueba para sistemas de IA sin regular.

Equidad y desarrollo

Guterres anunció su intención de presentar ante la Asamblea General de la ONU recomendaciones para establecer un Fondo Mundial para la IA, destinado a fortalecer las capacidades de los países en desarrollo. Recalcó que no se puede permitir que la brecha digital se convierta en una brecha de inteligencia artificial.

Annalena Baerbock, presidenta de la Asamblea General de la ONU, señaló que el desafío no se limita a regular la tecnología, sino a definir una visión común en la que el progreso tecnológico avance de la mano con la dignidad humana, la equidad y el desarrollo sostenible.

Dimensiones ambientales y de seguridad

El secretario general instó a las grandes empresas del sector a publicar la huella ambiental de sus sistemas y a alimentar todos sus centros de datos con energías renovables para el año 2030. Asimismo, hizo énfasis en los peligros del uso militar de la inteligencia artificial, particularmente en el recurso a sistemas de armas letales autónomas.

"Máquinas que seleccionan su objetivo, lo atacan y quitan la vida sin control ni juicio humano, es moralmente repugnante. Es políticamente inaceptable. Y el derecho internacional debe prohibirlo"

Guterres exhortó a gobiernos, empresas y científicos a actuar con rapidez para que la inteligencia artificial sea más segura, más justa, más accesible y más ética. El Diálogo Mundial sobre Gobernanza de la IA representa un paso importante hacia la coordinación internacional en este ámbito estratégico.