Referentes alertan en la ONU sobre los riesgos de la inteligencia artificial y reclaman acción internacional conjunta

Cooperación internacional para guiar la inteligencia artificial

El director ejecutivo de OpenAI, Sam Altman, instó al Consejo de Seguridad de la ONU a construir una cooperación internacional urgente que oriente a las empresas tecnológicas con estándares complementarios nacionales y globales. En su intervención ante una sesión de alto nivel convocada por la presidencia francesa del Consejo, Altman advirtió que el avance acelerado de la inteligencia artificial exige un "extremo cuidado" para mantener el control humano sobre los modelos.

Altman remarcó que el sector se encuentra en una encrucijada y no debe asumir "demasiado riesgo tecnológico solo porque los beneficios sean demasiado grandes e importantes como para frenarlos".

Oportunidades y desafíos de la inteligencia artificial

Según el ejecutivo, la inteligencia artificial tiene el potencial de impulsar una nueva era similar al "renacimiento" si se concibe como una herramienta que capacite a las personas. Sin embargo, alertó del peligro de reproducir las fracturas de la "revolución industrial" si los sistemas sustituyen la agencia humana o si la tecnología escapa a su supervisión.

Altman puso especial énfasis en el riesgo de que los modelos más avanzados, aquellos capaces de programarse y mejorarse a sí mismos de forma recursiva, aceleren su desarrollo hasta el punto de que los humanos no los entiendan ni puedan seguir sus decisiones.

Marco técnico y supervisión internacional

El director ejecutivo señaló que las empresas necesitan la guía de los líderes mundiales para definir marcos técnicos rigurosos que permitan medir capacidades, evaluar amenazas, verificar salvaguardas y crear canales internacionales seguros para compartir vulnerabilidades críticas.

Altman apeló al consenso multilateral, destacando la necesidad de que países que compiten entre sí se unan por intereses comunes ante el desarrollo de una tecnología tan poderosa. "A nivel internacional, esto significa cooperación. En nuestra historia, ha habido momentos en que países que compiten y no siempre se llevan bien, pero aun así se unen por intereses comunes y el bien colectivo ante una nueva y poderosa tecnología. Creemos que este debe ser uno de esos momentos", expresó.

Principios rectores de OpenAI

Para encarar este dilema, Altman desgranó los tres principios rectores de su compañía: mantener a las personas "en el centro de la toma de decisiones" para garantizar que los modelos sigan bajo estricto control humano, orientar el progreso científico y económico "por y para las personas" potenciando su capacidad de acción, y "empoderar a cada individuo".

"Puede que seamos los creadores de esta tecnología, pero no somos los héroes de esta historia. Nuestro papel es confiar en la magia del talento humano", subrayó Altman durante su intervención ante el Consejo de Seguridad.