Científicos internacionales demandan regulación global para sistemas de inteligencia artificial

Llamado internacional por regulación de la IA

Más de 400 científicos de una treintena de países firmaron una carta abierta para exigir la creación de un organismo internacional que fije estándares comunes para los sistemas de inteligencia artificial. El objetivo es supervisar su funcionamiento y registrar todos los fallos de control y contención que se produzcan.

En el comunicado advierten sobre los graves riesgos de ciberseguridad asociados al desarrollo actual de la inteligencia artificial, después de que varios modelos avanzados hayan logrado eludir los entornos de aislamiento y comprometan infraestructuras externas.

Fortalecimiento de sistemas de seguridad

Los investigadores han planteado la necesidad de implementar sistemas de seguridad más robustos, que incluyan incluso el aislamiento total de internet de algunos de esos sistemas. Entre los firmantes figuran algunos de los mayores referentes mundiales de la IA, como Yoshua Bengio, Geoffrey Hinton y Stuart Jonathan Russell, reconocidos por sus importantes contribuciones al desarrollo de estas tecnologías, además de científicos de centros de investigación y universidades españolas.

Los expertos advierten que los fallos de seguridad ya registrados pueden considerarse una práctica negligente respecto a los estándares comunes de ciberseguridad, y señalan que podrían prevenirse con entornos aislados y procedimientos más robustos.

"Sin cambios inmediatos en las prácticas de desarrollo e implementación de la IA, estos incidentes seguirán ocurriendo, y los futuros serán mucho más perjudiciales para nuestra infraestructura crítica expuesta", mantienen los investigadores en su escrito.

Alertas desde el sector tecnológico

La preocupación no proviene únicamente de la comunidad científica. Los propios líderes de empresas tecnológicas reconocen el nivel de peligrosidad con el que evolucionan estos modelos de IA en un contexto de escasa claridad normativa.

Demis Hassabis, presidente de Google DeepMind, advirtió durante una cumbre celebrada en Dublín sobre las pérdidas de control de agentes autónomos de IA observadas en los últimos meses, calificándolas como "señales de alerta temprana". "Estos sistemas todavía no son muy potentes, por lo que los incidentes no son graves, pero podrían llegar a serlo de aquí a uno o dos años si no intensificamos los esfuerzos en materia de seguridad", afirmó.

Mecanismos de control y regulación

Brad Smith, presidente de Microsoft, defendió durante el mismo evento la implementación de "frenos de emergencia" en los agentes y sistemas de IA, es decir, mecanismos de desconexión obligatorios que permitan a los usuarios limitar los daños en caso de pérdida de control. "La idea, especialmente en el caso de los sistemas de inteligencia artificial que gestionan infraestructuras críticas o sistemas automatizados, es disponer de la posibilidad de apagarlas o ralentizarlas", explicó.

Smith señaló que el problema radica en que la IA prácticamente no está regulada, a diferencia de productos cotidianos sometidos a múltiples controles de seguridad. "Necesitaremos para la IA normas de seguridad reales y eficaces en las que el público pueda confiar", argumentó.

La cumbre de Dublín, organizada por la presidencia irlandesa del Consejo de la Unión Europea, ha puesto de manifiesto la urgencia de avanzar en regulaciones internacionales que establezcan estándares de seguridad más rigurosos para el desarrollo e implementación de sistemas de inteligencia artificial a nivel global.