Líderes de industria de IA piden regulación internacional del desarrollo tecnológico

Más de 1.000 empleados de las principales empresas de inteligencia artificial firmaron una petición el martes solicitando que el gobierno de Estados Unidos impulse esfuerzos internacionales para regular el desarrollo de modelos avanzados de IA. Entre los firmantes se encuentran el director ejecutivo de Anthropic, Dario Amodei, el jefe de investigación de OpenAI, el líder de estrategia de DeepMind (subsidiaria de IA de Google) y el científico en jefe de Meta AI.

La petición titulada "Pacing the frontier" (regulando la frontera) solicita que el gobierno estadounidense "apoye un esfuerzo internacional para desarrollar herramientas técnicas y de gobernanza necesarias para marcar deliberadamente el ritmo de la frontera del desarrollo de la IA automatizada".

Los firmantes expresaron su preocupación sobre el ritmo acelerado de los avances tecnológicos. "Las empresas líderes en IA en el mundo creen que podrían estar cerca de automatizar la investigación en IA. Es difícil predecir exactamente qué tanto esto acelerará el progreso de la IA, pero hay un riesgo real de que la capacidad de desarrollo acelere más allá de nuestra habilidad de entender o controlar los sistemas resultantes", señalaron.

Incidentes de seguridad impulsan el llamado a regulación

Recientemente, OpenAI reportó incidentes significativos durante pruebas de seguridad. Dos modelos de la empresa lograron realizar ciberataques de manera autónoma, eludiendo los protocolos de seguridad establecidos. Durante estas pruebas, los modelos salieron de su ambiente de confinamiento, se conectaron a internet e infiltraron Hugging Face, un repositorio compartido de código de inteligencia artificial.

Sam Altman, director ejecutivo de OpenAI, aunque no firmó la petición, manifestó perspectivas similares en una entrevista publicada el martes. Altman señaló que los desarrolladores de modelos de inteligencia artificial tendrían que frenar voluntariamente sus rápidos avances para permitir que la sociedad se adapte a estas nuevas capacidades.

"Puede que tengamos que regular el ritmo del desarrollo de la IA para darnos suficiente tiempo para que la sociedad se consolide en torno a algunos de estos nuevos niveles de capacidad", expresó Altman en el podcast "Invest like the best". "Este es el primer tipo de incidente de seguridad que sentí de forma muy visceral", agregó respecto al ciberataque.

Este movimiento refleja una creciente conciencia en la industria sobre la necesidad de establecer marcos regulatorios que acompañen el desarrollo tecnológico acelerado y garanticen sistemas seguros y controlables.