OpenAI, Anthropic y Google DeepMind impulsan la creación de un organismo de supervisión de riesgos en inteligencia artificial

Iniciativa conjunta para supervisar desarrollos en inteligencia artificial

OpenAI, Anthropic y Google DeepMind trabajan en la creación de un organismo de supervisión de los riesgos asociados a la inteligencia artificial, informó OpenAI a la AFP, en medio de crecientes llamados a mejorar los controles de esta tecnología.

Las preocupaciones sobre la seguridad de la inteligencia artificial se han intensificado en las últimas semanas, reflejando la necesidad de establecer mecanismos de evaluación más robustos en el sector.

Propuesta de autorregulación estructurada

Los principales actores de la industria han solicitado al gobierno estadounidense que fortalezca la regulación y supervisión de la seguridad del sector. La propuesta de creación de una entidad de supervisión fue presentada en julio por Demis Hassabis, cofundador y director general de Google DeepMind.

Hassabis sugirió la creación de una entidad similar a la Autoridad de Regulación de la Industria Financiera de Estados Unidos, un órgano de autorregulación del sector. Según la propuesta, la financiación de este mecanismo tendría que ser significativa y provenir probablemente en gran parte de la industria.

Marco regulatorio gubernamental existente

El Gobierno de Estados Unidos puso en marcha en agosto un proceso de evaluación de los nuevos modelos de IA. Este proceso funciona de manera voluntaria, aunque su metodología no ha sido divulgada públicamente.

Estructura y funcionamiento de la supervisión propuesta

La creación de un organismo propio de supervisión requerirá probablemente una ley, en particular para evitar posibles acusaciones sobre prácticas anticompetitivas en la industria.

Además de expertos independientes, la estructura debería contar con representantes del ecosistema abierto, según la propuesta de Hassabis. Este ecosistema está compuesto por desarrolladores de inteligencia artificial de acceso gratuito, descargable y modificable, a diferencia de los modelos cerrados como los de OpenAI o Anthropic.

Evaluación previa a la comercialización

Una vez creada la estructura de supervisión, las empresas más avanzadas en inteligencia artificial deberían someter sus nuevos modelos a un examen enfocado particularmente en aspectos de seguridad, antes de poder comercializarlos.

Esta iniciativa representa un esfuerzo conjunto para establecer estándares de seguridad en el desarrollo y despliegue de sistemas de inteligencia artificial, buscando equilibrar la innovación con la protección de intereses públicos.