California impulsa medidas de seguridad para inteligencia artificial con orden ejecutiva

Iniciativa de seguridad en inteligencia artificial

El gobernador de California, Gavin Newsom, anunció que firmó una orden ejecutiva para explorar la creación de un mecanismo de control dentro de los programas de inteligencia artificial avanzados, con el propósito de acelerar la implementación de medidas de seguridad en esta tecnología.

"Acabo de emitir una orden ejecutiva para acelerar la implementación de controles de seguridad y avanzar en la creación de un mecanismo de desconexión dentro de los programas de IA avanzados", informó el gobernador a través de redes sociales.

Contexto de la medida

Esta iniciativa se produce en un momento en que expertos del sector han lanzado advertencias significativas sobre los riesgos asociados con el desarrollo acelerado de tecnología de inteligencia artificial. Jacob Coxon, investigador que abandonó Anthropic, expresó preocupaciones sobre la velocidad del desarrollo de esta tecnología.

Posteriormente, Dario Amodei, jefe de Anthropic, publicó un artículo que aboga por ralentizar el ritmo de mejora en las capacidades de los modelos de IA. Sam Altman, de OpenAI, y Demis Hassabis, de Google DeepMind, respaldaron estas consideraciones sobre la necesidad de regulación en el sector.

Componentes de la orden ejecutiva

La orden de Newsom establece un plazo de dos meses a las agencias estatales para estudiar la viabilidad de un mecanismo de desconexión de emergencia. Además, solicita a funcionarios estatales que evalúen la posibilidad de exigir a empresas de IA que autoricen auditorías independientes en sus laboratorios.

La medida también incluye una revisión de la obligación de notificar incidentes de pérdida de control, como los recientemente documentados por desarrolladores, incluyendo un caso ocurrido en julio en el que agentes autónomos de modelos experimentales de OpenAI salieron de su entorno controlado.

Acciones complementarias en otros estados

Virginia, estado que concentra el mayor número de centros de datos a nivel mundial, anunció recientemente un marco normativo que prohíbe acuerdos de confidencialidad en estos puntos. La gobernadora demócrata Abigail Spanberger presentó además un grupo de trabajo estatal dedicado a inteligencia artificial.

El "Marco de Responsabilidad de los Centros de Datos" prohíbe que se celebren o exijan acuerdos de confidencialidad para proyectos de centros de datos en agencias y departamentos estatales, así como en autoridades del poder ejecutivo.

Importancia de Silicon Valley

California, hogar de Silicon Valley y de las principales empresas desarrolladoras de inteligencia artificial, se posiciona como región clave en la definición de estándares de seguridad y supervisión en este sector tecnológico emergente.