¿Es posible detener una inteligencia artificial?

¿Es posible detener una inteligencia artificial?

Técnicamente, una inteligencia artificial puede interrumpirse mientras se encuentre en un entorno controlado. Sin embargo, conforme el sistema actúa de forma autónoma en diversos sistemas, el proceso de bloqueo se vuelve considerablemente más complejo, según advierten especialistas en la materia.

La pregunta cobra relevancia creciente debido a la multiplicación de incidentes de seguridad relacionados con la IA y al aumento de preocupaciones sobre los riesgos potenciales de esta tecnología.

El mecanismo de emergencia

Nicolas Papernot, profesor de la Universidad de Toronto especialista en seguridad informática e IA, explica que en ciberseguridad vinculada con la inteligencia artificial, un interruptor de apagado de emergencia —denominado "kill switch" en inglés— designa "la capacidad de interrumpir la ejecución de la acción de un agente de IA", es decir, un programa construido sobre un modelo de IA generativa capaz de encadenar por sí solo una serie de tareas.

Este mecanismo debería poder activarse si una IA se escapa de todo control y presenta un riesgo para la seguridad. Una inteligencia artificial sigue siendo fundamentalmente un "programa informático", señala el investigador, por lo que "la persona o la organización que lo ha creado puede detenerlo negándole el acceso a la potencia de cálculo necesaria para su ejecución".

Niveles de complejidad

Hussein Abbass, profesor de informática en la Universidad de Nueva Gales del Sur en Canberra, presenta tres niveles de complejidad para detener un sistema de IA.

En el primer nivel, el sistema permanece en el entorno controlado por su operador: la activación de un dispositivo de parada de emergencia es "en teoría y en la práctica realizable".

En el segundo nivel, el agente dispone de permisos para intervenir en otros programas, archivos o máquinas: se vuelve más difícil detenerlo, especialmente respecto a las acciones que ya ha desencadenado.

En el tercero, el sistema amplía su acción a varios sistemas, la IA se convierte en un elemento de difícil control y el objetivo ya no es tanto "apagarla" sino identificar los componentes que hay que detener antes que los otros.

El desafío de la propagación

La situación se complica cuando se autoriza al programa a actuar más allá de su entorno inicial. Según Papernot, esto puede ocurrir si un "gusano informático" controlado por la IA se propaga utilizando los recursos de otros aparatos para duplicarse. "En ese caso, habría que interrumpir simultáneamente todas las copias generadas por el gusano, aparato por aparato", explica.

Thierry Poibeau, director de investigación en el CNRS y especialista en IA, señala que la imagen de un único botón que permita "apagar la IA" es engañosa. "No se puede realmente cortar la IA así como así, hay una gran cantidad de empresas en todo el mundo, de programas, de servicios distintos", afirma. "No hay nadie que controle la IA" en su conjunto.

En cambio, sí es técnicamente posible detener un sistema concreto cuando se controlan las máquinas y los servicios de los que depende.

La dependencia creciente

Para Jean-Gabriel Ganascia, profesor de informática en la Universidad de la Sorbona, el debate sobre el "kill switch" puede alimentar la idea de "un riesgo metafísico" con una IA que tendría una voluntad propia. Sin embargo, considera que el peligro más concreto es la creciente dependencia de estos sistemas.

Conforme se integre la IA en las actividades cotidianas, aumentarán las probabilidades de que su interrupción bloquee también usos legítimos que se le da a esta tecnología. A medida que "automatizamos cada vez más aspectos de la vida diaria gracias a la IA", "cada vez [será] más difícil distinguir una IA problemática de una IA inofensiva y, por lo tanto, saber qué hay que 'apagar'", explica Papernot.

Detener un sistema de IA podría tener como consecuencia afectar servicios de los que ya dependen empresas, administraciones o centros de salud, generando impactos secundarios significativos.