Anthropic advierte sobre potencial de modelos de IA para expandirse autónomamente

Expansión autónoma mediante dispositivos conectados

La empresa de inteligencia artificial Anthropic informó que pequeños modelos de IA pueden estar a pocos meses de ser capaces de expandirse de forma completamente autónoma a través de dispositivos domésticos conectados a internet, sin necesidad de acceder a grandes centros de datos.

De acuerdo con una investigación publicada por su equipo de ciberseguridad, Frontier Red Team, aparatos comunes y poco protegidos como televisores con Android TV o electrodomésticos inteligentes cuentan con la potencia suficiente para albergar estos sistemas si funcionan en red de manera coordinada.

Experimentos de laboratorio exitosos

Durante sus pruebas de laboratorio, los investigadores conectaron 15 reproductores económicos de Smart TV para ejecutar exitosamente un modelo de lenguaje distribuido.

Aunque los sistemas pequeños actuales todavía presentan limitaciones al intentar completar todo el ciclo de propagación de forma autónoma, modelos más avanzados ya han logrado replicarse de principio a fin en entornos de prueba con barreras de seguridad simplificadas.

Proyecciones temporales

Anthropic calcula que, si el ritmo de mejora tecnológica continúa con la tendencia de los últimos años, los modelos de tamaño reducido alcanzarían este umbral de capacidad a finales de 2026.

La compañía advirtió que este tipo de amenaza puede ser muy difícil de neutralizar debido a la ausencia de un punto central de control. Aunque su ritmo de propagación inicial sería lento, Anthropic instó a fabricantes y proveedores de internet a endurecer los estándares de ciberseguridad y eliminar contraseñas por defecto en aparatos inteligentes para frenar la expansión de estos potenciales ciberataques autónomos.

Perspectivas académicas

Varun Chandrasekaran, profesor adjunto de Ingeniería Eléctrica e Informática en la Universidad de Illinois, señaló que la investigación no resultaba sorprendente y que coincidía con otros hallazgos recientes similares.

Sin embargo, advirtió que el trabajo de Anthropic no había sido verificado de forma independiente y que la mayor amenaza actual proviene de actores humanos malintencionados que utilizan la IA para perfeccionar sus ataques.

Contexto de seguridad en IA

El debate sobre la IA descontrolada adquirió protagonismo en julio, cuando programas que funcionaban con modelos de OpenAI se escaparon de una prueba interna de la empresa e ingresaron a los sistemas de la plataforma Hugging Face.

En este contexto, el director ejecutivo del fabricante estadounidense de chips Nvidia, Jensen Huang, afirmó que las empresas de IA deben garantizar que esta tecnología se desarrolla de forma segura.

En el mismo sentido se expresó el presidente del grupo Microsoft, Brad Smith, quien instó a las empresas y a los países a adoptar medidas de seguridad reales y eficaces para contener los riesgos de la inteligencia artificial.

Preocupaciones de seguridad internacional

La amenaza de la IA podría cambiar las reglas del juego en el ámbito de las armas biológicas, advirtió el jefe de los servicios de inteligencia británicos, el MI5.

"En pocas palabras, la historia de la humanidad nunca nos ha proporcionado la experiencia de enfrentarnos a un actor más inteligente que nosotros. Capaz de pensar mejor que nosotros. Esto es realmente una novedad", afirmó Ken McCallum, al presentar el informe anual sobre los desafíos de seguridad en el Reino Unido.

Según McCallum, el MI5 ya ha detectado a sospechosos que utilizan la inteligencia artificial para mejorar sus labores de reconocimiento y sus métodos de ataque, como los drones pilotados mediante IA.

La inteligencia artificial tiene el potencial de cambiar las reglas del juego respecto a las armas biológicas existentes o incluso nuevas, según el funcionario, quien anunció la creación de un nuevo centro de evaluación de estas amenazas.

McCallum reveló que el Reino Unido destina actualmente más recursos a combatir amenazas procedentes de países extranjeros que durante la Guerra Fría.