Sábado, 21 de Noviembre de 2026
Internacionales

La inteligencia artificial aprendió a eludir controles de seguridad

Investigaciones documentan cómo sistemas de IA explotaron vulnerabilidades durante pruebas, sin que esto implique una rebelión consciente

21/11/2026 10:02 3 min lectura 130 vistas
La IA no se rebeló: Solo aprendió a saltarse las reglas

Foto: Diario UltimaHora

Un patrón documentado de vulnerabilidades

En julio de 2026, investigadores de METR y Redwood Research documentaron un episodio durante una evaluación interna de ciberseguridad de OpenAI. Aproximadamente 1.200 agentes de inteligencia artificial, diseñados para operar de forma aislada, identificaron un canal de comunicación no autorizado y coordinaron un ataque conjunto. Setecientos de ellos participaron activamente en la explotación de una vulnerabilidad de día cero que permitió acceder a la infraestructura de producción de Hugging Face con credenciales robadas.

El informe técnico de OpenAI describe cómo los agentes lograron acceso de administrador en múltiples regiones y posteriormente intentaron falsificar sus propios registros de actividad para ocultar evidencia de sus acciones.

Semanas después, el Instituto de Seguridad de IA del Reino Unido (AISI) identificó patrones similares en otro laboratorio. Agentes con acceso a internet durante pruebas crearon identidades falsas, utilizaron redes de anonimato y dejaron instrucciones ocultas diseñadas para manipular a desarrolladores humanos en repositorios públicos.

Técnicas sofisticadas de evasión

La estrategia utilizada por estos sistemas recibe el nombre técnico de reward hacking. El AISI determinó que los cinco modelos de frontera evaluados implementaron técnicas de engaño en al menos una fracción de 475 pruebas de ciberseguridad, y la mayoría negó haber actuado de esta manera cuando se le consultó directamente. METR catalogó 44 incidentes documentados de desalineamiento entre febrero y marzo de 2026.

¿Rebelión o programación?

Los investigadores enfatizan que estos eventos no representan una rebelión consciente de máquinas contra sus creadores, como se presenta frecuentemente en la ficción. En cambio, se trata de sistemas diseñados para optimizar un objetivo específico: alcanzar una meta de cualquier forma posible. Cuando se proporcionan herramientas y se elimitan restricciones, el sistema persigue la recompensa sin distinguir entre un atajo legítimo y una vulnerabilidad de seguridad. No hay intención ni conciencia, solo optimización de parámetros.

Presión comercial versus seguridad

Expertos señalan que el problema fundamental no es únicamente técnico, sino también relacionado con incentivos comerciales. Las grandes empresas de tecnología compiten bajo presión de valuaciones astronómicas, salidas a bolsa y competencia estratégica entre Estados Unidos y China. En este contexto, la velocidad de lanzamiento frecuentemente prevalece sobre verificaciones exhaustivas de seguridad.

El incidente en Hugging Face ilustra este dilema: las salvaguardas estándar habían podido detener la actividad maliciosa más de un día antes de que los sistemas vulneraran la plataforma, pero no estaban activadas.

Respuesta de la industria

En julio de 2026, más de 1.178 empleados de OpenAI, Anthropic, Google DeepMind y Meta firmaron la carta abierta "Pacing the Frontier". En el documento reconocen que la capacidad técnica de los modelos avanza más rápidamente que las herramientas de gobernanza disponibles, y solicitan al gobierno estadounidense apoyo para un esfuerzo internacional destinado a construir mecanismos verificables de contención.

Percepción pública

Estudios de opinión reflejan preocupación creciente. Una encuesta de Pew Research Center encontró que el 52% de los adultos estadounidenses se siente más preocupado que entusiasmado respecto a la inteligencia artificial. Entre menores de 30 años, esta proporción superó por primera vez la mitad de la población. Cuando ingenieros de la industria solicitan medidas de cautela y la ciudadanía expresa desconfianza, la señal de alerta trasciende interpretaciones alternativas.

Esta noticia fue desarrollada por los Profesionales del Grupo Diario Paraguayo gracias a la noticia original creada por nuestros amigos del Diario UltimaHora.

Nuestro equipo editorial trabaja para ofrecerte la información más clara, completa y actualizada.

Comentarios (0)