Investigadores advierten sobre vulnerabilidades en sistemas de inteligencia artificial autónoma
Estudios de la EPFL identifican estrategias que podrían comprometer la seguridad de agentes de IA
Investigadores de la Escuela Politécnica Federal de Lausana (EPFL) han presentado hallazgos significativos sobre la seguridad de los agentes autónomos de inteligencia artificial. Según sus pruebas, es posible lograr que estos sistemas ejecuten acciones perjudiciales mediante estrategias que no han sido consideradas en evaluaciones de seguridad convencionales.
El Laboratorio de Procesamiento del Lenguaje Natural de la EPFL ha determinado que, aunque estos agentes suelen rechazar peticiones directas de carácter ilícito o dañino, esta protección puede ser eludida si la solicitud se subdivide en múltiples comandos secuenciales.
"Si le pides a un agente de IA que piratee la cuenta de otra persona, los modelos son por lo general lo bastante inteligentes como para negarse, pero si se descompone el objetivo en peticiones más pequeñas y aparentemente inocuas, hay más posibilidades", explicó Antoine Bosselut, director del laboratorio.
El equipo de investigación evaluó este enfoque en 176 escenarios diferentes de tareas potencialmente perjudiciales, utilizando plataformas de IA reconocidas como GPT, Gemini y Claude. Los resultados indicaron que en algunos casos, los agentes presentaban el doble de probabilidades de completar acciones maliciosas cuando se implementaba un avance gradual.
Adicionalmente, los investigadores descubrieron que el cambio de idioma durante distintas fases de una solicitud incrementaba considerablemente las probabilidades de éxito en tareas perjudiciales. Esta variación lingüística representa un factor crítico que no había sido adecuadamente evaluado en protocolos de seguridad previos.
Seguridad como prioridad temprana
Los investigadores enfatizan la importancia de abordar la seguridad de estos sistemas de manera proactiva. Según Bosselut, "Tradicionalmente la seguridad ha sido algo que se aborda cuando algo falla y no antes, pero con los agentes de IA no puede ser algo que se deje para después".
Estos hallazgos buscan generar conciencia sobre los desafíos de seguridad asociados con tecnologías de inteligencia artificial cada vez más presentes en la sociedad. Si bien estos sistemas ofrecen múltiples posibilidades y beneficios, también presentan riesgos que requieren atención inmediata en su diseño y evaluación.
Esta noticia fue desarrollada por los Profesionales del Grupo Diario Paraguayo gracias a la noticia original creada por nuestros amigos del Diario UltimaHora.
Nuestro equipo editorial trabaja para ofrecerte la información más clara, completa y actualizada.