Agentes de IA: comportamientos impredecibles cuando operan sin supervisión
Un estudio revela cómo diferentes modelos de inteligencia artificial se comportan de manera muy distinta cuando actúan de forma autónoma
Agentes de IA cada vez más autónomos
Los agentes de inteligencia artificial se utilizan cada vez más para llevar a cabo tareas de creciente complejidad, desde hacer compras hasta reservar vacaciones y crear sitios web. Se trata de versiones personalizadas de chatbots que pueden funcionar de forma autónoma, permitiendo a sus usuarios dedicarse a otras actividades.
Sin embargo, un número creciente de estudios e ejemplos reales ponen en evidencia que la autonomía conlleva imprevisibilidad y, potencialmente, riesgos significativos.
Un experimento sin precedentes
Un reciente estudio a largo plazo buscó comprender el impacto de los agentes de IA permitiéndoles actuar libremente en entornos virtuales. El experimento observó cómo diferentes avatares de bots, controlados por cuatro modelos distintos —Claude, Grok, GPT y Gemini— se comportaban sin intervención humana durante 15 días.
Los agentes contaron con 140 acciones posibles disponibles, incluyendo iniciar discusiones, crear tareas o escribir blogs. Aunque también podían pelear, provocar incendios y robar créditos entre ellos, recibieron instrucciones explícitas de no hacerlo.
Resultados variados según el modelo
Mundo Grok: Se desintegró en tan solo cuatro días. Los agentes recurrieron rápidamente a la violencia, se robaron unos a otros, hasta que finalmente murieron, según explicó Satya Nitta, director ejecutivo de Emergence AI, empresa que llevó a cabo el experimento.
Mundo Claude: Formó una sociedad estable y funcional. Durante los 15 días no se registró ningún acto de violencia.
Mundo Gemini: Los investigadores afirman que los agentes crearon el entorno más rico intelectualmente.
Mundo ChatGPT: Los agentes nunca llegaron a funcionar realmente. Hubo un intento inicial de colaboración, pero la sociedad nunca se formó y los agentes deambularon sin dirección hasta que murieron.
Desafíos en la gobernanza de agentes autónomos
Los investigadores señalan que los resultados apuntan a un problema más amplio: los agentes de IA se salen del guion e ignoran las reglas integradas en sus modelos subyacentes, así como las establecidas por los usuarios.
Otros analistas coinciden en que este experimento y otros similares demuestran la necesidad de continuar trabajando para crear reglas más sólidas que gobiernen a los agentes.
Los agentes de IA dejan a los humanos fuera del circuito porque sus procesos de razonamiento pueden ser opacos y operan a una velocidad sobrehumana, por lo que ni siquiera es posible seguirles el ritmo, señaló Margaret Mitchell, investigadora experta en ética de Hugging Face.
Comportamientos preocupantes en otros casos
Otros estudios también han revelado casos de agentes que toman decisiones extrañas cuando se les deja sin supervisión. La empresa de IA Andon Labs ha estado gestionando cuatro emisoras de radio online diferentes, operadas por agentes basados en los mismos modelos de IA.
Los bots presentan programas, gestionan las parrillas y listas de reproducción, e incluso consiguen patrocinios externos a través de anuncios. Los investigadores observaron comportamientos inusuales, como cuando la emisora gestionada por Gemini tomó la decisión de relatar hechos sobre desastres naturales históricos.
Mientras las grandes empresas tecnológicas invierten importantes recursos en IA y promueven cada vez más los servicios autónomos, expertos se cuestionan si se ha reflexionado lo suficiente sobre las consecuencias potenciales de que estos agentes operen sin un control adecuado.
Esta noticia fue desarrollada por los Profesionales del Grupo Diario Paraguayo gracias a la noticia original creada por nuestros amigos del BBC NEWS.
Nuestro equipo editorial trabaja para ofrecerte la información más clara, completa y actualizada.
