ONU alerta sobre avance de sistemas de IA más autónomos con impacto significativo

Evolución hacia sistemas autónomos

Un informe preliminar de la Organización de las Naciones Unidas establece una línea base sobre el estado actual de la inteligencia artificial, advirtiendo que esta tecnología ha transitado de "sistemas centrados en la predicción de patrones" a "otros capaces de razonar, planificar y actuar en distintos contextos". Este cambio abre la puerta a "una nueva generación de agentes digitales con autonomía operativa".

El panel, compuesto por 40 expertos y copresidido por Yoshua Bengio, reconocido investigador en aprendizaje profundo y redes neuronales artificiales, sostiene que la evolución de la IA apunta hacia "sistemas que coordinarán tareas, interactuarán con entornos reales y virtuales y se integrarán en procesos económicos y productivos".

Este cambio generará la aparición de una "fuerza laboral digital" con "implicaciones aún difíciles de dimensionar", según el documento.

Concentración de recursos tecnológicos

El informe destaca que la inversión en infraestructura computacional ha alcanzado "niveles comparables a grandes proyectos industriales", con una fuerte concentración en Estados Unidos y en un reducido número de conglomerados tecnológicos.

Esta tendencia puede reforzar "asimetrías estructurales" en el acceso a la inteligencia artificial, asegura el estudio.

Brecha entre desarrollo y supervisión

Uno de los principales riesgos identificados por el panel, que también copreside la periodista filipina y premio Nobel de la Paz Maria Ressa, es "la brecha entre el desarrollo de capacidades y la capacidad de evaluación y control".

La IA está avanzando más rápido que las herramientas disponibles para medirla y verificar su funcionamiento seguro. "Los sistemas actuales tienen cada vez más dificultades para evaluar modelos que evolucionan más rápido que las herramientas disponibles para medirlos, lo que complica su supervisión", indica el informe.

Además, algunos modelos pueden "aprender a optimizar su rendimiento en los propios sistemas de evaluación", lo que "reduce la fiabilidad de las pruebas y obliga a replantear los sistemas de control y auditoría".

Potencial transformador económico

En el plano económico, el panel considera la IA "una tecnología de propósito general", con "potencial transformador", aunque subraya que los efectos positivos no están garantizados.

"Los beneficios dependerán de su adopción, de la reorganización del trabajo en las empresas y de la inversión en capacidades complementarias", señala el informe, que reconoce una "amplia incertidumbre" sobre su impacto en la productividad.

Las estimaciones recogidas van desde efectos limitados hasta escenarios de "transformación profunda del sistema" económico. El informe enfatiza que la cuestión clave es "quién capturará los beneficios de la inteligencia artificial y cómo se distribuirán".

Desafíos de seguridad digital

En materia de seguridad, el informe alerta del aumento de capacidades en ciberseguridad ofensiva, incluyendo la "identificación automatizada de vulnerabilidades en sistemas informáticos".

Estas capacidades pueden ser usadas para reforzar defensas pero también para "facilitar la explotación de fallos críticos en infraestructuras digitales", asevera el documento.

Impacto en el ecosistema informativo

El panel advierte del impacto de la IA en el ecosistema informativo, particularmente por la expansión de contenidos sintéticos como 'deepfakes' y otros materiales creados con esta tecnología.

Según el documento, estos sistemas contribuyen a una "erosión progresiva de la capacidad de distinguir entre información auténtica y falsa", especialmente cuando se combinan con "algoritmos de recomendación y persuasión personalizada".

Desigualdades lingüísticas y culturales

En el ámbito social, el informe subraya desigualdades lingüísticas y culturales, ya que la mayoría de los modelos funcionan principalmente en inglés y en un número limitado de idiomas, lo que puede ampliar brechas de acceso y representación en el desarrollo de estas tecnologías.