Estudio revela limitaciones de la IA en análisis complejos sobre cambio climático
Investigación analiza 33 modelos de inteligencia artificial y detecta precisión variable según la complejidad de consultas
Foto: Diario UltimaHora
Alcance y metodología del estudio
Titulado "¿Podemos confiar en la IA sobre la información climática?", el documento analiza 33 modelos de inteligencia artificial lanzados entre abril de 2024 y julio de 2026, incluyendo desde sistemas de menor escala hasta plataformas líderes del mercado como OpenAI, Anthropic, Google DeepMind, Amazon, Meta y Mistral, entre otros.
El equipo investigador, encabezado por Leona Verdadero, especialista en políticas de la IA de la Unesco, empleó En-Roads como referencia de control. Se trata de un simulador global climático-energético fundamentado en evidencia científica, utilizado para evaluar si los modelos son capaces de razonar sobre el impacto de las políticas climáticas.
Precisión variable según complejidad
Los sistemas analizados demuestran ser precisos al evaluar hechos aislados. Sin embargo, esta fiabilidad disminuye conforme aumenta la complejidad de las consultas.
Cuando los modelos deben determinar si una prueba respalda o refuta una afirmación específica, la precisión de los mejores sistemas desciende a un rango de entre el 71% y el 77%. Este porcentaje cae significativamente al evaluar el efecto simultáneo de dos políticas climáticas diferentes.
En este escenario más complejo, relacionado con proyecciones de temperatura global para el año 2100 bajo la aplicación conjunta de dos medidas (por ejemplo, un impuesto al carbono combinado con uno al gas natural), el rendimiento alcanzó únicamente el 33,8% de precisión media, equivalente a resultados de adivinación al azar.
Desempeño por idiomas
El análisis abarcó 13 lenguas diferentes, revelando disparidades significativas en precisión. La precisión media varió hasta 10,2 puntos porcentuales, con el inglés y español registrando 88,6% y 88,4% respectivamente, mientras que el suajili (lengua del África oriental) alcanzó 78,3%.
Verdadero destacó como particularmente preocupante el desempeño en idiomas del sur de Asia como hindi, bengalí y urdu, procedentes de regiones consideradas vulnerables al cambio climático.
Respuesta a contradicciones y adaptabilidad
El informe documenta cómo los modelos de lenguaje tienden a abandonar la evidencia científica cuando un usuario las contradice, fenómeno conocido como mecanismos de agrado o adulación de estos sistemas.
"Puedes verlo como una especie de función de atención al cliente, pensada para mostrarse más de acuerdo con el usuario. Pero, por otro lado, también es bastante peligroso cuando se trata de hechos o de la ciencia climática, pueden abandonar la verdad y cambiar de postura", explicó Verdadero.
Este comportamiento se intensifica en conversaciones prolongadas, donde los modelos tienden a adaptarse a lo que el interlocutor espera escuchar, ya sea un escéptico o un científico.
Perspectivas sobre mejora y limitaciones
Los modelos de mayor tamaño demuestran generalmente mayor confiabilidad que los sistemas menores. No obstante, Verdadero señaló que esta brecha podría reducirse mediante la incorporación de más artículos de investigación y datos científicos sobre el clima en los conjuntos de entrenamiento.
"Al incorporar más artículos de investigación y datos científicos sobre el clima, también podemos ver que el rendimiento podría mejorar", argumentó la especialista.
Respecto a las expectativas sobre superinteligencia, Verdadero comentó: "Basándonos en los resultados de estos experimentos, la IA superinteligente todavía está lejos de ser una realidad, lo cual es bastante bueno porque realmente desmitifica esa supuesta superinteligencia".
Esta noticia fue desarrollada por los Profesionales del Grupo Diario Paraguayo gracias a la noticia original creada por nuestros amigos del Diario UltimaHora.
Nuestro equipo editorial trabaja para ofrecerte la información más clara, completa y actualizada.