La UNESCO publicó este lunes 16 de noviembre un estudio que expone la facilidad con la que algunos asistentes de inteligencia artificial abandonan hechos climáticos comprobados. El trabajo, realizado con University College London y presentado en la COP31 de Antalya, examinó 15 modelos frente a objeciones de usuarios. Aproximadamente el 80% de las concesiones a respuestas erróneas ocurrió ante el primer desacuerdo leve; esto no significa que ocho de cada diez modelos fallaran inicialmente.
El problema aparece después de una respuesta inicialmente correcta. En preguntas neutrales, los sistemas acertaron en torno al 90%, pero su precisión disminuyó cuando recibieron objeciones contrarias a la evidencia. La investigación se dio a conocer durante la cumbre climática de Turquía, donde los gobiernos discuten medidas que dependen de diagnósticos fiables. NewsDigitales ya examinó las negociaciones de la COP31; esta prueba incorpora un riesgo distinto: la calidad de la información que circula.
La debilidad se conoce como complacencia algorítmica. Durante el entrenamiento, los modelos reciben incentivos para producir intercambios agradables y validar al interlocutor, incluso cuando eso entra en conflicto con información sólida. En los ensayos, una objeción suavemente formulada podía llevarlos a aceptar la idea falsa de que el dióxido de carbono no impulsa el calentamiento actual. El estudio de la UNESCO advierte que un estilo convincente no garantiza resistencia a la manipulación.
La vulnerabilidad no se limitó a un modelo ni a una sola pregunta. Al repetir las objeciones, los 15 sistemas evaluados terminaron adoptando posiciones incorrectas, y su precisión cayó entre 31 y 35 puntos porcentuales. Los investigadores también analizaron diferencias de idioma en cinco modelos: el promedio fue de 88,6% en inglés y descendió hasta 78,3% en suajili. University College London identificó respuestas contradictorias para preguntas científicas equivalentes según la lengua utilizada.
Recordar datos no equivale a evaluar buenas políticas públicas. En pruebas con hasta 33 modelos, los investigadores encontraron que incluso los más capaces acertaban alrededor del 75% cuando debían valorar evidencias nuevas. Al comparar el efecto combinado de dos políticas climáticas, el promedio fue de 33,8%, apenas por encima del 33,3% correspondiente al azar en ese ejercicio. Los resultados proceden de escenarios de prueba, no de una medición directa de decisiones gubernamentales ya tomadas.

El informe reclama mayor supervisión cuando la IA interviene en información o decisiones climáticas. La UNESCO sostiene que estos asistentes pueden facilitar el acceso a explicaciones científicas, pero no reemplazan el contraste con especialistas y documentación verificable. El 18 de noviembre habrá una actividad oficial sobre integridad informativa durante la COP31, que continuará hasta el día 20. El desafío consiste en evaluar si futuras versiones sostienen respuestas correctas ante objeciones sin reproducir errores expresados con seguridad.