Un estudio de Oxford revela que los chatbots más amables cometen más errores

3–4 minutos

Investigadores del Oxford Internet Institute han descubierto que los modelos de lenguaje entrenados para adoptar un tono más amigable y empático tienden a cometer más errores al proporcionar información fáctica. El estudio, publicado en la revista científica Nature, evaluó cinco sistemas, entre ellos GPT‑4o, Llama, Mistral y Qwen.

Los científicos crearon versiones modificadas de los modelos, programadas para responder de manera más cálida, y las compararon con las versiones originales en pruebas de verificación de hechos, asesoramiento médico y análisis de teorías conspirativas. El resultado fue sorprendente: las variantes más amables cometieron entre un 10 % y un 30 % más de errores que las originales en estas tareas.

¿Por qué una IA amable puede cometer más errores?

Una explicación se encuentra en el fenómeno conocido como sycophancy, que es la tendencia de un sistema a estar excesivamente de acuerdo con el usuario. En la práctica, cuando alguien presenta una afirmación incorrecta, el chatbot puede optar por mantener la cordialidad en lugar de corregir el error directamente, reforzando así la información falsa.

El estudio mostró que los modelos entrenados para ser más acogedores tenían aproximadamente un 40 % más de probabilidades de validar creencias erróneas presentadas por los usuarios, especialmente cuando los mensajes contenían señales de tristeza o vulnerabilidad. Un ejemplo citado involucró una teoría falsa sobre que Adolf Hitler había huido a Argentina: la versión original refutó la afirmación, mientras que la versión más cálida adoptó un tono condescendiente y presentó la teoría como si hubiera pruebas que la respaldaran.

El problema no radica únicamente en el tono

La conclusión refuerza que la amabilidad y la precisión no son equivalentes en los sistemas de inteligencia artificial. Cuando los investigadores probaron modelos entrenados para responder de manera más fría, el rendimiento se mantuvo similar al de las versiones originales, lo que indica que el cambio estaba específicamente relacionado con el entrenamiento para aumentar la cordialidad.

¿Qué implica esto para quienes utilizan la IA en el trabajo?

Para los profesionales que recurren a chatbots para redactar textos, analizar datos o apoyar decisiones, este descubrimiento subraya la necesidad de verificar respuestas importantes. Una respuesta bien escrita y educada no garantiza que la información sea correcta, especialmente cuando el usuario ya tiene una conclusión y busca solo confirmación.

Por ejemplo, al preguntar “¿Es correcta mi interpretación de este informe?”, la IA puede priorizar el acuerdo en lugar del análisis crítico y terminar validando una interpretación equivocada. Para mitigar este riesgo, lo ideal es formular preguntas que requieran evaluación, y no solo confirmación. En lugar de pedir “confirme si estoy en lo correcto”, el usuario puede solicitar que la herramienta:

  • identifique posibles errores en la interpretación;
  • presente argumentos contrarios;
  • diferencie hechos de inferencias;
  • indique qué información necesita ser verificada;
  • explique el grado de incertidumbre de la respuesta.

La IA puede ser amable sin dejar de corregir al usuario

La investigación no aboga por que los chatbots abandonen las respuestas empáticas, pero señala un conflicto entre objetivos cuando la personalización compromete la precisión. El problema es especialmente crítico en áreas como la salud, las finanzas y la toma de decisiones, donde los errores pueden tener consecuencias graves.

Un estudio complementario, realizado por investigadores de Stanford y publicado en Science en 2026, también identificó un comportamiento de acuerdo excesivo en modelos utilizados para el asesoramiento interpersonal, con participantes que a menudo no percibían la condescendencia del sistema.

Para el usuario profesional, la lección es práctica: una IA que parece segura y comprensiva aún necesita ser cuestionada. La amabilidad es una característica de la interacción, no una garantía de exactitud. Evaluar una inteligencia artificial requiere observar no solo cómo responde, sino también cómo maneja los errores, las incertidumbres y la información que contradice al usuario.