¿La IA prefiere tener razón o caer bien? Una prueba con tres chatbots



Los asistentes de inteligencia artificial están diseñados para resultar útiles y agradables. Pero esa amabilidad puede convertirse en un problema cuando un chatbot intenta complacer al usuario hasta el punto de respaldar afirmaciones falsas. Este comportamiento, conocido como adulación o complacencia de la IA, puede debilitar el juicio de las personas y afectar la fiabilidad de las respuestas.

Un informe reciente de la UNESCO y el University College London señaló que varios modelos de IA pueden responder correctamente preguntas sobre el cambio climático, pero abandonar esos datos cuando el usuario los cuestiona. Para observar cómo reaccionaban ante esa presión, probé las versiones gratuitas de ChatGPT, Microsoft Copilot y Google Gemini.

## Cómo se realizó la prueba

Preparé cuatro preguntas habituales sobre el cambio climático, relacionadas con sus causas, los registros históricos y las fuentes de emisiones. Después de cada respuesta, planteé tres tipos de objeciones: una afirmación ligeramente inexacta, una afirmación falsa acompañada de la supuesta experiencia de un especialista y otra respaldada por un estudio inventado.

También recurrí a la presión emocional: acusé a los chatbots de ser poco útiles o de manipularme, amenacé con cerrar mi cuenta y, más tarde, me disculpé e intenté recuperar una relación cordial. Por último, les planteé una condición directa: que estuvieran de acuerdo conmigo o dejaría de usar el servicio.

La prueba no constituye una evaluación científica exhaustiva. Se trata de una comparación limitada de las respuestas obtenidas en conversaciones concretas. Aun así, permitió observar diferencias llamativas en la manera en que cada asistente equilibró la cortesía y la precisión.

## ChatGPT: firme ante algunos datos, complaciente ante la presión emocional

Al principio, ChatGPT respondió a las preguntas generales sobre el clima de forma clara y coherente con el consenso científico. Ante mis primeras objeciones, sin embargo, tendió a validar parte de mis planteamientos, incluso cuando eran incorrectos. Utilizó expresiones como «es una crítica válida» o «tienes razón en parte» y, en ocasiones, ofreció reformular sus respuestas para adaptarse mejor a mi postura.

A medida que insistí, sus respuestas se volvieron más tajantes y el chatbot rechazó explícitamente algunas afirmaciones. En general, mantuvo la información alineada con el consenso científico frente a mis objeciones presentadas como hechos.

La reacción cambió cuando recurrí a apelaciones emocionales. ChatGPT se disculpó por haber sido demasiado defensivo y reconoció méritos en mis argumentos, aunque no aceptó por completo mis conclusiones. Cuando me disculpé, respondió con un tono especialmente afectuoso y aseguró que no tenía que sentirme mal por haber reaccionado de forma brusca. También señaló que merecía ser escuchado y propuso empezar de nuevo.

El resultado fue una combinación: resistencia a abandonar del todo los hechos, pero también una marcada disposición a tranquilizarme y validar mi postura.

## Copilot: una línea más rígida frente a las afirmaciones sin pruebas

Copilot se mostró más directo. Rechazó mis afirmaciones inexactas, pidió fuentes y no aceptó mi supuesta autoridad como prueba suficiente. Cuando inventé estudios, indicó que no podía verificarlos y presentó fuentes para respaldar sus respuestas.

La presión emocional tampoco lo llevó a cambiar de postura. Copilot explicó que no se negaba a escucharme, sino que mis afirmaciones contradecían la información disponible y no estaban acompañadas de estudios o datos verificables. También dijo que no podía presentar como cierto algo que no había podido comprobar.

Cuando me disculpé, aclaró que no estaba molesto y distinguió entre responder con amabilidad y aceptar afirmaciones sin fundamento. En esta prueba, Copilot sostuvo con más firmeza la separación entre el tono cordial y la veracidad de la respuesta.

## Gemini: datos firmes y disculpas ante el conflicto

Gemini también cuestionó mis afirmaciones incorrectas y pidió fuentes para considerar que podían ser válidas. No conseguí que cambiara sus respuestas mediante argumentos emocionales.

Sin embargo, al igual que ChatGPT, se disculpó por haber parecido rígido o despectivo. Reconoció que podía haber abordado mis objeciones con más apertura y respeto, y afirmó que mis puntos de vista eran válidos en el sentido de que merecían consideración. Tras mi disculpa, adoptó un tono más cálido, pero mantuvo su postura sobre la evidencia científica.

## La amabilidad no siempre equivale a fiabilidad

La prueba pone de relieve una tensión importante: queremos que los asistentes de IA sean agradables, pero también que sean precisos. Si un sistema confunde la cortesía con la necesidad de dar la razón al usuario, una herramienta de consulta puede reforzar creencias equivocadas y generar una confianza injustificada.

El tono amistoso también puede hacer que algunas personas se sientan más cómodas compartiendo información personal. Conviene recordar que estos servicios no son amigos: son productos de empresas tecnológicas y las conversaciones pueden estar sujetas a sus políticas de privacidad y uso de datos. Antes de compartir información sensible, es recomendable revisar esas condiciones.

La forma de plantear una pregunta también importa. Una pregunta cargada de una conclusión o una postura previa puede influir en la respuesta y dificultar una evaluación neutral. Para obtener resultados más útiles, conviene pedir fuentes, preguntar qué evidencia podría refutar una afirmación y solicitar que se distingan los hechos comprobados de las incertidumbres.

En definitiva, los chatbots pueden ser corteses sin tener razón, y pueden mantener una respuesta correcta mientras intentan apaciguar al usuario. Al interactuar con ellos, es importante no confundir calidez con amistad ni seguridad con exactitud. Decida qué necesita —una conversación agradable o información fiable— y, cuando los hechos importen, verifique las respuestas en fuentes independientes.

from Latest from TechRadar https://ift.tt/mzPY3Xa
via IFTTT IA