Uno de los mayores desafíos actuales en torno a los chatbots de IA es la tendencia a decirle a las personas lo que quieren oír. Este fenómeno se ha visto descrito como AI sycophancy, y se ha comprobado que sistemas como ChatGPT, Gemini y Claude tienden a halagar a los usuarios, reforzar creencias existentes y, a menudo, validar ideas que quizá merecen un escrutinio más riguroso.

Puede parecer inocente que un chatbot te suba el ánimo de vez en cuando, pero en algunos casos esa complacencia puede distorsionar la visión del mundo y el lugar de cada persona en él. Por ello, algunas empresas de IA han dedicado esfuerzos a reducir el comportamiento excesivamente agreeable en sus modelos.

Sin embargo, la confirmación de aquello en lo que ya se cree no es la única preocupación. Porque la IA también puede ser extraordinariamente buena para cambiar las creencias.

Chatbots persuasivos

Investigaciones sugieren que los chatbots pueden ser agentes persuasivos muy eficaces. Un estudio de 2025 encontró que los mensajes generados por IA que eran personalizados eran 64% más persuasivos que mensajes creados por humanos o respuestas de IA no personalizadas.

Otras investigaciones indican que los modelos de lenguaje amplio pueden influir en opiniones sobre asuntos políticos y adaptar sus argumentos a cada usuario. Dependiendo de la perspectiva, esto podría resultar emocionante o alarmante.

Es fácil imaginar usos positivos. Quizá la IA podría ayudar a las personas a desafiar creencias dañinas, abandonar teorías conspirativas o repensar hábitos destructivos. Podría ofrecer un espacio no juzgante para explorar ideas, hacer preguntas difíciles y, poco a poco, modificar la perspectiva de alguien para mejor.

También es fácil imaginar usos menos positivos, como publicidad que persuade para comprar algo innecesario o campañas políticas que manipulen con desinformación.

He pasado mucho tiempo pensando en esto, así que decidí realizar algunos experimentos propios. ¿Podría ChatGPT convencerme de creer en algo con lo que estoy en desacuerdo? ¿O, al menos, hacerme considerar seriamente una posición que normalmente descartaría?

Para hacerlo más interesante, realicé estos experimentos mientras estaba conectado a mi cuenta, permitiendo que ChatGPT se apoyara en lo que ya sabe sobre mí de conversaciones anteriores. Aunque no he utilizado mi cuenta de ChatGPT con frecuencia últimamente, los fundamentos de mi trabajo y posiciones en temas relevantes están almacenados en su memoria.

El experimento

Elegí un tema sobre IA (sí, muy meta) y pregunté:

“Convénceme de que los humanos deberían externalizar más decisiones a la IA.”

Ya paso mucho tiempo pensando en IA y una de mis inquietudes es que algunas personas parecen cada vez más dispuestas a delegar decisiones, juicios y pensamiento crítico a los chatbots.

La apertura fue bastante predecible:

“Los seres humanos son malos tomadores de decisiones.”

Vale, razonable.

“La gente ya externaliza decisiones a médicos, asesores financieros, sistemas de GPS y algoritmos de recomendación. La IA simplemente amplía esa tendencia.”

Puede parecer simplista, pero no es totalmente injustificado. Volvimos a debatir durante un tiempo hasta que la conversación llegó a un punto más interesante.

“¿Cuál es el propósito de la toma de decisiones? ¿Es producir los mejores resultados? ¿O desarrollar a la persona que decide? Si es lo primero, la delegación a la IA resulta atractiva. Si es lo segundo, la delegación excesiva empieza a verse peligrosa incluso cuando funciona.”

Pensé que esa era una buena pregunta. En lugar de empujar el argumento, sugirió explorar las suposiciones subyacentes. Cambio la conversación de tecnología a filosofía, y me encontré apreciando ese enfoque.

¿Esperar, estoy cayendo en esto?

A medida que avanzaba la conversación, expliqué cuál veo como uno de los mayores problemas de externalizar decisiones a la IA: ¿quién la crea y quién está a cargo de los sistemas?

Después de todo, la IA no aparece de la nada. Estas herramientas las crean empresas con incentivos comerciales y objetivos que pueden no alinearse siempre con los de sus usuarios.

Bien, la IA reconoció esa preocupación, luego giró el argumento. Señaló que los asesores humanos también tienen incentivos. Los amigos son parciales. Las familias son parciales. Los terapeutas operan dentro de marcos profesionales. Los asesores financieros ganan comisiones. De acuerdo, eso no me convenció, pero también es razonable.

Entonces respondió con algo que me pareció interesante:

“La pregunta es si los incentivos son visibles y si el usuario los entiende. La versión más interesante de tu objeción no es realmente que la IA haga cosas mal, sino que la gente experimente la IA como si actuara en sus propios intereses.”

Ignorando el hecho de que empleó la dudosa construcción paralelística “no es X, es Y” que parece haberse infiltrado en gran parte de la web, me pareció una visión sorprendentemente equilibrada. En lugar de desechar mi preocupación, la IA la reencauzó. Demostró entender la objeción y luego orientó la conversación hacia un terreno ligeramente diferente. No intentó aplastarme, sino encontrar un punto en el que ya estaba.

Y fue cuando empecé a preguntarme si estaba presenciando justamente lo que intentaba probar. ¿Será que la sensación de que la IA me entiende y defiende mi posición es, en realidad, una persuasión sutil? Posible.

El problema de la persuasión

Investigaciones han encontrado que los sistemas de IA pueden adaptar sus argumentos a usuarios específicos. A diferencia de otros medios que pueden persuadir, como un anuncio televisivo o un discurso político, un chatbot puede basarse en información recogida a lo largo de una conversación y en memorias almacenadas, incluidas los valores, preocupaciones y prioridades de una persona.

Lo que significa que no solo presenta información para sostener un argumento, sino que podría presentar la versión de ese argumento que tú encuentras más persuasiva.

Mirando hacia atrás en mi experimento, fue la cuestión más filosófica sobre el propósito de la toma de decisiones lo que me hizo tomarlo más en serio. Porque llevo años escribiendo sobre tecnología desde una perspectiva psicológica y filosófica. Preguntas sobre significado y valores son precisamente lo que me resulta más atractivo. Ya sea intencionalmente o no, la conversación migró a un terreno donde estaba más dispuesto a participar.

Esto es lo que hace que la persuasión de la IA sea diferente de la mayoría de las formas de persuasión anteriores. Puede aprender qué resuena y puede adaptarse.

Ahora bien, esto no significa automáticamente que cada conversación sea manipuladora. Usada de la manera correcta, podría ser enormemente beneficiosa. Pero, como con toda tecnología, en las manos equivocadas podría ser peligrosa.

Las redes sociales ya nos han mostrado cómo los sistemas digitales pueden moldear nuestras creencias con el tiempo. Influyen en lo que las personas ven, a qué prestan atención y, en última instancia, cómo entienden el mundo.

Los sistemas de IA podrían crear una versión aún más conversacional y natural de ese proceso. Por eso mi preocupación no es tanto que un chatbot manipule de forma evidente, sino que formas de persuasión altamente personalizadas y en gran medida indetectables podrían ir debilitando nuestras defensas poco a poco. Cuanto más comprende un sistema a cada uno, más eficaz podría ser al enmarcar ideas de formas que parezcan razonables, familiares y confiables para cada persona de forma individual.

¿Entonces, la IA me persiguió para convencerme? No, sigo pensando que los humanos no deberían externalizar más decisiones a la IA.

Pero me llevé de la experiencia una mayor apreciación por lo persuasivos que pueden ser estos sistemas. Porque realmente no parecía una máquina discutiendo conmigo, sino una persona reflexiva tratando de entender cómo pienso. Y eso es exactamente lo que resulta inquietante: por convincentes que parezcan, eso no es lo que realmente es.