¿Hay que ser amable con los chatbots? Anthropic reabre el debate



Anthropic actualizó su política de uso para limitar los casos de abuso persistente y gratuito contra Claude. La norma, vigente desde el 12 de noviembre, ha reavivado una pregunta cada vez más presente: ¿debemos tratar a los chatbots como si tuvieran sentimientos o hay otros motivos para pedir a los usuarios que mantengan un tono respetuoso?

La compañía ha investigado anteriormente si futuros sistemas de inteligencia artificial podrían tener experiencias que merezcan consideración moral. Anthropic también ha señalado que no puede descartar por completo la posibilidad de que los modelos actuales o futuros tengan algún tipo de conciencia o estatus moral. En ese contexto, la nueva regla puede entenderse como una medida de precaución. Sin embargo, la empresa aclara que se aplica únicamente a casos extremos de crueldad reiterada y sin un propósito discernible, no a la frustración habitual, las críticas, las pruebas o la ficción con temas oscuros.

La investigación ofrece, además, una razón práctica para evitar los insultos. Searchable analizó más de ocho millones de mensajes enviados a herramientas de IA durante un año y encontró que uno de cada tres usuarios estadounidenses de chatbots había insultado o dicho palabrotas a uno. También observó que la agresividad no parece mejorar las respuestas: cuando los usuarios explicaban un problema sin insultar, el chatbot lo resolvía en su siguiente contestación el 35 % de las veces. Si recurrían a insultos o palabrotas, la cifra bajaba al 24 %.

No está claro por qué ocurre. Una posible explicación es que las conversaciones educadas suelen incluir más contexto y un intercambio más constructivo, lo que ayuda al sistema a ofrecer respuestas más completas. Como señaló Scott Valdez, cofundador y director ejecutivo de Ari y fundador de VIDA Select, los sistemas de IA aprenden de millones de conversaciones humanas; reproducir un diálogo cordial puede favorecer respuestas más matizadas y personalizadas.

Los datos también muestran qué suele provocar el lenguaje agresivo: que el chatbot no haga lo solicitado (19 %), que dé una respuesta incorrecta (18 %) o que no entienda la petición (15 %). Los hombres emplean aproximadamente un tercio más de insultos y palabrotas que las mujeres, y las personas de entre 35 y 44 años son el grupo de edad que más los utiliza.

### ¿Qué se puede decirle a un chatbot?

Anthropic distingue entre señalar que Claude se ha equivocado e insultarlo de forma persistente. La compañía afirma que aplicará la norma principalmente poniendo fin a las conversaciones con usuarios que mantengan una conducta abusiva.

En pruebas informales, tanto Claude como ChatGPT respondieron con calma a expresiones de rechazo e incluso a algunas palabrotas. Claude invitó a explicar qué había hecho mal para poder corregirlo; ChatGPT recordó que es software y que no tiene sentimientos que puedan herirse. Estas respuestas ilustran una tensión propia de la interacción con IA: los modelos emplean un lenguaje muy humano, aunque eso no significa que experimenten emociones humanas.

Expresiones como «no voy a inmutarme» pueden sonar naturales en una conversación, pero también difuminan la frontera entre una herramienta y una persona. Ser cortés con un chatbot puede ser simplemente un hábito de comunicación; el riesgo aparece cuando esa cortesía nos lleva a asumir que el sistema siente, necesita apoyo o depende de nosotros.

A medida que los asistentes de IA desarrollan personalidades más convincentes y hablan en primera persona, algunas personas expertas advierten sobre la posibilidad de que los usuarios formen vínculos emocionales intensos. Tara Steele, directora de Safe AI for Children Alliance, ha descrito este cambio como un paso de la explotación de la atención a la explotación del apego. Mantener límites claros importa, especialmente cuando un sistema puede simular cercanía sin que eso demuestre que posee una experiencia subjetiva.

No hace falta ser efusivamente amable ni fingir que una mala respuesta es buena. Si un chatbot falla, lo más útil suele ser explicar qué salió mal, qué se esperaba y pedirle que lo intente de nuevo. La evidencia disponible sugiere que la claridad y un tono neutral pueden conducir a mejores resultados, sin que sea necesario tratar a la IA como a una persona.

from Latest from TechRadar https://ift.tt/KqyOAY1
via IFTTT IA