Un reciente estudio realizado por investigadores de universidades francesas e italianas plantea una pregunta perturbadora sobre la convivencia entre humanos y sistemas de IA: ¿está la IA erosionando nuestra capacidad de pensamiento crítico?

Según los datos, solo el 3% de los participantes que tenían acceso a IA mostraron incertidumbre ante una respuesta que exigía un razonamiento crítico, frente al 44% de quienes no disponían de IA. En otras palabras, cuando la solución parece venir en forma de recomendación algorítmica, muchos evitan decir «no lo sé» y, en su lugar, aceptan la salida generada por la máquina.

El estudio concluye que los humanos tienden a confiar excesivamente en la IA para reemplazar juicios personales potencialmente correctos con sugerencias incorrectas de la máquina. Este sesgo podría afectar la calidad de las decisiones en contextos que requieren análisis y juicio humano profundo.

¿Está la IA dañando nuestro pensamiento crítico?

Para el experimento, se utilizó un modelo con una tasa de precisión relativamente baja para generar resultados incorrectos. Aun así, los participantes prefirieron usar esas respuestas en lugar de pensar por sí mismos, ofrecer una respuesta más correcta o simplemente admitir que no sabían.

A pesar de esta dependencia de la IA, los participantes humanos parecían reconocer que la IA podría estar equivocada. Con incentivos monetarios modestos para ser más honestos, algunos se mostraron menos dispuestos a seguir exactamente la palabra de la IA.

«En cinco experimentos, el mero acceso al consejo de la IA eliminó casi por completo la disposición de los participantes a suspender el juicio», señalan los autores. Y añaden: «A medida que las respuestas generadas por IA se vuelven omnipresentes y, cada vez más, no solicitadas, nuestra evidencia sugiere que la voluntad de decir ‘no lo sé’ podría convertirse en una de las primeras víctimas de la interacción humano-IA».

El documento también revela una paradoja relacionada: las personas tienden a sentirse más seguras con respuestas que incorporan información externa, ya sea generada por IA o no, incluso cuando esa información no es necesariamente correcta o relevante para su proceso de pensamiento.

Aunque los autores reconocen limitaciones y el alcance reducido del estudio, llaman a intensificar la alfabetización en IA y la educación sobre la verificación de resultados, subrayando la importancia de mantener el pensamiento crítico humano como complemento imprescindible a la tecnología.

Para más contexto, puede consultarse la cobertura de The Register sobre estas conclusiones y su impacto en la percepción pública de la IA.

from Latest from TechRadar https://ift.tt/JBm4x0F
via IFTTT IA