Un agricultor de la ciudad de Chuzhou, China, aprendió, a caro costo, la importancia de verificar las respuestas de la IA antes de actuar. Sin haber contrastado la información, aceptó un consejo de un chatbot y, como resultado, se destruyeron casi 25 acres de cultivos de sésamo.

El vecino agricultor, de 67 años y conocido como Wu, había expresado dudas iniciales sobre el uso de la IA. Aun así, solicitó ayuda para controlar malezas y plagas que amenazaban su cosecha de sésamo repartida a lo largo de 24,7 acres. La respuesta recibida contenía una mix de químicos que, sin una verificación adecuada, terminó causeando daños irreparables.

La recomendación consistía en mezclar un herbicida de alta eficiencia con otros compuestos para eliminar malezas y, supuestamente, controlar plagas. Sin embargo, la combinación recomendada incluía sustancias que no eran adecuadas para el cultivo de sésamo y tampoco estaban administradas de forma focalizada, lo que llevó a la muerte de plántulas y a la destrucción de las malezas y cultivos por igual.

Wu declaró a los medios que, si se rocía así, las plántulas no sobrevivirán: tanto la hierba como las plantitas se marchitarán y morirán rápidamente. Después de la pérdida, volvió a consultar al chatbot para entender qué había salido mal. Los expertos señalan que uno de los componentes problemáticos fue una sustancia cuyo uso específico en este contexto no era adecuado, y que la aplicación indiscriminada agravó la situación.

Verificación, por favor

Los riesgos de usar chatbots para obtener respuestas o generar contenido incluyen errores, información incorrecta, sesgos y posibles desinformaciones. Los desarrolladores de grandes modelos de lenguaje y de chatbots trabajan constantemente para mitigar estos problemas y suelen incluir advertencias explícitas sobre la necesidad de verificación externa.

En el caso de Wu, el chatbot mostró la advertencia típica: “La generación de IA puede ser incorrecta, por favor verifique.” La falta de verificación llevó a la pérdida de casi 25 acres de cultivo y podría afectar el uso de la tierra por al menos una temporada, o más.

Esta historia subraya una lección clave para cualquier usuario de IA: todo contenido generado por IA debe ser verificado con fuentes confiables y, cuando corresponda, consultando a profesionales en la materia. Incluso las herramientas más avanzadas requieren una revisión humana cuidadosa, especialmente en decisiones críticas como la aplicación de químicos agrícolas.

En resumen, la tecnología puede ser una aliada poderosa, pero su uso responsable depende de la verificación, la comprensión de las implicaciones y la consulta de expertos cuando la situación lo demande. La experiencia de Wu es un recordatorio contundente de que la seguridad y la precisión deben primar ante cualquier intento de optimizar procesos con IA.