
La inteligencia artificial (IA) ofrece nuevas herramientas para investigar, analizar información y comunicar resultados. Sin embargo, su incorporación a la ciencia también plantea retos relacionados con la transparencia, la integridad académica, la privacidad y el impacto ambiental. Ante este panorama, el Instituto de Investigaciones en Matemáticas Aplicadas y en Sistemas (IIMAS) de la UNAM plantea una serie de recomendaciones para promover prácticas científicas responsables y sostenibles en torno al uso de estas tecnologías.
## Usar la IA con criterio y supervisión humana
Las herramientas de IA pueden apoyar distintas etapas de una investigación, pero no sustituyen el juicio ni la responsabilidad de quienes la realizan. Antes de utilizarlas, conviene definir qué tarea se busca resolver y evaluar si la herramienta es adecuada para ese propósito. Los resultados deben revisarse cuidadosamente, pues los sistemas pueden producir información incorrecta, incompleta o sesgada.
La supervisión humana es indispensable, en particular cuando las respuestas generadas influyen en decisiones, interpretaciones o conclusiones científicas. La responsabilidad por el contenido y los resultados de una investigación corresponde a sus autores, aunque hayan utilizado herramientas automatizadas.
## Informar cómo se utilizó la tecnología
La transparencia contribuye a que otras personas puedan comprender y evaluar el proceso de investigación. Por ello, es recomendable documentar qué herramientas de IA se emplearon, con qué propósito y en qué etapas del trabajo. Esta información permite distinguir las aportaciones humanas de las automatizadas y facilita la reproducibilidad cuando las condiciones de uso lo permiten.
Las prácticas de declaración deben ajustarse a las políticas de las instituciones, las revistas y los organismos financiadores. También es importante recordar que utilizar una herramienta no la convierte en autora de un trabajo: la autoría implica responsabilidades que solo pueden asumir personas.
## Proteger datos y respetar derechos
Antes de introducir información en una plataforma de IA, se deben revisar sus condiciones de uso y determinar qué ocurre con los datos ingresados. No es recomendable compartir información confidencial, datos personales, materiales inéditos o contenidos sujetos a restricciones sin contar con autorización y medidas de protección adecuadas.
Asimismo, el uso de estas tecnologías debe considerar los derechos de autor, las licencias y las normas aplicables a los datos y materiales empleados. La precaución es especialmente importante cuando se trabaja con información sensible o perteneciente a comunidades y grupos cuya participación requiere resguardos específicos.
## Reconocer sesgos y evaluar los resultados
Los sistemas de IA se desarrollan a partir de datos y decisiones humanas, por lo que pueden reproducir o amplificar sesgos. Evaluar la calidad, procedencia y pertinencia de sus resultados ayuda a identificar limitaciones y a evitar que una respuesta aparentemente convincente se acepte sin verificación.
Contrastar la información con fuentes confiables, comprobar referencias y revisar los métodos utilizados son pasos fundamentales. La IA puede ser una herramienta de apoyo, pero no reemplaza la evaluación crítica ni los estándares de evidencia propios de cada disciplina.
## Considerar la sostenibilidad
El desarrollo y uso de sistemas de IA requiere recursos computacionales y energía. Por eso, una práctica responsable también implica preguntarse si una herramienta avanzada es realmente necesaria para la tarea. Elegir soluciones proporcionales al problema, reutilizar recursos cuando sea posible y evitar procesos redundantes puede contribuir a reducir impactos.
La evaluación de la sostenibilidad debe formar parte de las decisiones metodológicas, junto con la eficiencia, la calidad de los resultados y las necesidades de la investigación. No se trata de renunciar a la innovación, sino de utilizarla de manera consciente y justificada.
## Construir buenas prácticas en comunidad
Promover un uso responsable de la IA requiere lineamientos claros, capacitación y diálogo entre investigadores, instituciones, estudiantes y equipos técnicos. Las recomendaciones deben revisarse conforme evolucionan las herramientas y deben considerar las particularidades de cada área del conocimiento.
En este marco, la propuesta del IIMAS de la UNAM invita a integrar la IA a la actividad científica con transparencia, pensamiento crítico y atención a sus consecuencias. Adoptar estas prácticas permite aprovechar sus posibilidades sin perder de vista los principios que sostienen la investigación: rigor, integridad, responsabilidad y compromiso con la sociedad.
from Wired en Español https://ift.tt/ZSuXaHP
via IFTTT IA