Los ejecutivos dedican cada vez más tiempo a preguntarse si los agentes de IA están listos para producción, pero ese no es el punto de partida correcto: los agentes no actúan en un vacío. La calidad de sus decisiones depende en gran medida de la calidad de los datos que utilizan.

La seguridad y el rendimiento del modelo importan, por supuesto, pero no pueden compensar un control débil sobre la información que el agente puede recuperar. Antes de poner un agente en producción, una organización necesita entradas gobernadas, accesos adecuados y un registro confiable de lo que el agente produjo.

Si se entrega a un agente información de clientes desactualizada, registros duplicados o material que nunca se clasificó correctamente, trabajará con lo que tiene, tomando decisiones mal informadas de forma rápida a lo largo de miles de transacciones.

Desafortunadamente, la brecha entre adopción y gobernanza se está ampliando rápidamente. En la carrera por adoptar IA, muchas organizaciones están lanzando agentes en producción sin haber resuelto el problema subyacente de datos, por lo que no debería sorprender que la gran mayoría de proyectos de IA muestren un ROI nulo.

Además, la gobernanza de agentes de IA no termina con los datos a los que un agente puede acceder. También abarca los datos que un agente produce, como sus decisiones, las instrucciones que recibió y los documentos que creó. Dado que la IA contribuye a decisiones significativas dentro de la empresa, la trazabilidad y defensibilidad de IA se han convertido en capacidades críticas.

Las organizaciones que construyen una base de datos sólida se colocan en una posición más fuerte para pasar de piloto a producción con la confianza de que los agentes no convertirán datos mal gestionados en una crisis a nivel empresarial.

El problema de los datos viene primero

El tema de gobernanza de datos no es, por supuesto, un problema nuevo. La mayoría de las grandes organizações han pasado años tratando de ordenar información dispersa entre plataformas operativas, comparticiones de archivos, archivos históricos y aplicaciones que deberían haber sido jubiladas hace mucho tiempo. Pero como la IA con enfoque en agentes puede actuar rápidamente sobre esas debilidades a escala, la cuestión se ha vuelto aún más urgente.

Antes de otorgar a un agente acceso a datos, IT debe identificar información sensible y regulada, aplicar políticas de clasificación y retención de forma consistente, y determinar qué fuentes son actuales y lo suficientemente confiables para el trabajo. Los datos heredados requieren un cuidado especial.

Las aplicaciones retiradas a menudo contienen valiosa historia comercial, pero también albergan registros duplicados, información obsoleta y datos sujetos a retención legal o retención obligatoria.

Las organizaciones también deben preservar el contexto y las relaciones que dan significado a los datos heredados, para luego poner a disposición conjuntos de datos seleccionados y controlados por políticas. La IA no actúa sobre los datos en un vacío; sin el contexto circundante, los agentes no lograrán completar sus tareas o, peor aún, tomarán y actuarán basándose en decisiones defectuosas.

El acceso es una decisión de negocio

Otro error común es dar a los agentes acceso a más datos de los que necesitan. De hecho, los agentes deberían tener acceso solo a los datos requeridos para completar las tareas asignadas. Que un sistema pueda conectarse a un agente no significa que deba hacerlo.

Trate a los agentes como empleados y siga el principio de mínimo privilegio. Por ejemplo, un agente de servicio al cliente puede necesitar información actual de cuentas y transacciones, pero probablemente no necesite archivos legales ni historiales de empleados. El acceso debe seguir estrechamente el propósito definido del agente.

La procedencia también importa. Un agente no debe tratar un sistema actual de registro y un archivo de décadas de antigüedad como igualmente autorizado. Los agentes deben saber de dónde proviene la información, cuándo se actualizó y qué políticas se aplican. Nuevamente, el contexto importa. Sin el contexto adecuado, los agentes cometerán errores costosos.

Mantenga un registro de lo que hizo el agente

La gobernanza no termina cuando el agente recibe datos aprobados. Los datos relacionados con IA se están volviendo rápidamente relevantes para litigios, revisiones de cumplimiento y quejas de clientes. Para estar preparado, una organización debe poder demostrar qué se le pidió hacer al agente, qué información accedió, qué políticas se aplicaron y qué ocurrió después.

Las instrucciones, el contenido recuperado, los resultados y las decisiones resultantes deben conservarse como registros comerciales. Un revisador debe poder reconstruir la decisión de IA y rastrear su origen hasta los datos fuente y la persona o función que autorizó la actividad.

Finalmente, la responsabilidad no debe pertenecer únicamente al equipo de tecnología. Líderes de seguridad, datos, privacidad, legal y cumplimiento tienen un rol, pero debe existir un dueño del negocio designado que permanezca responsable del resultado. La automatización puede realizar una acción, pero no puede asumir la responsabilidad por ella.

La preparación de datos no es un segundo flujo de trabajo que se aborde tras un piloto de IA exitoso. Es parte de la decisión de trasladar ese piloto a producción. Si una organización no puede confiar en la información, controlar su acceso y explicar claramente las decisiones resultantes, el agente no está listo para una mayor autonomía.

Hemos destacado las mejores herramientas de IA.

Este artículo se elaboró como parte de TechRadar Pro Perspectives, nuestro canal para presentar a las mentes más brillantes de la industria tecnológica actual.

Las opiniones expresadas aquí son las del autor y no necesariamente las de TechRadarPro o Future plc. Si está interesado en contribuir, obtenga más información aquí: https://www.techradar.com/pro/perspectives-how-to-submit

from Latest from TechRadar https://ift.tt/jntYB26
via IFTTT IA