Cuando las empresas y los gobiernos delegan tareas operativas a agentes de IA, la conversación suele empezar por la capacidad: ¿puede la IA hacer lo que hace una persona, como conciliar cuentas, negociar con proveedores, firmar un documento o presentar una declaración pública? ¿Y puede hacerlo con la rapidez y el costo suficientes para justificar su uso?

Estas cuestiones importan, pero el rendimiento es solo una parte del panorama. Una vez que un agente actúa de forma independiente, emergen preguntas distintas: ¿quién lo autorizó, a quién representa, dónde terminan sus poderes y, quizá lo más importante, quién es responsable cuando algo falla?

Este es el vacío de responsabilidad en la IA orientada por agentes, y un modelo más avanzado no lo cerrará por sí solo. Un agente puede ser notablemente capaz y, aun así, actuar con consecuencias potencialmente indeseadas o incluso ilegales.

La única forma de cerrar esa brecha es mediante un sistema con salvaguardas de permiso claras y una trazabilidad de auditoría que vincule cada acción del agente a la persona que la autorizó, y que pueda distinguir entre una persona y una máquina desde el primer momento.

Error corriente a escala extraordinaria

Cuando las personas piensan en el riesgo de la IA, suelen imaginar una máquina fuera de control persiguiendo fines propios. El riesgo más inmediato es menos dramático: un sistema que falla en una tarea ordinaria una y otra vez, sin una línea de responsabilidad clara.

Una persona podría enviar una factura al cliente equivocado. Un agente conectado a la base de datos de clientes podría enviar la misma factura a miles. Podría cambiar un campo incorrecto y luego repetir el cambio en todo un mercado, no porque se haya vuelto malicioso, sino porque interpretó mal una instrucción y tuvo acceso para actuar en consecuencia.

La velocidad que hace valiosa a un agente puede ahorrar cientos de horas a una empresa, pero también puede convertir un error pequeño y recuperable en un problema operativo grave.

Cuando un agente redacta un correo para revisión, esta ambigüedad puede no importar mucho, porque la persona queda entre el software y el mundo exterior.

Pero cuando puede enviar el mensaje, presentar una declaración o mover dinero, importa mucho. Imagina pedir a un asistente que reserve un vuelo y, en lugar de darte una tarjeta corporativa con un límite de gasto adecuado, entregarte tu pasaporte, tarjeta bancaria y llaves de la oficina. Puedes confiar plenamente en el asistente, pero los permisos no guardan una relación razonable con la tarea.

Definir límites, resolver el problema

Los agentes de IA no pueden poseer ciudadanía ni personalidad jurídica, pero pueden vincularse a personas naturales de formas legalmente sólidas. Por ejemplo, un identificador confiable podría rastrear la actividad del agente hasta la persona responsable de su despliegue. Combinado con permisos y mandatos claros que hagan visibles y auditable sus términos de autoridad, esto permitiría a los agentes de IA realizar una gama de operaciones y transacciones de una manera más controlada.

Estos controles podrían ser muy precisos. Un agente podría ver información financiera pero no cambiarla, preparar un pago pero no aprobarlo, o realizar pedidos a proveedores concretos sin exceder un monto fijo. Sus permisos podrían durar una transacción, un día hábil o la duración de un contrato, tras lo cual expirarían sin depender de que alguien se acuerde de desactivarlo.

Retirar esa autoridad debería ser igualmente directo. Si una empresa termina su relación con un agente, cambia de proveedor o detecta un fallo, debería poder cancelar su acceso sin cambiar las credenciales de la persona detrás de él.

El mandato legalmente anclado del agente en los distintos ámbitos de estos controles tiene una vida útil más larga que cualquier modelo de IA individual, que se actualizará, reemplazará y combinará con el tiempo, a menudo sin que el cliente vea mucho más que una nueva versión.

Llevando la idea a la práctica

Estonia ha decidido avanzar en estas cuestiones ya. En junio, el gobierno comenzó a desarrollar un sistema de registro estatal para agentes de IA que estará disponible tanto para ciudadanos estonios como para la comunidad global de emprendedores del país. El objetivo es explorar cómo el estado digital de Estonia, con servicios públicos disponibles en línea, puede abrirse a la nueva ola de negocios impulsados por IA.

Bajo la propuesta actual, una persona recibiría un identificador numérico registrado que podría vincularse a uno o más agentes que actúen en su nombre. Las operaciones realizadas por un agente de IA se tratan como operaciones realizadas por una máquina, para las que la persona natural, el ancla de identidad, es responsable. El agente de IA solo puede operar dentro de los límites de las autorizaciones otorgadas.

Para la transparencia, los proveedores de servicios privados también deben saber si una operación fue realizada por una persona o por una máquina actuando en su nombre. Esto les permite aplicar controles, restricciones y modelos de riesgo adecuados.

Construido para la delegación

El enfoque se apoya en más de dos décadas de gobierno digital. El sistema de identificadores personales y identidades digitales de Estonia ya permite que las personas actúen en nombre de otras con permisos claramente definidos.

Un contador puede presentar los impuestos de un cliente, un adulto puede gestionar los asuntos de un padre mayor a través del portal de salud, y varias personas pueden usar una cuenta bancaria corporativa con derechos y límites individuales. En principio, el mismo marco podría apoyar mandatos para agentes de IA.

Esto daría a los usuarios una mayor confianza de que existen salvaguardas para proteger a la persona responsable frente a errores previsibles de un agente de IA. También ayudaría a cerrar la brecha de responsabilidad a medida que aumenta la actividad de agentes.

Antes de otorgar poderes ejecutivos a agentes de IA, se necesita un marco técnicamente y legalmente vinculante que registre a quién representan, qué pueden hacer y quién permanece responsable de sus acciones.

Hemos destacado las mejores herramientas de IA.

Este artículo se produce como parte de TechRadar Pro Perspectives, nuestro canal para presentar a las mentes más brillantes de la industria tecnológica hoy.

Las opiniones aquí expresadas corresponden al autor y no necesariamente a TechRadarPro o Future plc. Si está interesado en contribuir, obtenga más información aquí: https://www.techradar.com/pro/perspectives-how-to-submit

from Latest from TechRadar https://ift.tt/XRaB18t
via IFTTT IA