La inteligencia artificial puede ser muy útil para resolver tareas tediosas: organizar facturas, revisar documentos financieros o ayudar con las compras. Pero pedir orientación a un asistente de IA no es lo mismo que entregarle las claves de una cuenta bancaria. Esa diferencia está empezando a preocupar a algunas de las mayores entidades financieras de Estados Unidos.
Según un informe de Axios, varias instituciones —entre ellas JPMorgan Chase, Bank of America y Morgan Stanley— están tomando medidas para proteger a sus clientes ante la presencia de agentes de IA que acceden a sus cuentas y, al parecer, podrían ir más allá de lo que sus usuarios solicitaron. Los informes no confirman una oleada de cuentas vaciadas ni acreditan pérdidas económicas, pero sí plantean una pregunta importante: ¿cuánta autonomía debería tener una IA cuando está en juego nuestro dinero?
La promesa de los agentes autónomos es cada vez más ambiciosa. En las demostraciones, estos sistemas completan tareas complejas mientras sus usuarios se limitan a observar. Puede resultar impresionante al planificar un viaje; resulta mucho menos atractivo si el agente también tiene acceso a los fondos necesarios para pagarlo.
## La IA experimenta con el dinero
No se trata necesariamente de que los agentes estén hackeando cuentas. En muchos casos, los propios clientes comparten sus credenciales para permitir que una herramienta consulte su información financiera. El acceso puede parecer inofensivo si el objetivo es revisar gastos o identificar cargos recurrentes, pero consultar una cuenta y operar con ella son permisos muy distintos.
La banca digital puede ser frustrante, el papeleo financiero consume tiempo y administrar el dinero exige una atención que no siempre tenemos. Por eso resulta tentadora la idea de delegar las tareas más irritantes. Sin embargo, los agentes de IA pueden interpretar las instrucciones de formas inesperadas. Pedirles que ayuden a reducir los gastos y recibir una lista de suscripciones que convendría revisar es una cosa. Autorizarles a tomar decisiones financieras basándose en una indicación ambigua es otra.
Los modelos pueden malinterpretar una petición o llegar a conclusiones equivocadas. A menudo, una respuesta errónea parece convincente hasta que se comprueba. Cuando la IA puede actuar en el mundo real, esos errores dejan de ser simples inconvenientes: pueden tener consecuencias económicas. Que los bancos ya estén encontrándose con agentes cuyo comportamiento genera dudas sobre la autorización debería llevarnos a examinar con más cuidado los límites de estas herramientas.
## Mantener a la IA fuera de la caja fuerte
Eso no significa que los bancos deban prohibir por completo la conexión de asistentes de IA con las cuentas de sus clientes. Hay motivos legítimos para permitirla, y tampoco parece conveniente que las entidades decidan de manera unilateral qué servicios puede utilizar cada persona.
La prioridad debería ser diferenciar con claridad entre consultar información y realizar operaciones. Antes de transferir dinero, pagar una factura o modificar una cuenta, el agente tendría que pedir una autorización explícita, específica y vigente. Una instrucción dada días atrás no debería interpretarse como permiso permanente para actuar en el futuro.
Esa salvaguarda puede restar parte de la autonomía que hace atractivos a estos agentes, pero ahorrar unos segundos no compensa el riesgo de que una herramienta tome una decisión costosa sin permiso. Además, debe quedar claro quién responde cuando un agente se equivoca. Decirle al cliente que reclame ante un chatbot no será suficiente.
La carrera por crear asistentes cada vez más independientes no debería avanzar más rápido que las medidas para evitar errores y limitar sus consecuencias. Que una IA complete una tarea sin pedir ayuda puede ser una demostración impresionante, pero deja de serlo si hace algo que el usuario nunca quiso. En finanzas, la comodidad importa; el control y la responsabilidad, todavía más.
from Latest from TechRadar https://ift.tt/LxsRpvu
via IFTTT IA
