La conversación sobre lo que la IA podría hacer por los servicios financieros es optimista. Puede acelerar procesos, detectar actividades sospechosas más temprano y ayudar a los bancos a gestionar fraudes a una escala imposible para equipos humanos. Y, sin duda, todo esto es cierto. Pero existe un riesgo de que se eclipsen problemas más inmediatos: la misma tecnología está mejorando la economía del fraude, y los delincuentes no enfrentan las mismas limitaciones que las organizaciones que buscan frenarlos. No tienen largos ciclos de adquisición, tecnología heredada que integrar o procesos regulatorios que sortear. Pueden experimentar, fracasar y volver a intentar. Esto crea una brecha cada vez mayor entre la velocidad a la que evoluciona el fraude habilitado por IA y la rapidez con la que las instituciones financieras pueden adaptar sus defensas. La pregunta para la FCA y la industria, en general, es si estamos prestando suficiente atención a esa brecha.\n\nIdentidad: las verificaciones fueron construidas para un problema distinto. Muchas de las medidas de verificación de identidad utilizadas hoy se basan en una suposición simple: en algún punto del proceso, una persona real se está haciendo pasar por otra. Por ello, las empresas han aceptado controles como verificación de documentos, verificación de vida por video y callbacks de voz. Cada paso añade un obstáculo para el defraudador. Pero la IA generativa cambia la naturaleza de ese desafío: la persona, la voz o el documento pueden no haber existido nunca. Una voz convincente puede generarse. Las imágenes faciales pueden crearse o modificarse. Los documentos de identidad y el rastro digital pueden producirse de forma rápida y consistente. Lo que antes requería habilidades especializadas y un esfuerzo considerable se vuelve más barato y accesible. Esto no invalida por completo los controles existentes, pero sí significa que las verificaciones no pueden asumir que un pase implica lo que antes significaba. Una verificación de vida, por ejemplo, solo es útil si puede distinguir de forma fiable entre una persona real y lo que la última generación de medios sintéticos puede producir. Eso ahora es un objetivo móvil.\n\nLa mayor preocupación es la persona que no existe. El fraude de identidades sintéticas merece mucha más atención. El robo de identidad tradicional suele tener una víctima real: alguien descubre una cuenta que no abrió, una transacción no realizada o una solicitud de crédito que no conoce. Eventualmente, hay una persona que puede alertar. Las identidades sintéticas son distintas. Los defraudadores pueden combinar información genuina con detalles inventados para crear un individuo aparentemente legítimo. Un identificador real puede emparejarse con un apellido falso, historial laboral fabricado o dirección inventada. IA puede ayudar a crear la documentación y el rastro digital necesarios para que esa identidad parezca creíble. Lo inquietante es que puede no existir nadie a quien quejarse. Eso dificulta identificar el fraude de identidad sintética en etapas tempranas. Un cliente sintético puede comportarse de forma normal, crear una historia financiera y generar confianza antes de cometer fraude mucho después. Debemos pensar en este riesgo de forma similar a cómo se veía el inicio de la toma de control de cuentas hace una década. Hoy en día, la toma de control de cuentas está bien entendida y existen sistemas maduros, inteligencia compartida y señales conductuales para detectarla. Esa madurez tomó tiempo. El fraude de identidad sintética aún no está ahí. Hay un riesgo de que la IA acelere el problema antes de que la industria logre reconocerlo.\n\nLos bancos deben atacar sus propias defensas. La respuesta no es simplemente adquirir otro producto de fraude impulsado por IA. Las instituciones financieras deben empezar a usar la misma tecnología de forma ofensiva contra sus propios sistemas. Si los delincuentes utilizan herramientas de IA generativa para probar lo que logra pasar, los bancos deben hacer exactamente lo mismo. Los equipos de seguridad durante años han red-teaseado redes y aplicaciones. Los procesos de identidad y onboarding deben someterse a pruebas similares. ¿Puede una voz generada por IA pasar un proceso de callback? ¿Puede una cara sintética superar la verificación de vida? ¿Puede sobrevivir onboarding una documentación fabricada? ¿Puede crearse una identidad sintética convincente a través de varios puntos de datos sin activar una alerta? Estas son preguntas que las empresas deben responder por sí mismas, en lugar de esperar a que un defraudador aporte la respuesta. Cada intento exitoso debería convertirse en una lección. Si pasa un documento sintético, entender por qué. Si una voz generada engaña a un control, cambiar el control. Y volver a probarlo. También implica alejarse de depender excesivamente de una verificación única. Probar la identidad una sola vez, en el onboarding, es menos tranquilizador cuando ese momento puede ser fabricado de forma convincente. El comportamiento a lo largo del tiempo importa más. Cómo se utiliza una cuenta, cómo interactúa un cliente con los servicios y si la actividad es coherente con lo que la organización sabe de esa persona pueden proporcionar señales mucho más difíciles de fabricar con un único deepfake o documento forjado.\n\nLa regulación siempre estará persiguiendo a la tecnología. La FCA tiene un papel importante, pero la regulación por sí sola no resolverá este problema. La IA se desarrolla demasiado rápido para que las reglas actuales anticipen todas las técnicas de fraude que emergerán mañana. Eso implica más responsabilidad para las propias instituciones. La confianza y la rendición de cuentas deben incorporarse a los sistemas de IA desde el inicio. Las empresas deben probar deliberadamente cómo sus sistemas pueden ser engañados o mal utilizados. Deben asignar una propiedad clara a nivel directivo cuando las decisiones automatizadas salen mal, en lugar de permitir que la responsabilidad desaparezca detrás de “el algoritmo”. Y deben entender y poder explicar por qué se tomaron decisiones importantes. Esto no puede convertirse en otro ejercicio de cumplimiento. Las instituciones que tratan la gobernanza de IA como papeleo para satisfacer a un regulador pueden cumplir técnicamente con los requisitos actuales y permanecer expuestas a fraudes del mañana. Aquellas que prueban continuamente sus suposiciones, desafían sus propias defensas y construyen responsabilidad en la tecnología estarán en una posición mucho más fuerte.\n\nEste análisis se acompaña de una nota de contexto: hemos destacado que existen recursos y herramientas relevantes, como las soluciones de IA para chat empresarial, que pueden influir en la eficiencia y la seguridad.\n\nLa perspectiva aquí compartida busca enfatizar que la innovación debe ir acompañada de una vigilancia rigurosa y de una evolución constante de las prácticas para la gobernanza de IA en el sector financiero.

from Latest from TechRadar https://ift.tt/4QdPcib
via IFTTT IA