La carrera empresarial por escalar las operaciones de IA está en pleno auge, tanto desde la perspectiva de implementación como de seguridad. Si bien la sabiduría convencional sugiere que los equipos que despliegan los modelos primero obtienen la ventaja, ese enfoque no es adecuado para las empresas.

Para los actores maliciosos, la rapidez es clave. Los atacantes que aprovechan la IA para explorar vulnerabilidades no necesitan compartir su rastro de decisiones ante comités de auditoría o reguladores, convirtiendo la velocidad en la ventaja principal para los intrusos.

Los equipos de seguridad empresarial operan, sin embargo, bajo parámetros radicalmente distintos, y es precisamente ahí donde reside la oportunidad. Los equipos no solo deben identificar anomalías, auditar transacciones y tomar decisiones de acceso; también deben estar preparados para explicar qué ocurrió, cuándo y por qué a los interesados clave.

Cualquier acción y cualquier resultado deben estar aclarados y justificados ante la junta directiva, un auditor o un cliente. Escalar la IA a nivel empresarial no se trata de quién se mueve más rápido, sino de quién puede incorporar marcos de responsabilidad, frenos de emergencia y trazabilidad de auditoría.

El problema oculto de los datos

En verdad, la velocidad no es el desafío principal para la mayoría de los equipos empresariales. El reto mayor y más difícil reside en los datos y la gobernanza. Los modelos de política y los marcos de detección solo son tan efectivos como la calidad de las entradas de información. Sin embargo, la mayoría de las organizaciones carecen de datos estructurados y bien gobernados, especialmente cuando se trata de la actividad de IA. En la mayoría de las organizaciones, los datos están dispersos.

Los registros de actividad, los historiales de acceso y las transacciones se encuentran en sistemas dispares con formatos inconsistentes y sin una fuente única de truth. Por mucho que se alimenten estos datos en un modelo de IA, la claridad nunca se logrará. En cambio, los equipos generan una falsa sensación de confianza sobre una base inestable.

Escalar de forma significativa comienza con audibilidad y responsabilidad como infraestructura, no como una ocurrencia tardía. A medida que los sistemas de IA se integran cada vez más en las organizaciones, aumenta el requisito de mantener registros consistentes de las acciones que ocurrieron y de hacer cumplir políticas donde las acciones se verifiquen frente a reglas definidas antes de su ejecución.

Igualmente importante es que las organizaciones cuenten con la memoria interna para explicar decisiones automatizadas a los interesados fuera del equipo de ingeniería, porque ya han estado gestionando versiones de esto en cumplimiento y funciones de riesgo durante años.

Cuando este enfoque es la base, los sistemas de IA se vuelven realmente útiles. Los modelos impulsados por datos y estándares de gobernanza pueden filtrar acciones contra riesgos conocidos antes de la liquidación, señalar patrones que los humanos podrían pasar por alto y mantener registros actualizados que pueden compartirse con los grupos de interés. Sin esta base, los datos fragmentados y los sistemas no gobernados se agravan, dando lugar a errores más rápidos.

La emoción por los sistemas de IA se centra en la fase de despliegue sin preguntarse si la infraestructura subyacente puede soportar lo que se está colocando encima. Este enfoque es subóptimo y deja una puerta abierta para las brechas, similar a instalar un sistema de alarmas en un edificio sin colocar cerraduras en las puertas.

Incorporar la aplicación de políticas a nivel de infraestructura, las trazas de auditoría y los registros revisables por humanos añade una capa adicional antes del despliegue. En un dominio donde los actores maliciosos operan sin esta capa operativa, es legítimo preguntarse si los equipos de seguridad empresarial están creando una desventaja de velocidad permanente para sí mismos.

Sin embargo, ese enfoque pasa por alto lo que aporta realmente la capa operativa adicional: la diferencia entre un sistema de IA que falla de forma segura y uno que falla en silencio. Los equipos de seguridad empresarial que operan con menor velocidad pero que pueden identificar y revertir decisiones equivocadas de forma constante y proactiva se encuentran en una posición fundamentalmente diferente a las empresas que operan rápidamente y descubren un fallo semanas después del incidente. El compromiso es real, pero es el compromiso equivocado para optimizarse.

Confianza más allá de los equipos de ingeniería

Una idea errónea común es que las decisiones de seguridad se toman para y por equipos de seguridad. No es así. Las decisiones de seguridad tomadas por sistemas automatizados deben satisfacer a partes interesadas mucho más allá de este flujo de trabajo, incluidos reguladores, aseguradoras, clientes e incluso la junta directiva.

Esas partes interesadas no se quedan impresionadas por la sofisticación. Les importa si la organización puede demostrar de forma clara y consistente qué hizo el sistema y por qué. Las organizaciones sin esa capa operativa encuentran que la adopción de IA aumenta su exposición a riesgos, porque ahora están tomando decisiones más rápidas con salvaguardas insuficientes.

A medida que los sistemas de IA muestran comportamientos cada vez más autónomos, las apuestas siguen cambiando. Un sistema de IA que puede iniciar pagos, aprobar transacciones o mover fondos de manera independiente no solo necesita una política que seguir, sino frenos para activarse en caso de una decisión incorrecta.

Sin esta capa integrada, los equipos de seguridad empresarial cargan con el problema de responsabilidad y, además, no tienen ninguna posibilidad de detectar un error antes de que se vuelva permanente.

La brecha de preparación

La preparación requiere una secuencia adecuada. Antes de escalar las operaciones de IA, es crucial realizar una evaluación honesta de tres cosas: si los datos subyacentes a través de los sistemas están estructurados, si existen verificaciones de políticas firmes y si se pueden generar registros verificados de decisiones automatizadas bajo demanda.

Comenzar por aquí sitúa a la IA como un multiplicador de fuerza para los equipos de seguridad. Estos tres elementos marcan la diferencia entre capturar lo que los humanos pasan por alto y hacerlo lo suficientemente rápido como para importar, o simplemente añadir velocidad a un proceso defectuoso.

La “carrera de IA” no se ganará por tener los modelos más nuevos. En realidad, se trata de dedicar esfuerzos al trabajo poco glamoroso: construir la infraestructura de datos y los sistemas de gobernanza que hacen que los modelos de IA sean confiables.

Hemos probado, evaluado y clasificado el mejor software de firewall.

Este artículo fue producido como parte de TechRadar Pro Perspectives, nuestro canal para presentar a las mentes más brillantes de la industria tecnológica actual.

Las opiniones expresadas aquí son las del autor y no necesariamente las de TechRadarPro o Future plc. Si estás interesado en contribuir, descubre más aquí: https://www.techradar.com/pro/perspectives-how-to-submit

from Latest from TechRadar https://ift.tt/MX0I2K3
via IFTTT IA