El paisaje actual de la inteligencia artificial en las organizaciones está marcado tanto por un ritmo acelerado de implementación como por complicaciones de seguridad que requieren una respuesta estructurada. Un análisis reciente de DigiCert revela que el 78% de las empresas ha experimentado incidentes de seguridad relacionados con la IA o ha identificado vulnerabilidades asociadas, a pesar de las inversiones continuas y la creciente adopción de herramientas de IA. Este dato subraya una realidad clave: la IA debe tratarse como un sistema de negocio, no como una novedad experimental, integrando la seguridad en toda la estrategia operativa desde el principio.

A pesar de este entorno de incertidumbre en seguridad, la adopción avanza: el 75% de las compañías encuestadas desplegó cuatro o más herramientas de IA en los últimos seis meses, y el 35% implementó más de 10 sistemas en ese mismo periodo. Estas cifras evidencian una consolidación de herramientas y un aumento en la complejidad tecnológica, lo que a su vez eleva la necesidad de gobernanza y control.

El informe destaca también una brecha significativa entre la discusión y la acción. Por un lado, el 90% de las organizaciones discute la gobernanza de IA a nivel ejecutivo o de junta; por otro, solo el 50% ha implementado presupuestos de seguridad dedicados a IA y programas formales de gobernanza de IA. Esta desconexión entre planificación y ejecución es una señal clara de dónde deben dirigirse los esfuerzos en los próximos meses.

Otra lectura relevante es la madurez de la trazabilidad. Después de años de proyectos piloto, dos tercios (64%) ya han comenzado a registrar inventarios de IA, lo que indica que las empresas están empezando a mapear qué IA existe en su ecosistema. Sin embargo, casi la mitad carece de visibilidad centralizada de los sistemas de IA y solo el 53% puede rastrear totalmente las salidas de IA hasta los modelos y datos fuente subyacentes. Este nivel de trazabilidad es crucial para la rendición de cuentas y la confianza.

Como afirma Brian Trzupek, vicepresidente senior, la pregunta ya no es si las organizaciones deben adoptar IA, sino si pueden explicar, gobernar y confiar en la IA que ya han desplegado. En este sentido, la explicabilidad de IA se mantiene relativamente estable, pero varía por región y sector. Sectores como ciencia y tecnología, banca, telecomunicaciones y retail muestran mayores incidencias y vulnerabilidades, lo que sugiere que ciertos entornos requieren enfoques de seguridad más rigurosos y prácticas más estrictas de control.

Mirando hacia el futuro, las empresas están probando dar a los agentes de IA identidades propias, equiparándolos a trabajadores humanos para mejorar la visibilidad de las acciones autónomas. Este paso, junto con políticas más estrictas y una gobernanza más rigurosa para limitar el uso de herramientas no aprobadas, podría ayudar a mitigar problemas de seguridad a medida que la adopción madura. En definitiva, el éxito sostenible dependerá de una construcción proactiva de estructuras de gobernanza, presupuestos destinados a seguridad y una trazabilidad completa que permita explicar, auditar y confiar en las decisiones impulsadas por IA.

from Latest from TechRadar https://ift.tt/Kbm2HCP
via IFTTT IA