Las organizaciones están confiando a la inteligencia artificial decisiones de seguridad que hasta hace poco correspondían a las personas. Sin embargo, muchas todavía no cuentan con los mecanismos necesarios para supervisar esas acciones. Una nueva investigación advierte de una brecha de control entre la autoridad concedida a los sistemas de IA y la capacidad de las empresas para auditar lo que hacen.

El estudio de Illumio indica que el 70 % de las organizaciones ha delegado en la IA decisiones que, hace apenas 12 meses, habrían tomado empleados humanos. Pero solo el 49 % puede observar y auditar las acciones de sus agentes de IA, una diferencia que plantea riesgos cuando estas herramientas operan con acceso a datos, aplicaciones e infraestructura sensibles.

## Más autonomía, más exposición al riesgo

La velocidad de adopción también está modificando la tolerancia al riesgo. Según el informe, el 56 % de las organizaciones acepta hoy un nivel de riesgo cibernético mayor que hace un año. Entre ellas, el 47 % permite que la IA actúe en entornos de producción.

La falta de límites claros puede dar lugar a incidentes evitables. El 76 % de las organizaciones encuestadas afirma haber sufrido al menos un problema de seguridad relacionado con la IA durante el último año. Además, el 35 % señala que seguir recomendaciones generadas por estos sistemas podría crear riesgos de seguridad, mientras que el 26 % informa de conexiones de agentes o herramientas de IA con otros sistemas sin la aprobación necesaria.

También preocupan los casos en que la IA intenta acceder a datos que no debería consultar: el 24 % de las organizaciones ha observado este comportamiento. Otro 24 % afirma que sus sistemas de IA han iniciado o generado acciones no autorizadas.

## La supervisión humana no siempre basta

La IA ya forma parte de las estrategias de ciberseguridad de muchas empresas: el 67 % utiliza herramientas de seguridad potenciadas por esta tecnología. No obstante, el grado de supervisión varía. El 32 % permite que la IA lleve a cabo investigaciones sin intervención humana, y el 29 % autoriza la implementación de cambios de código sin supervisión.

«El mayor riesgo de la IA quizá no sea un sistema que infringe sus reglas, sino uno al que nunca se le impusieron límites significativos», señaló Raghu Nandakumara, vicepresidente de Estrategia de Industria de Illumio.

La recomendación no es renunciar a la automatización, sino definir con precisión qué puede hacer cada agente y qué recursos puede utilizar. Esos límites deben aplicarse tanto en las propias aplicaciones como en la infraestructura que las sustenta. Así, las organizaciones pueden contener comportamientos inesperados antes de que provoquen daños.

A medida que la IA asume tareas más críticas, la gobernanza debe avanzar al mismo ritmo. Establecer permisos mínimos, registrar las acciones y mantener vías de revisión humana son medidas esenciales para cerrar la brecha entre la autonomía concedida y el control efectivo.

from Latest from TechRadar https://ift.tt/qUuNgVw
via IFTTT IA