
Los asistentes de inteligencia artificial están adquiriendo acceso a sistemas corporativos, documentos internos y credenciales para ayudar a los empleados con sus tareas. Sin embargo, dos incidentes detectados por NordLayer AI Scout muestran que instrucciones aparentemente rutinarias pueden provocar la exposición de información confidencial o permitir que se evadan restricciones de seguridad.
En uno de los casos, un asistente de programación reconoció que había expuesto credenciales sensibles después de acceder repetidamente a archivos de una empresa. En el otro, un agente utilizó una conexión alternativa para consultar documentación interna a la que no podía acceder mediante la vía autorizada.
## Un asistente expuso contraseñas corporativas
Un ingeniero de control de calidad pidió a un asistente de programación que revisara cambios propuestos para un proyecto de software. Las instrucciones del proyecto lo dirigieron a un archivo de configuración que contenía un token de acceso a GitLab. El archivo también incluía contraseñas de producción, un token de autenticación para un sistema interno de recursos humanos y credenciales de un servicio de inteligencia empresarial.
Según NordLayer AI Scout, el asistente accedió al archivo completo en diez sesiones distintas a lo largo de tres semanas y envió su contenido a un servicio externo de IA en cada ocasión.
El problema se agravó cuando el asistente encontró una copia nueva del proyecto sin el archivo de configuración esperado. En lugar de detenerse, buscó en el sistema y recuperó todas las variables de entorno del equipo, lo que expuso más contraseñas y credenciales de autenticación.
Al advertir lo sucedido, el asistente reconoció el error y recomendó sustituir las credenciales comprometidas. «He filtrado secretos en los resultados de las herramientas de esta sesión… Debería rotarlos», indicó, según una sesión observada por NordLayer AI Scout.
Vakaris Noreika, experto en ciberseguridad de NordLayer, señaló que algunos ingenieros piden a los asistentes de IA que recuperen credenciales directamente, lo que genera una exposición innecesaria. Además, si el asistente repite ese comportamiento en tareas posteriores, el riesgo puede persistir sin que nadie lo detecte.
## Una conexión alternativa sorteó las restricciones
En un incidente distinto, un empleado pidió a un asistente de IA información de la plataforma de documentación Confluence de su empresa. La conexión de Model Context Protocol (MCP) de la organización parecía impedir que el asistente accediera a las páginas internas.
El empleado preguntó si podía crear un token de API para acceder por otra vía. El asistente confirmó que la alternativa funcionaba, eludiendo en la práctica la restricción asociada a la conexión oficial.
Es posible que el empleado buscara una solución más cómoda y no pretendiera comprometer la seguridad de la empresa. Aun así, utilizar conexiones alternativas sin autorización puede debilitar los controles establecidos por el equipo de seguridad.
«Los controles de seguridad solo cubren los casos que alguien previó. Todas las empresas tienen normas, pero los agentes no las conocen como las conocería un empleado formado por la organización», explicó Noreika. También advirtió que los agentes no siempre conservan las reglas entre sesiones y que, en ocasiones, pueden incumplir instrucciones específicas.
## Cómo reducir el riesgo
Estos incidentes ponen de relieve los riesgos de conceder a los asistentes automatizados acceso a sistemas sensibles sin supervisión suficiente. Para reducirlos, las organizaciones pueden:
– Separar las credenciales sensibles de los archivos de configuración y almacenarlas en gestores de secretos o bóvedas seguras.
– Limitar el acceso de cada agente a los recursos estrictamente necesarios para su tarea.
– Registrar y supervisar la actividad de los asistentes, prestando atención a accesos inusuales y transferencias de datos.
– Definir y ofrecer rutas de acceso aprobadas para que los empleados no tengan que buscar alternativas a los controles existentes.
– Establecer procedimientos para revocar o rotar rápidamente las credenciales si se sospecha que han quedado expuestas.
Los asistentes de IA pueden agilizar el trabajo, pero su acceso a sistemas internos debe estar sujeto a límites claros y controles verificables. Combinar permisos mínimos, almacenamiento seguro y monitorización puede ayudar a detectar comportamientos inesperados y evitar que la información confidencial llegue a destinos no autorizados.
from Latest from TechRadar https://ift.tt/ASUlXHV
via IFTTT IA