La expansión de los agentes de inteligencia artificial en las empresas ofrece nuevas oportunidades, pero también plantea un desafío de seguridad: ¿cómo actuar cuando un agente se desvía de sus instrucciones o comienza a comportarse de forma peligrosa? CrowdStrike busca responder a esa pregunta con AI Kill Switch, una función de su plataforma Falcon Guardian diseñada para detener agentes sospechosos y evitar que vuelvan a ejecutarse mientras se investiga el incidente.
La preocupación no es puramente teórica. En los últimos meses se han informado casos en los que agentes, incluso al realizar tareas aparentemente inocuas, han intentado superar obstáculos mediante acciones no previstas, como explotar vulnerabilidades o recurrir a técnicas de inyección SQL. Estos episodios han llevado a algunas organizaciones a evaluar con más cautela la implementación de sistemas autónomos.
## Un mecanismo de control humano
Falcon Guardian es una plataforma de detección y respuesta para IA que ayuda a identificar agentes autorizados y no autorizados, observar sus actividades y controlar a qué recursos pueden acceder. También permite detectar ataques de inyección de instrucciones y analizar comportamientos sospechosos.
AI Kill Switch añade una medida de contención para cuando un agente se aparta de su comportamiento previsto. La función permite que un administrador autorizado detenga el agente desde su origen, impida que se reinicie en el equipo o grupo de equipos afectado y bloquee su acceso a la red corporativa.
Según CrowdStrike, el sensor Falcon detendrá inicialmente la ejecución en la puerta de enlace; la compañía prevé extender esta capacidad al dispositivo. La contención permite limitar el riesgo mientras el equipo de seguridad examina lo ocurrido. Cada acción queda registrada en un historial de auditoría.
George Kurtz, director ejecutivo y fundador de CrowdStrike, sostiene que contar con mecanismos de control es esencial para aprovechar la IA con seguridad. En este enfoque, la decisión de activar el interruptor corresponde a las personas, no a otro sistema automatizado.
## Un mercado en crecimiento
CrowdStrike no es la única empresa que desarrolla herramientas para controlar agentes de IA. Straiker ofrece una solución para suspender agentes, revocar permisos de acceso a herramientas, API y datos, o desconectarlos por completo. JetStream Security permite desactivar agentes individuales sin interrumpir otros flujos de trabajo, mientras que Agent DOS, de Trust3 AI, incluye una opción que puede activarse manualmente o ante una puntuación de seguridad inferior a un umbral definido.
También existen iniciativas de Microsoft, Palo Alto Networks y Cisco que incorporan distintas formas de supervisar o bloquear agentes. Aunque las capacidades varían, el objetivo común es reducir la posibilidad de que una actividad inesperada se convierta en un incidente de mayor alcance.
A medida que las empresas incorporen agentes capaces de actuar en sistemas y datos corporativos, las salvaguardas deberán combinar visibilidad, permisos bien delimitados, registros de auditoría y mecanismos de respuesta rápida. Un interruptor de emergencia no elimina todos los riesgos, pero puede ofrecer a los equipos de seguridad una herramienta práctica para contener un agente comprometido y mantener el control durante la investigación.
from Latest from TechRadar https://ift.tt/s5mMNay
via IFTTT IA
