
La reciente aparición de Mythos de Anthropic representa un llamado de atención para la industria tecnológica, y el hecho de que la propia Anthropic haya optado por no lanzarlo públicamente dice mucho sobre el nivel de riesgo al que nos enfrentamos. Los agentes de IA han evolucionado de simples chatbots con capacidades mejoradas a empleados efectivos con acceso a bases de datos, llaves API y privilegios del sistema.
Sin embargo, la seguridad que les protege se basa en la misma estrategia que falló a la hora de detener los jailbreaks de ChatGPT en 2023. Esta vez, no hay revisión humana de la salida de un agente; existe un agente autónomo ejecutando comandos en un entorno aislado. Los agentes de IA están reformulando los sistemas empresariales y la forma en que se realiza el trabajo. Garantizar su seguridad requiere un cambio de enfoque fundamental. En última instancia, ahora que los agentes actúan de forma independiente, la resiliencia debe estar anclada en controles básicos, incluyendo seguridad a nivel de hardware y en capas inferiores, para estar listo cuando las salvaguardas de alto nivel fallen.
Cómo los agentes de IA amplían la superficie de ataque
Antes de la IA con capacidades agentizadas, los mayores riesgos eran recomendaciones inapropiadas, respuestas poco adecuadas y exposición de datos de conversación. La supervisión humana actuaba como salvaguarda para cada acción, y los sistemas de IA operaban sin acceso directo a información sensible. La principal preocupación era el daño reputacional, más que riesgos para la infraestructura subyacente.
Cuando Anthropic lanzó el Model Context Protocol (MCP) en noviembre de 2024, estableció un marco estandarizado que permite a los agentes de IA conectarse a bases de datos, sistemas de archivos y herramientas empresariales. Pero a los ocho meses, emergió una vulnerabilidad crítica (CVE-2025-49596, CVSS9.4), que desencadenó respuestas de seguridad de emergencia en toda la industria.
El riesgo provino de cuatro factores que actúan conjuntamente: autonomía (los agentes pueden decidir y actuar sin revisión humana), acceso privilegiado (créditos, tokens y permisos de sistema de archivos), ejecución a velocidad de máquina (poco tiempo para intervención humana) y alcance entre sistemas (un agente comprometido puede moverse por entornos conectados). En conjunto, estos factores ampliaron la superficie de ataque mucho más allá de lo que los controles de seguridad tradicionales, incluso los habilitados por IA, estaban preparados para gestionar.
Por qué las defensas puramente software fracasan una y otra vez
La industria avanza para asegurar a los agentes de IA, pero la respuesta suele replicar un enfoque familiar: añadir más capas de software. Las empresas se concentran en dos capas principales: barreras de entrada (herramientas de software para evitar que instrucciones maliciosas lleguen a los agentes) y permisos/monitoreo (limitar lo que pueden hacer los agentes comprometidos).
Es la misma estrategia que se ha utilizado durante décadas: desplegar con rapidez, mantener la agilidad y abordar vulnerabilidades a medida que surgen. Ambas deben permanecer dentro del límite de confianza del software. Pero la historia demuestra que este enfoque suele terminar igual: cuando se compromete el límite de confianza del software, la capa de hardware —donde viven y se procesan los datos— debe ser asegurada también.
Lo mismo ocurrió con la seguridad de endpoints en los 2000s y 2010s. A medida que el malware evolucionaba para evadir la detección, la respuesta fue análisis conductual, sandboxing y detección/Respuesta en endpoints. Sin embargo, más software. Las brechas continuaron hasta que las fichas TPM (Trusted Platform Module) y el arranque seguro a nivel de hardware se adoptaron de forma general. En la seguridad en la nube, en las décadas de 2010 y 2020, siguió una trayectoria similar.
Una lección común recorre cada uno de estos dominios: cuando se compromete el límite de confianza del software, la capa de hardware —donde realmente reside y se procesa la información— debe ser protegida también.
El caso de la seguridad a nivel de hardware
Esta vez no podemos permitirnos aprender lento. Los agentes ya se conectan a los sistemas en los que las empresas dependen para sus operaciones diarias. Incidentes como la vulnerabilidad crítica de MCP y recientes informes de filtraciones de datos causadas por un agente de Meta AI muestran cuán rápido pueden hacerse reales estos riesgos.
Las salvaguardas, permisos y monitoreo son necesarios, pero insuficientes: representan las capas de seguridad que, como la historia ha mostrado, terminarán siendo superadas. Una defensa eficaz requiere una tercera capa —una que exista más allá del límite de confianza del software y que proporcione supervisión a nivel de hardware, donde los datos sensibles se almacenan y procesan en última instancia.
Hardware Root of Trust sirve como la última barrera de seguridad, ayudando a contener las brechas antes de que escalen a una compromisión total del sistema. A medida que crece el número de empresas que utilizan agentes de IA, la seguridad debe moverse más allá de la capa de la aplicación.
La industria ya aprendió que el software por sí solo no puede asegurar sistemas complejos; no debe esperar a una gran brecha para volver a aprender la misma lección.
Este artículo se enmarca dentro de TechRadar Pro Perspectives, la vía para presentar las ideas de las mentes más destacadas de la industria tecnológica. Las opiniones expresadas aquí corresponden al autor y no necesariamente a TechRadarPro ni a Future plc.
from Latest from TechRadar https://ift.tt/Y8QiVT2
via IFTTT IA








