La integración de la inteligencia artificial (IA) en el trabajo y la vida diaria ha llevado a empresas y reguladores a actuar con mayor diligencia. La IA representa una fuerza que introduce categorías de amenaza completamente nuevas, haciendo imprescindible una mayor resiliencia cibernética. Sin embargo, en medio del impulso por adelantarse, conviene reconocer que no todo el bombo es totalmente preciso.
Las vulnerabilidades subyacentes que enfrentan las organizaciones hoy siguen siendo, en gran medida, las mismas que hace cinco o diez años: sistemas sin parches, controles de identidad deficientes, privilegios excesivos e integraciones de terceros inseguras.
En algunos casos, estas debilidades existen desde hace tiempo y es probable que sigan existiendo porque la primera limitación fundamental de la ciencia de la computación es que la eliminación de todas las vulnerabilidades es imposible. Por ello, ninguna cantidad de herramientas o presupuesto podrá hacer que una empresa sea 100% segura. Sin embargo, eso no significa que haya que desestimar las mejoras, especialmente en la era de la IA.
Velocidad, no novedad
Aunque la IA no introduce nada intrínsecamente nuevo, sí existen razones para preocuparse. La naturaleza de las debilidades existentes permanece igual, pero la IA altera significativamente la velocidad y la escala con las que pueden identificarse y explotarse. Tareas que antes requerían tiempo, habilidad y persistencia ahora pueden automatizarse, acelerarse y, en algunos casos, ser delegadas.
El umbral de entrada se ha reducido para que actores menos sofisticados operen con mayor eficiencia y éxito.
Ya observamos indicios de este cambio: ciertas fases del ciclo de ataque pueden automatizarse, ya sea en reconocimiento o movimiento lateral. Actores de alto nivel han comenzado a experimentar con el uso de estos sistemas para coordinar operaciones en múltiples etapas, y recientemente hemos visto un ataque completamente autónomo sin supervisión humana.
Al mismo tiempo, las técnicas más familiares se están potenciando en lugar de reemplazarse. El malware puede generarse o iterarse más rápidamente para evadir la detección. El engaño social se ha vuelto más convincente mediante deepfakes, y las campañas de phishing se vuelven más escalables.
Nada de esto representa un nuevo plan de ataque fundamental; es simplemente la aceleración de uno existente.
El problema de la distracción
La distinción entre novedad y velocidad es crucial porque determina cómo responden las organizaciones. Si se trata la IA como una amenaza novedosa y excepcional, se favorece una mentalidad reactiva. Los equipos de seguridad se empujan a buscar soluciones “específicas para IA”, a menudo a expensas de abordar lagunas históricas en su entorno. En la práctica, esas brechas siguen siendo los puntos de entrada más fiables para los atacantes.
El riesgo que genera el actual nivel de atención sobre la IA es una forma de distracción estratégica. Los consejos de administración y ejecutivos plantean preguntas sobre el riesgo de la IA, pero esas conversaciones pueden desvincularse de lo básico. Los programas de gestión de parches siguen siendo inconsistentes. Los inventarios de activos están incompletos. La exposición de terceros es poco entendida. La gestión de identidades y accesos permanece fragmentada entre sistemas.
Estos son los mismos problemas que los profesionales de seguridad abordaban antes de la IA y la tecnología no los elimina. Al contrario, pueden volverse más decisivos a medida que aumenta la velocidad de explotación.
La respuesta adecuada
Es relevante dejar claro los límites del control. Ninguna organización será 100% segura. Siempre existirán vulnerabilidades desconocidas, muchas de las cuales los modelos avanzados podrán descubrir.
Sin embargo, la idea de que la IA introduce un riesgo que pueda ser “solucionado” por completo es engañosa. Incluso si los modelos avanzados identifican debilidades previamente desconocidas, la respuesta sigue siendo la misma que siempre: priorizar, remediar y reducir la exposición con el tiempo.
Para los defensores, igualar este mayor tempo requiere una combinación de disciplina y adaptación. Prácticas establecidas como pruebas de red y ejercicios de mesa deben evolucionar para incorporar escenarios habilitados por IA. Los equipos de respuesta a incidentes deben estar preparados para manejar nuevas formas de evidencia, incluidas aquellas generadas o manipuladas por sistemas de IA.
Además, los programas de capacitación deben reflejar la creciente sofisticación del engaño social, especialmente en lo relacionado con deepfakes y clonación de voz.
Las capacidades de detección y respuesta impulsadas por IA pueden desempeñar un papel importante, especialmente para identificar patrones a escala. Pero no sustituyen a principios de diseño seguro, controles de acceso robustos ni a una comprensión clara de dónde residen los datos críticos. Por tanto, las organizaciones deben evitar una inclinación excesiva hacia nuevas herramientas sin abordar debilidades fundamentales.
La expansión de la superficie de ataque a través de la adopción empresarial de IA añade otra capa de complejidad. Los atacantes ya atacan flujos de trabajo de IA directamente, explotan vulnerabilidades en entornos de desarrollo de software y utilizan técnicas como la inyección de prompts para manipular el comportamiento del sistema.
En algunos casos, las instrucciones maliciosas pueden integrarse en contenido aparentemente benigno, provocando acciones no deseadas cuando se procesan por un sistema de IA.
Una vez más, estos desarrollos deben entenderse como extensiones de conceptos ya conocidos. La validación de entradas, el riesgo de la cadena de suministro y la integridad de los datos siempre han sido centrales para la seguridad. La IA introduce nuevos contextos en los que estos temas se manifiestan, pero no categorías de riesgo completamente nuevas.
Desde la perspectiva de gobernanza, esto refuerza la necesidad de claridad más que de novedad. Las juntas deben centrarse en definir la tolerancia al riesgo, garantizar la rendición de cuentas y mantener la visibilidad de cómo se utiliza la IA en la organización.
Esto incluye integrar consideraciones de IA en los marcos de gestión de riesgos existentes en lugar de tratarla como un dominio separado. Los equipos legales, técnicos y de comunicaciones deben alinearse, especialmente en escenarios que involucren desinformación o medios sintéticos, donde la velocidad de la respuesta es crítica.
Qué importa ahora
Existe valor en el foco actual en el riesgo cibernético. Una mayor atención a nivel directivo puede impulsar la inversión y la responsabilidad de maneras difíciles de lograr antes. Pero esa atención debe dirigirse a los problemas correctos. Tratar la IA como una amenaza completamente nueva podría llevar a una asignación ineficiente de recursos y a pasar por alto las vulnerabilidades ya existentes.
La IA seguirá evolucionando y también las formas en que la utilizan tanto atacantes como defensores. En ciberseguridad, el progreso suele consistir menos en encontrar respuestas nuevas y más en aplicar las existentes con mayor consistencia y velocidad.
Las organizaciones que gestionen mejor este cambio serán aquellas que permanezcan firmes en comprender qué ha cambiado y qué no.
Hemos reunido el mejor software de protección de endpoints.
Este artículo se produjo como parte de TechRadar Pro Perspectives, nuestro canal para presentar a las mentes más destacadas de la industria tecnológica actual.
Las opiniones aquí expresadas pertenecen al autor y no necesariamente a TechRadarPro o Future plc. Si estás interesado en contribuir, obtén más información aquí: https://www.techradar.com/pro/perspectives-how-to-submit
from Latest from TechRadar https://ift.tt/Gret259
via IFTTT IA
Pacosite's Blog 