Durante años, la industria de la inteligencia artificial operó bajo una filosofía de innovación rápida. Aunque este enfoque beneficia a sectores como la salud, la oleada inicial de optimismo en torno a los modelos generativos está dando paso a una realidad más desafiante.Numerosas agencias de seguridad nacional y organismos de investigación emiten advertencias sobre el potencial uso indebido de estos modelos.

En el centro de estas alertas se encuentra la comprensión de que los grandes modelos de lenguaje hacen más que procesar texto: democratizan el conocimiento técnico y pueden actuar como tomadores de decisión, no solo como herramientas. En manos inadecuadas, esta capacidad puede aplicarse a operaciones cibernéticas maliciosas y a la subversión de infraestructuras digitales críticas.

Históricamente, ejecutar ataques cibernéticos sofisticados requería años de experiencia técnica especializada en desarrollo de exploits e intrusión en redes. Hoy, la inteligencia artificial acorta la brecha de conocimiento para individuos que carecen de formación formal pero que poseen intenciones maliciosas.

Evaluaciones recientes de organismos internacionales de seguridad, como la Organización para la Prohibición de las Armas Químicas, destacan que la aparición de modelos moleculares basados en datos significa que quienes tienen poca experiencia pueden eludir la supervisión de marcos regulatorios.

Nuevos modelos de frontera como Mythos podrían, teóricamente, identificar vías sintéticas alternativas para diseñar químicos tóxicos utilizando reagentes de laboratorio comunes.

En entornos empresariales, la exposición de cadenas de suministro de software y la infraestructura en la nube continúa siendo una vulnerabilidad aguda. Las aplicaciones de terceros representan un alto porcentaje de riesgos de seguridad emergentes, y las operaciones empresariales modernas dependen de una red de proveedores de servicios digitales y agregadores de datos que hace poco eran prácticamente invisibles.

Cada proveedor representa un posible punto de entrada, y una credencial comprometida en un pequeño proveedor de servicios puede otorgar a un atacante libertad de movimiento lateral dentro de una red corporativa o gubernamental.

El escepticismo público actual surge de la falta de transparencia sobre cómo se entrenan, supervisan e integran estos modelos de frontera. Las empresas que desarrollan modelos tienen la responsabilidad de asegurar que sus innovaciones no comprometan la estabilidad de los sistemas públicos.

Esto requiere un compromiso con el despliegue responsable de estas herramientas, priorizando la seguridad nacional y la resiliencia arquitectónica sobre la rapidez de llegada al mercado. La industria debe abandonar generalidades y enfocarse en prácticas de seguridad explícitas y verificables.

Un nuevo marco para la visibilidad tecnológica

Las organizaciones deben adoptar un enfoque riguroso hacia la visibilidad de máquinas y la defensa de redes. Las herramientas de seguridad orientadas al perímetro tradicional ya no son suficientes: las estructuras defensivas deben migrar hacia una supervisión continua interna.

Esto implica analizar el tráfico este-oeste dentro de la red de una organización para escrutar las comunicaciones entre sistemas y entender los patrones normales de flujo de datos. Las anomalías deben hacerse evidentes de inmediato para que los equipos de operaciones de seguridad actúen antes de que una intrusión escale.

Los tiempos de respuesta también deben comprimirse. La ventana de varias semanas que los atacantes suelen aprovechar da a las amenazas automatizadas demasiada holgura para causar daño. Las plataformas modernas de detección y respuesta en red reducen los tiempos de permanencia del atacante al identificar comportamientos sospechosos de las máquinas en tiempo real.

Como los sistemas prefieren diseños estructurados y esquemas consistentes, las herramientas de defensa deben aprovechar la telemetría de red para rastrear cómo estos modelos interactúan con las bases de datos internas. Los equipos de seguridad deben ver exactamente cómo se procesa la información, asegurando que modelos no autorizados no estén mapeando activos corporativos.

Los gobiernos están respondiendo a esta realidad con una legislación actualizada, como el fortalecimiento de leyes nacionales de ciberseguridad en el Reino Unido. Estas medidas amplían el alcance de las regulaciones a proveedores de servicios digitales esenciales, proveedores de servicios gestionados y centros de datos.

Las sanciones más severas incrementan el coste del incumplimiento y la obligación de reporte de incidentes exige a las organizaciones alertar a las autoridades dentro de ventanas de tiempo ajustadas, a menudo 24 horas. Estos cambios legislativos reconocen lo que los expertos técnicos han advertido durante años: las brechas de seguridad en infraestructuras críticas constituyen una amenaza para la seguridad nacional.

Las filtraciones y los intentos automatizados de explotación son inevitables. La industria debe tratar las infraestructuras de software avanzadas con el mismo nivel de cautela que los activos físicos críticos. En un mundo donde los sistemas automatizados pueden orquestar intrusiones complejas en redes, la adopción de medidas de seguridad más amplias es esencial.

Hemos destacado el mejor software de protección de endpoints.

Este artículo forma parte de TechRadar Pro Perspectives, nuestro canal para presentar las mentes más brillantes de la industria tecnológica actual.

Las opiniones expresadas aquí son las del autor y no necesariamente las de TechRadarPro o Future plc. Si está interesado en contribuir, descubra más aquí: https://www.techradar.com/pro/perspectives-how-to-submit

from Latest from TechRadar https://ift.tt/AjGTeh9
via IFTTT IA