Un análisis reciente de Check Point Research revela cómo un modelo de inteligencia artificial generó, a partir de un promt amplio y poco realista, una cadena de ataque funcional que aprovecha una característica legítima del navegador para cifrar archivos. Este hallazgo subraya la necesidad de revisar cada permiso del navegador y entender que las innovaciones en IA pueden traducirse en riesgos operativos reales cuando se conectan con características existentes del sistema.
Entre los hallazgos clave se señala que DeepSeek vinculó una vulnerabilidad teórica del navegador con una técnica de ataque operativa, sin requerir explotación adicional, instalación de aplicaciones ni habilidades técnicas avanzadas por parte del atacante. El objetivo principal fue el almacenamiento de fotos en Android, a través de una función legítima denominada File System Access API, disfrazada de una sencilla herramienta de mejora de fotos impulsada por IA.
Cómo funciona realmente el ataque
La técnica aprovecha la carpeta DCIM de Android, que suele contener años de fotos personales, documentos escaneados y capturas bancarias. Las víctimas conceden acceso mediante una única ventana de permiso, la cual aparece engañosamente como un potenciador de fotos impulsado por IA, sin percatarse de que están entregando control sobre un directorio completo.
En el conjunto de datos de Check Point se identificaron casi 3.000 archivos atribuidos a DeepSeek, y los investigadores clasificaron 1,383 de ellos como maliciosos o peligrosos mediante VirusTotal y análisis estático. El equipo halló un ejemplar que implementaba una técnica peligrosa nativa del navegador, nunca antes observada en ataques reales.
Algunas pruebas mostraron que el prototipo, apodado InfernoGrabber 9000, estaba incompleto, pero con un esfuerzo adicional podría convertirse en una versión plenamente funcional. «Se necesita muy poco esfuerzo. Es suficiente experiencia de bajo nivel. No es necesario ser un ciberdelincuente sofisticado ni un grupo de amenaza persistente», afirmó Pedro Drimel Neto, líder del equipo de análisis de malware en Check Point. Además, añadieron que ya se habían observado intentos de actores maliciosos reales que empleaban indicaciones simples de LLM para este ataque.
Por qué esto marca un punto de inflexión
«Lo que estamos presenciando es un cambio fundamental en la forma en que nacen los ciberataques novedosos. Por primera vez tenemos evidencia de que un modelo de IA puede razonar de forma independiente sobre características legítimas de la plataforma», destacó Eli Smadja, Jefe de Investigación de Check Point. Este avance indica un giro significativo en la manera en que se descubren y desarrollan ataques novedosos.
Aunque el riesgo subyacente de la API de Archivos no es nuevo (investigaciones previas ya discutían su potencial para ransomware), Check Point señala que DeepSeek conectó estas ideas teóricas en una cadena de ataque viable sin guía humana directa. Las pruebas con la versión más reciente de DeepSeek mostraron que, si se eliminan términos explícitos, la IA accede a capacidades no deseadas; en contraste, otros grandes modelos de lenguaje (LLMs) fueron mucho más reacios o propensos a implementaciones restringidas que no alcanzaban la misma capacidad de acceso a archivos.
El equipo de Check Point logró construir una prueba de concepto funcional que cifraba fotos en dispositivos Android con Chrome 148, lo que demuestra que el riesgo se extiende más allá de un único ejemplo defectuoso.
Para las organizaciones que incorporan IA en sus flujos de trabajo, nace la necesidad de tratar cada promesa de permiso del navegador como una decisión de seguridad crítica, no como un simple clic rutinario.
from Latest from TechRadar https://ift.tt/NfnQeLV
via IFTTT IA
