Las agencias de seguridad estadounidenses han emitido una advertencia sobre actividades de distilación de conocimiento a escala industrial llevadas a cabo por firmas de IA con base en China. Este informe subraya la necesidad de detectar indicios de prompts maliciosos, respuestas engañosas durante la distilación y la importancia de compartir inteligencia entre proveedores para contrarrestar estas prácticas.

La Cybersecurity and Infrastructure Security Agency (CISA), en colaboración con la National Security Agency (NSA) y el Federal Bureau of Investigation (FBI), emitió una alerta técnica dirigida a compañías de IA en Estados Unidos. El documento describe una actividad agresiva y maliciosa de distilación que se realiza a gran escala y ofrece medidas de mitigación para las empresas del sector.

Qué es la distilación de conocimiento

La distilación de conocimiento es una técnica de aprendizaje automático que transfiere el aprendizaje de un modelo grande preentrenado, conocido como modelo maestro, a un modelo más pequeño, denominado modelo alumno. Se emplea en el aprendizaje profundo como una forma de compresión y transferencia de conocimiento, especialmente para redes neuronales extensas. En sí misma, no es ilegal ni intrínsecamente maliciosa; se reconoce como una técnica legítima y útil en la investigación de IA.

No obstante, el informe advierte que ciertas entidades, en este caso compañías basadas en China, podrían estar utilizando la distilación con fines indebidos, extrayendo de forma masiva respuestas y capacidades de modelos estadounidenses para acelerar su propia construcción de funciones propietarias.

¿Qué compañías se mencionan?

Según la advertencia, empresas como DeepSeek, Moonshot AI, Alibaba, MiniMax, StepFun y Z.AI habrían “extraído miles de millones de tokens” a partir de millones de intercambios con modelos avanzados de Estados Unidos—incluidos variantes de Claude, GPT, Gemini y Grok—desde al menos finales de 2024. La advertencia sugiere que estas actividades podrían realizarse con el conocimiento o incluso el respaldo de autoridades chinas.

Se enumeran modelos chinos como DeepSeek R1 y V3, Moonshot Kimi-K2 y Kimi-K3, y MiniMax M2; y en el lado estadounidense, modelos que van desde GPT-4 y Claude 3.7 hasta Gemini 2.5 y otros antecesores y versiones recientes.

Cuando se realiza con buena fe, la distilación de conocimiento no es ilegal. Sin embargo, el informe indica que estas operaciones habrían utilizado múltiples cuentas, puntos de acceso a API, múltiples proveedores de nube, agregadores de IA de terceros, servicios de proxy y “estaciones de transferencia”, además de suscripciones premium compartidas entre desarrolladores, con el fin de evadir defensas y dificultar la detección.

Implicaciones para la innovación y la seguridad

Las agencias describen estas prácticas como una extracción sistemática de funcionalidades propietarias y capacidades que amenazan la ventaja tecnológica de Estados Unidos. Subrayan la necesidad de una respuesta coordinada en el ecosistema de IA, que incluya el intercambio de información entre Gobierno, industria privada y naciones aliadas.

Qué deberían hacer las empresas estadounidenses

Para proteger su propiedad intelectual y mantener la delantera frente a los modelos competitivos, las compañías de IA en EE. UU. deben adoptar:
– Detección y mitigación integrales: búsqueda de indicios de prompts anómalos o maliciosos, cuentas o redes sospechosas, y comportamientos inusuales; monitoreo de relaciones suscripción-uso, aceleraciones de consumo desde cuentas nuevas y patrones de rendimiento a escala empresarial.
– Respuestas específicas ante distilación maliciosa: implementar cambios dirigidos para atenuar las recompensas de campañas de distilación industrial, ajustando discretamente las respuestas cuando se detecte distilación sospechosa.
– Intercambio de inteligencia entre organizaciones: establecer una coordinación entre proveedores de modelos, plataformas en la nube y agregadores de APIs para correlacionar actividades y fortalecer la defensa colectiva.

Este marco busca no sólo proteger el conocimiento sensible, sino también mantener un entorno de IA más seguro y confiable para la innovación continua.

from Latest from TechRadar https://ift.tt/jSeyM1h
via IFTTT IA