La realidad para muchas organizaciones es que sus empleados ya están siendo engañados. Probablemente también sus clientes, sus inversores y su junta directiva. Durante años, las advertencias se han enfocado en el impacto de las deepfakes, como directores ejecutivos falsos en videollamadas, voces clonadas para autorizar pagos y correos fraudulentos. Las tácticas en sí no son nuevas, pero en los últimos años la IA ha hecho que sean más baratas de producir, más difíciles de detectar y mucho más convincentes dentro del flujo normal de negocio. Es esta tendencia la que hace que el principio de Zero Trust sea cada vez más relevante para cómo se trata la información, así como lo ha sido para el acceso. En ciberseguridad, Zero Trust parte de una suposición simple: ningún usuario, dispositivo, aplicación o solicitud debe ser confiado por defecto. En la era de la desinformación generada por IA, las empresas deben aplicar la misma mentalidad a la información que circula en toda la organización.

El nuevo crisis de confianza

Empleados, clientes, inversores y socios toman decisiones basadas en lo que ven, leen y oyen. Si esa información es falsa, manipulada o descontextualizada, las consecuencias pueden pasar rápidamente de la confusión a un daño comercial. Por eso la desinformación, la misinformation y la malinformación deben tratarse como riesgos empresariales. La misinformation – el contenido falso que se propaga sin intención deliberada – ha existido siempre. La desinformación, construida específicamente para engañar, ahora se fabrica a gran escala con más facilidad que nunca. Y la malinformación – información verdadera, a menudo descontextualizada deliberadamente y armada – podría ser la más insidiosa de las tres. Un competidor, un grupo criminal o una campaña de activismo ya no necesita vulnerar una red para causar daños graves. Pueden influir en aquellos asociados y preocupados con una organización simplemente moldeando lo que esas personas ven y creen.

Lo difícil para las empresas es que esto refleja algo con lo que las personas ya luchan. En un entorno saturado de contenido generado por IA, los hábitos que las personas deben emplear para protegerse – pausar antes de reaccionar, cuestionar la fuente, verificar antes de actuar – son los mismos hábitos que las organizaciones deben incorporar en su operación. Esencialmente, el instinto de confianza se ha convertido en una vulnerabilidad. Y abordarlo requiere algo más parecido a una respuesta estructural que a una campaña de concienciación.

La importancia de la confianza verificada

Aquí es donde Zero Trust se convierte en la estrategia. Tradicionalmente, las organizaciones han pensado en Zero Trust a través del lente de menor privilegio, asegurando que los usuarios correctos tengan acceso a las aplicaciones correctas y nada más. Pero en un entorno de información impulsado por IA, ese principio debe evolucionar. Las empresas ya no pueden centrarse únicamente en quién solicita acceso. También deben interrogar qué información se está utilizando, qué acción se está tomando y si el propósito detrás de la acción es confiable.

El siguiente paso es ir más allá de la autenticación y explorar la autenticidad, preguntando: ¿Esta información está verificada? ¿Esta imagen es real o generada por IA? ¿Este contenido ha sido editado? Zero Trust ofrece un marco para responder a estas preguntas. Obliga a las organizaciones a verificar antes de actuar, limitar la exposición cuando sea posible y reducir el riesgo de que información falsa, manipulada o descontextualizada se desplace sin control por la empresa.

Los organismos de estándares como la Coalición para la Proveniencia y Autenticidad de Contenido (C2PA) señalan la dirección: un futuro en el que la procedencia e integridad están incrustadas en el propio contenido digital, de la misma forma que un candado en un navegador indica que la conexión es segura. En esencia, la confianza no será algo que las empresas deban verificar, sino algo que viaja con la información a medida que la verificación se alimenta de la proveniencia. Cada pieza de contenido se convierte así en una señal en una decisión de confianza continua.

Desarrollar la confianza en la era agentic

La necesidad de confiar en la intención se vuelve aún más urgente a medida que los agentes de IA ingresan al lugar de trabajo. Estos agentes operarán cada vez más como otra persona que trabaja junto a nosotros, leyendo documentos, interpretando datos, tomando decisiones y actuando. La diferencia es que estas identidades no humanas se mueven a velocidad de máquina, donde la verificación humana va a la velocidad de la receta.

Eso significa que los agentes de IA deben regirse por un modelo de Zero Trust desde el inicio. Un agente no debe ser confiable solo porque esté dentro de la empresa, haya sido aprobado por un usuario o esté conectado a sistemas corporativos. Su identidad, permisos, comportamiento y resultados deben ser validados de forma continua. Igualmente importante, los agentes deben regirse por los principios de mínimo privilegio, mínimo dato y mínima función, otorgando solo el acceso, los datos y la capacidad mínimos necesarios para una tarea específica.

Sin embargo, estos agentes generan un desafío de confianza que la gestión de identidades por sí sola no puede resolver. Las empresas necesitarán saber si están tratando con un humano o una máquina, si un agente se comporta de manera responsable y si sus acciones reflejan los valores y límites de la organización. En esencia, las empresas deberán adoptar una constitución operativa contra la que se midan continuamente a los agentes.

Y en esta era de IA, las empresas deben interrogar la información, el contenido, la intención, el comportamiento y la acción en tiempo real y de forma continua, ya que la identidad generalmente se verifica solo al ingresar. Dado el tamaño de la tarea, hará falta IA para auditar, alertar y gobernar cuando sea necesario y mantener intacta la cadena de confianza.

Ingeniería de la confianza en el negocio

Las organizaciones que tengan éxito serán aquellas que traten la confianza como algo que debe ser diseñado, no asumido. la misinformation, la disinformation y la malinformación son desafíos de seguridad, resiliencia y liderazgo, y la IA los está haciendo más difíciles de ignorar.

A medida que la tecnología continúa dando forma a cómo se crea, comparte y actúa la información, las empresas deben construir la misma disciplina alrededor de la autenticidad que siempre han aplicado al acceso. Eso implica verificar contenido, cuestionar la intención y limitar lo que los sistemas de IA pueden hacer a lo que realmente necesitan hacer.

La confianza ya no puede ser la configuración por defecto. En el entorno operativo actual, debe ser una decisión tomada de forma continua, a velocidad de máquina, a través de la información, la intención, el comportamiento y la acción. La buena noticia es que el marco ya existe en Zero Trust. Lo que debe cambiar, sin embargo, es cómo las organizaciones lo aplican, ampliando el alcance para incluir información, intención, comportamiento y acción.

Este artículo forma parte de TechRadar Pro Perspectives, nuestra plataforma para presentar las mentes más brillantes de la industria tecnológica hoy. Las opiniones expresadas son las del autor y no necesariamente las de TechRadarPro o Future plc. Si le interesa contribuir, puede obtener más información aquí: https://ift.tt/bGgBn63

from Latest from TechRadar https://ift.tt/4z7iyXY
via IFTTT IA