Ahora que la IA se ha integrado rápidamente en las operaciones de las empresas a nivel global, tiene la capacidad de impactar todo, desde el análisis de datos hasta la toma de decisiones e incluso la seguridad.

La mayoría de las conversaciones, sin embargo, se centran en la capacidad, el poder, la productividad y la precisión de la IA, pero dejan de lado un tema mayor.

Si bien todos se enfocan en lo que sucede cuando se implementa la IA, pocos preguntan qué ocurre cuando el acceso a la capacidad de IA desaparece repentinamente.

Un ejemplo destacado de esto es el debate sobre restablecer o no el acceso a los modelos Fable y Mythos de Anthropic, que principalmente giró en torno a temporizadores de cumplimiento y mecanismos de control de exportación.

Aun así, pocos han cuestionado por qué tantas organizaciones descubrieron que una decisión externa, fuera de su control, eliminó una capacidad empresarial crítica de la noche a la mañana. En breve, las interrupciones de acceso a la IA son un síntoma de un problema de resiliencia operativa mucho más amplio y exponen una brecha de gobernanza ignorada respecto a la dependencia.

A medida que las organizaciones integran la IA más profundamente en sus operaciones, deben cambiar su enfoque de preguntar si la IA es lo suficientemente segura ahora a empezar a preguntar si sus organizaciones pueden seguir operando si o cuando esos servicios de IA se vuelvan inaccesibles.

La seguridad no equivale a resiliencia

Estos temas poco discutidos destacan un punto importante: la seguridad y la resiliencia no son sinónimos.

La seguridad previene y protege los sistemas de compromisos. Esto impide que los atacantes obtengan acceso, reduce la cantidad de vulnerabilidades y defiende contra entidades maliciosas —todos elementos cruciales de las operaciones de seguridad. La resiliencia es la capacidad de continuar con las operaciones comerciales cuando los sistemas, servicios o datos no están disponibles, independientemente de la causa.

Tendemos a asociar la resiliencia con situaciones como ciberataques o fallos de infraestructura de TI. La IA ha cambiado el panorama de amenazas para las organizaciones, la forma en que trabajan con IA y la forma de protegerse frente a ella. Las organizaciones deben planificar cada vez más para un acceso interrumpido a herramientas y funciones críticas causadas por decisiones geopolíticas, regulaciones o cambios realizados por los propios proveedores de tecnología.

Un servicio no tiene que ser hackeado para volverse inaccesible. Una decisión política al otro lado del mundo puede provocar el mismo efecto operativo. Lo vimos exactamente con Anthropic.

Con esto en mente, la resiliencia debe integrarse en la forma en que opera la empresa e incluir cualquier nueva infraestructura de IA, para garantizar la continuidad del negocio incluso ante interferencias políticas.

La IA crea un nuevo tipo de dependencia del proveedor

Donde la dependencia de software tradicional suele implicar a un único o a un reducido número de proveedores, la IA empresarial a menudo depende de un ecosistema interconectado que las organizaciones no poseen ni controlan. Cada capa adicional en el ecosistema de IA representa una dependencia y, por lo tanto, un posible punto de fallo.

Esto genera cuatro factores de riesgo que deben vigilar los líderes:

Soberanía de los datos: los datos de la empresa pueden procesarse bajo jurisdicciones legales que la organización no controla, con visibilidad limitada sobre quién puede acceder a ellos o si alimentan futuros entrenamientos de modelos.

Soberanía de los modelos: las organizaciones suelen tener poco o ningún control sobre la disponibilidad del modelo, capacidades y cambios, o decisiones de acceso, dejándolas expuestas si un proveedor decide restringir el acceso o retirar capacidades.

Dependencia de la infraestructura: gran parte del ecosistema de IA empresarial actual depende de un puñado reducido de proveedores de nube que operan bajo jurisdicciones nacionales específicas.

Riesgos de la cadena de suministro de IA: un sistema interconectado de modelos base, plataformas en la nube y proveedores de software significa que la interrupción en una capa puede propagarse rápidamente a toda la pila tecnológica.

Estos factores dependen cada vez más de la geopolítica más que de la tecnología.

La gobernanza de IA es un tema de junta directiva

La realidad es que un contrato con un proveedor por sí solo no puede garantizar un acceso ininterrumpido a las herramientas y plataformas en las que una empresa ha invertido. Pero los marcos de gobernanza no han evolucionado lo suficiente para abordar este tema. Solo marcos emergentes como NIS2 y DORA reconocen que la resiliencia debe ir más allá de defenderse de amenazas de ciberseguridad.

La mejor práctica para una organización al abordar contratos con proveedores y marcos de gobernanza es entender dónde se encuentran las dependencias entre proveedores y desarrollar planes de contingencia que les permitan operar con normalidad durante épocas de interrupción.

Ya sea la dependencia dentro de una plataforma de IA, una solución de ITSM, un CRM u otra tecnología crítica para el negocio, las organizaciones deben evaluar cómo continuarían operando si el acceso cambiara de la noche a la mañana. La IA debe ser sometida al mismo escrutinio que cualquier otro proveedor externo crítico.

Comenzar marcos de resiliencia antes de la próxima interrupción

Además de ello, los consejos deberían ser precavidos respecto a aceptar las afirmaciones de capacidad de IA sin más. Las organizaciones deben exigir evidencia de que las afirmaciones de los proveedores entregan resultados medibles.

Si bien la IA puede identificar rápidamente una cantidad abrumadora de vulnerabilidades potenciales, el simple descubrimiento no mejora la resiliencia. La experiencia humana sigue siendo esencial para validar hallazgos, priorizar soluciones según el impacto inmediato en el negocio y asegurar que los recursos se enfoquen donde existe verdadero riesgo.

La lección más importante de las interrupciones recientes de IA es cuántas organizaciones han subestimado su dependencia de tecnologías que no controlan con certeza. Y con el renovado debate de los legisladores estadounidenses sobre un posible “kill switch” para IA, esto debe estar en la cima de la agenda.

Los líderes empresariales deben reconocer que, a pesar de toda la oportunidad que desbloquea la IA, el riesgo de dependencia de proveedores está a la par. Si yo fuera jefe de tecnología de una gran empresa hoy, me aseguraré de que los equipos de toda la tecnología y seguridad entiendan de dónde provienen las capacidades críticas de IA, las dependencias existentes a lo largo de la cadena de suministro y cómo operarán si el acceso cambiara de la noche a la mañana.

En última instancia, el futuro del uso exitoso de la IA empresarial se determinará por cuántas organizaciones incorporan estrategias de gobernanza y resiliencia en sus planes de negocio para que, frente a interrupciones comerciales, políticas u operativas, las operaciones puedan continuar de forma segura como de costumbre.

Las mejores plataformas de respaldo en la nube.

Este artículo se produce como parte de TechRadar Pro Perspectives, nuestro canal para presentar a las mentes más brillantes de la industria tecnológica actual.

Las opiniones expresadas aquí son las del autor y no necesariamente las de TechRadarPro o Future plc. Si está interesado en contribuir, descubra más aquí: https://www.techradar.com/pro/perspectives-how-to-submit

from Latest from TechRadar https://ift.tt/mq2SQWf
via IFTTT IA