La inteligencia artificial (IA) se está integrando rápidamente en el entorno laboral moderno, y cada vez más empleados recurren a herramientas de IA para trabajar con mayor eficiencia y aumentar la productividad. Este aumento de la demanda impulsa la aparición de la IA en la sombra, el uso de herramientas de IA fuera de los controles y marcos de gobernanza aprobados, lo que provoca que las organizaciones pierdan visibilidad sobre el uso de datos y los posibles riesgos.

La magnitud de este desafío es considerable. Aunque el 90% de los ejecutivos confía en la visibilidad que tiene su organización de las herramientas de IA, solo el 52% de los empleados admite usar herramientas de IA sin aprobación, a menudo a través de cuentas personales.

Como resultado, las organizaciones se encuentran ante una brecha creciente entre la adopción de IA y su gobernanza.

La próxima frontera del riesgo de IA

Cuando la IA se utiliza sin supervisión formal, puede eludir los controles de gobernanza, aumentando el riesgo de errores, infracciones regulatorias y filtración de datos sensibles. Las organizaciones quedan más expuestas cuando la IA ya influye en actividades clave del negocio, desde la atención al cliente y la toma de decisiones operativas hasta el desarrollo de software y la creación de contenidos.

El desafío se intensificará a medida que las empresas avancen desde modelos de lenguaje grande que generan información hacia modelos de acción grandes y sistemas agentivos que pueden tomar acciones. Estos sistemas pueden diagnosticar problemas, recomendar acciones y ejecutar flujos de trabajo con mínima intervención humana, lo que aumenta tanto la velocidad como la escala en que pueden ocurrir errores.

Un agente en sombra que opere fuera de los marcos de gobernanza aprobados podría desencadenar acciones perjudiciales antes de que las organizaciones tengan la visibilidad y las capacidades de gobernanza necesarias para intervenir.

También existe un riesgo a más largo plazo de que los futuros sistemas de IA se entrenen con datos sintéticos o de baja calidad, lo que debilita el rendimiento y la toma de decisiones con el tiempo. La transparencia y la trazabilidad serán críticas para mantener la responsabilidad, proteger los estándares éticos y preservar la efectividad de los sistemas de IA a medida que la adopción continúa acelerándose.

La gobernanza de la IA como habilitadora

Lo que funciona es una gobernanza de IA que permita la innovación mientras establece salvaguardas claras integradas, transparentes, auditable y alineadas con marcos de riesgo y cumplimiento existentes. Si la IA debe usarse de forma segura, las empresas deben poder identificar con precisión qué salió mal y por qué cuando surjan problemas.

En la práctica, una gobernanza madura comienza con un conjunto de herramientas de IA aprobadas que ofrezcan opciones seguras y confiables para casos de uso comunes. Esto debe estar respaldado por políticas basadas en el riesgo que aclaren los datos que se manejan, qué se puede y no se puede compartir, qué herramientas están permitidas y dónde se requiere la aprobación humana.

Las tareas de bajo riesgo, como redactar o resumir contenidos, no deben regirse de la misma manera que los usos de alto riesgo que involucran datos de clientes, información regulada o decisiones críticas para el negocio.

La capacitación es igualmente importante. El desafío, más allá de aplicar controles, consiste en ayudar a los empleados a entender por qué existen esos controles y cómo usar la IA de forma responsable. A medida que los agentes diagnostican problemas, recomiendan acciones y ejecutan flujos de trabajo con mínima intervención, los procesos de supervisión y aprobación humana deben escalar junto a ellos.

La interoperabilidad será crucial para hacer que esto funcione a gran escala, permitiendo a las organizaciones operar entre jurisdicciones y con múltiples modelos de IA sin reconstruir repetidamente los procesos y sistemas de gobernanza desde cero.

Hacer que la adopción responsable sea la opción más fácil

Para los responsables de seguridad y cumplimiento, el objetivo debe ser convertir la adopción responsable de IA en el camino de menor resistencia. Los empleados recurren a la IA en la sombra cuando las herramientas aprobadas no están disponibles, son difíciles de acceder o no satisfacen sus necesidades. Las empresas que se concentran únicamente en restringir el uso corren el riesgo de empujar la actividad aún más al margen y perder las ganancias de eficiencia e innovación que la IA puede aportar.

Las organizaciones que logren equilibrar la productividad de la IA y el control de sus sistemas reconocerán que el uso de IA en la sombra suele ser un síntoma de demanda no satisfecha. Los empleados suelen optar por herramientas no autorizadas porque son más fáciles de acceder, más rápidas de usar o mejor adaptadas a la tarea. En lugar de centrarse solo en las restricciones, los líderes deben entender dónde se está usando la IA en toda la empresa y asegurar alternativas aprobadas para los casos de uso más comunes.

Con tres cuartos de los profesionales de oficina indicando que serían propensos a buscar un nuevo empleo si les ofrecieran mejor desarrollo de habilidades en IA, las empresas que combinen gobernanza con oportunidades para desarrollar habilidades en IA es probable que vean una adopción más fuerte de las herramientas aprobadas y, como resultado, una menor dependencia de la IA en la sombra.

Construir una cultura habilitada para la IA implica dar a los empleados las herramientas, el conocimiento y la confianza para innovar dentro de límites claros. Al hacerlo, se puede reducir la IA en la sombra sin sacrificar la velocidad y la agilidad que esperan los trabajadores.

Las organizaciones mejor posicionadas para tener éxito

Las empresas que logren el equilibrio correcto para el éxito de la IA serán aquellas que vean la gobernanza como una base para la adopción de IA y no como un obstáculo. Al hacer que el camino seguro y aprobado sea el más fácil, se reducirá el riesgo de IA en la sombra sin sacrificar la productividad.

Integrar una gobernanza sólida, respaldada por bases de datos confiables y bien gestionadas, evita errores costosos y permite desplegar y escalar la IA con mayor seguridad y confianza.

Hemos revisado, evaluado y clasificado el mejor software para pequeñas empresas.

Este artículo se produjo como parte de TechRadar Pro Perspectives, nuestro canal para presentar a las mentes más brillantes de la industria tecnológica hoy.

Las opiniones expresadas aquí son de la autora y no necesariamente corresponden a las de TechRadarPro o Future plc. Si está interesado en contribuir, descubra más aquí: https://www.techradar.com/pro/perspectives-how-to-submit

from Latest from TechRadar https://ift.tt/RwoCM8d
via IFTTT IA