Es una historia que se repite a lo largo del tiempo: sintonizas un programa de gran presupuesto sobre dragones y tiranos y de pronto tu trabajo en tecnología adquiere un nuevo sentido. Si has visto la nueva temporada de House of the Dragon, conoces el término “protector del reino”. Son reyes, reinas o gobernadores de confianza: los encargados de la seguridad del reino, de hacer que las leyes se cumplan y de que el complejo mecanismo del estado funcione. En la saga de Juego de Tronos, el protector del reino Ned Stark acabó decapitado y todo se vino abajo. Yo diría que esto es una lección de estrategia para IA.

En mi empresa, Aiimi, usamos este mismo término —“protector(es) del reino”— para referirnos al papel de IT, Legal y Compliance en la operativización de proyectos de IA. Pero con demasiada frecuencia, las empresas tratan a estas funciones de gobernanza como fricción.

Aunque no haya dragones que derrotar, estos departamentos existen para proteger tu información y tus sistemas —y, sobre todo, para mantener a la empresa fuera de peligro.

Guardians o gatekeepers? A pesar de su labor de proteger a la organización de multas considerables y filtraciones de datos, observo un notable discurso corporativo que les presenta como simple cuello de botella, con largas consultas, reservas y debida diligencia. La crítica dice que ralentizan los proyectos. La realidad es que son la diferencia entre una estrategia de fantasía y una que funciona.

Ignorar su asesoría debilita toda la estructura. Legal garantiza que las herramientas de IA cumplen normas como GDPR y la nueva Data (Use and Access) Act 2025, asegurando que los sistemas solo acceden a los datos para los que están autorizados. Compliance mantiene la supervisión una vez que los sistemas están en producción, asegurando de forma proactiva que se respeten las reglas y que no se pierdan estándares.

IT realiza el trabajo esencial para que estos proyectos funcionen dentro de los flujos y contextos de la organización. Mantienen la infraestructura sobre la que opera la IA, garantizando que los proyectos corran sobre datos bien gobernados y estructurados, con documentos protegidos por permisos y controles de acceso. Sin este antecedente, existe poca esperanza de operacionalizar con éxito un proyecto de IA y obtener valor.

Pero estos departamentos van más allá de facilitar proyectos: son quienes conocen los riesgos que puede traer la IA y qué información no debe estar al alcance. Un ejemplo reciente que ilustra la importancia de la gobernanza es el incidente de Hugging Face en julio. Los titulares sugieren que los modelos de OpenAI “se volvieron locos” y atacaron a Hugging Face por una decisión autónoma. En realidad, ocurrió lo contrario: se realizaron pruebas de seguridad con dos agentes de IA donde se desactivaron salvaguardas. El sandbox, destinado a estar offline, tenía una configuración que permitía una conexión saliente. Los modelos escaparon y atacaron a Hugging Face —no por malicia, sino para burlar la prueba de seguridad por la ruta más laxa.

Esta fue una falla de gobernanza. Los sistemas de IA no pueden comprender los riesgos reputacionales o financieros de sus acciones; hacen lo que se les entrena para hacer y, si hay un atajo para aprovechar, no se detienen a verificar si deben explotarlo.

Cuando las decisiones empresariales críticas están en juego, apresurar un proyecto sin la debida revisión deja la organización vulnerable a filtraciones por debida seguridad deficiente o a multas por incumplimiento. Contar con alguien a bordo cuyo trabajo es recordar limitaciones y consideraciones no solo protege a la organización, sino que hace que cualquier proyecto de IA sea más resistente y genere mejores resultados.

A medida que la regulación de IA se endurece y la seguridad de datos escala en la agenda, es más importante que nunca contar con estos protectores y que estén integrados en el diseño y despliegue desde el inicio.

Protegiendo el reino en la práctica. A veces existe un escepticismo saludable hacia estos departamentos, por lo que es clave invertir en programas de alfabetización interna para explicar claramente los enormes beneficios de las herramientas de IA cuando se adoptan de forma segura y alineada con los principios de gobernanza de la empresa.

Los empleados deben salir entendiendo conceptos como alucinaciones, entrenamiento e recuperación de información, y cómo la IA puede integrarse en su trabajo diario. Una vez que estos protectores estén al tanto de la terminología, deben ser parte del proceso de diseño de los nuevos proyectos de IA para aprovechar su conocimiento especializado.

Compliance puede identificar un reto específico: los equipos de gobernanza tienen dificultades para mantener la calidad de los datos y las normas de clasificación a lo largo de sistemas crecientes. Este es un trabajo crucial que protege al negocio de exceder datos críticos o sensibles y da impulso a proyectos de datos en toda la organización. Reconocen que una IA segura puede escalar. Ahora, juntos, pueden desarrollar casos de uso cuidadosamente planificados que beneficien a varias áreas: se necesita una solución impulsada por IA que orqueste la gobernanza de datos a gran escala mediante clasificación automática de datos.

IT puede ayudar a planificar cómo la gobernanza de datos alimentada por IA encajará en los flujos y la infraestructura existentes, con equipos de datos, cumplimiento y legal trabajando juntos para entender las reglas y darle a la IA todo lo necesario para comprender las regulaciones comerciales y obligaciones contractuales.

Los protectores del reino deberían formar parte también de cualquier despliegue en curso. IT verifica de forma rutinaria las salidas de los sistemas impulsados por IA, legal se mantiene al día de cualquier nueva legislación relevante y compliance mantiene una supervisión humana continua para asegurar el cumplimiento activo.

La IA tiene un potencial increíble, pero su implementación segura es imposible si no se entienden las reglas. Puede que no haya dragones ni castillos, pero las empresas posicionadas para lograr éxito sostenible a partir de proyectos de IA no son las que van más rápido, sino las que invitan a sus protectores del reino a la mesa de toma de decisiones.

from Latest from TechRadar https://ift.tt/X4j2wC0
via IFTTT IA