El cumplimiento de alto riesgo de la IA bajo la normativa de la UE podría haber visto postergarse la fecha límite. Y para los equipos de cumplimiento exhaustos, eso puede suponer un alivio bienvenido. Pero las organizaciones que prosperarán en la era de la IA serán aquellas que entiendan que una fecha límite arbitraria nunca fue el punto clave.

La carrera por desplegar IA ya está en marcha.

Modelos como Claude Mythos y GPT-5.5 de OpenAI, apodado “Spud”, representan avances extraordinarios en capacidad. En las manos adecuadas, aceleran decisiones, descubren insights y generan una verdadera ventaja competitiva. En las manos equivocadas, o sin la supervisión adecuada de los datos que los alimentan, las consecuencias pueden ser catastróficas.

Como descubrió Pocket OS recientemente cuando un agente de IA borró por completo la base de datos de la empresa en nueve segundos.

Qué exige realmente la UE IA Act

Cuando se despoja el lenguaje regulatorio, lo que la UE IA Act realmente pide es trazabilidad demostrable. El artículo 10 establece que los sistemas de IA de alto riesgo, utilizados en puntuación crediticia, suscripción de seguros, decisiones de contratación y otras aplicaciones de alto impacto, deben basarse en datos de entrenamiento que sean trazables, bien gobernados y demostrablemente libres de sesgos.

Las organizaciones deben documentar el origen de los datos, cada transformación aplicada, las suposiciones hechas y cómo se identificaron y abordaron posibles sesgos.

Esto no es una simple verificación de casillas. Es una reorientación fundamental de cómo las organizaciones gestionan sus cadenas de datos. Y las sanciones por hacerlo mal son severas: hasta 35 millones de euros o el 7% de los ingresos globales anuales.

El problema subyacente es que la mayoría de la infraestructura de datos empresarial no fue diseñada con este nivel de trazabilidad en mente. GDPR estableció salvaguardias sobre almacenamiento y acceso a los datos, pero la IA Act eleva mucho la barra.

Ahora se debe trazar los datos desde su fuente original, a través de cada transformación, hasta su impacto final en los resultados del modelo. En notas informales, la validación de modelos de IA puede llevar entre nueve y 12 meses, y eso asumiendo que ya exista la infraestructura de linaje para empezar.

La imperativa de los servicios financieros

Nada es más decisivo que en los servicios financieros. Los modelos de puntuación crediticia entrenados con datos históricos pueden codificar sesgos del pasado, automatizando la discriminación financiera a gran escala, a menudo sin que nadie en la organización se dé cuenta de que está ocurriendo. Un banco que no puede rastrear cómo un conjunto de datos de entrenamiento dio forma a las salidas de un modelo no solo enfrenta riesgos regulatorios. Está potencialmente perpetuando un daño sistémico.

La ironía es que el sector ya ha pasado por esto antes. BCBS 239 exige a las instituciones financieras demostrar exactitud de datos, integridad y la capacidad de agregar datos de riesgo bajo demanda. La IA Act no es una nueva categoría de desafío; es una intensificación de una que ya se abordaba con una delineación rigurosa de datos.

La trazabilidad de datos como infraestructura, no como sobrecarga de cumplimiento

Las organizaciones mejor posicionadas para este momento son aquellas que han dejado de ver la trazabilidad de datos como un costo de cumplimiento y han empezado a tratarla como infraestructura central. Hay una distinción crucial entre estas dos perspectivas.

El enfoque debe ser un modelo de gobernanza que detecte problemas durante el diseño, antes de que un modelo llegue a producción, en lugar de responder a incidentes. La trazabilidad hace práctico este tipo de gobernanza proactiva a escala empresarial.

La trazabilidad bi-temporal permite a los equipos recrear el estado exacto de los datos utilizado para el entrenamiento del modelo en cualquier momento, lo cual es esencial para auditorías. Más importante aún, permite simular el impacto downstream de un cambio de datos o de esquema antes de que ocurra, evitando la degradación silenciosa del modelo que puede socavar el ROI.

La ventana es más corta de lo que parece

La extensión de la fecha límite ofrece tiempo, pero no tanto como podría parecer. Los reguladores de EE. UU. ya están integrando la IA en exámenes de supervisión. Gartner predice que para 2028, el 50% de las organizaciones adoptarán una gobernanza de datos de confianza cero a medida que el contenido generado por IA prolifera a través de las cadenas de suministro de datos empresariales. La dirección regulatoria es clara y constante.

Hacer bien la gobernanza de IA requiere construir primero la capa de trazabilidad. No es un proyecto que se complete en semanas. Y las organizaciones que empiecen a construir ahora, no porque una fecha límite lo obligue, sino porque entienden lo que está en juego, serán las que desplieguen IA a gran escala con confianza, auditabilidad y verdadero consenso.

La UE IA Act acaba de obtener una prórroga de ejecución, pero las organizaciones que lo tratan como un margen de maniobra pueden estar caminando dormidas hacia un problema muchísimo mayor.

Este artículo forma parte de TechRadar Pro Perspectives, nuestro canal para presentar a las mentes más brillantes de la industria tecnológica actual.

Las opiniones expresadas aquí corresponden a su autor y no necesariamente a TechRadar Pro o Future plc. Si está interesado en contribuir, averigüe más aquí: https://www.techradar.com/pro/perspectives-how-to-submit

from Latest from TechRadar https://ift.tt/QdsUAuK
via IFTTT IA