• Estudio revela que 25% de los líderes empresariales struggle to explicar salidas generadas por IA a los interesados
• Las pymes confían en IA para tareas financieras complejas, incluyendo auditorías y cumplimiento
• Clientes e inversores evitan cada vez más a empresas que usan IA no verificada

Los líderes empresariales se encuentran frente a un reto cuando la IA genera resultados cuyas bases no quedan claras; una cuarta parte de los consultados no puede explicarlos, 12% con mucho dificultad y solo 22% lo hace sin problema.

Además, la encuesta de Startup.co.uk parece revelar una cultura de “deja que la IA se encargue” sin considerar las consecuencias.

El estudio también señala preocupaciones sobre GDPR y hasta qué punto las pymes confían en la IA para tareas financieras sensibles, como auditorías, gastos y automatización de cuentas por pagar.

¿Dejarías que tu IA haga esto?

Con las responsabilidades de GDPR flotando sobre startups y SMBs dinámicas, un uso excesivo de soluciones de IA podría ser devastador si se detecta un uso indebido de datos de clientes. Las preocupaciones sobre la veracidad de la IA también podrían afectar a empresas que no verifiquen el trabajo generado por IA.

Si bien puede sorprender la incapacidad de los líderes para explicar el trabajo generado por IA, la profundidad de uso de IA en tareas financieras es motivo de preocupación. El informe muestra que el 85% de las pequeñas empresas utiliza IA para completar tareas financieras con cierto nivel de sensibilidad.

Entre las cifras destacan: 37% utiliza IA para automatizar procesos de cuentas por pagar, 32% para gestión de auditoría y cumplimiento, y 31% para gestionar gastos y gastos. Aunque la IA muestra adecuación para detección de fraude (26%) y obtención de insights de rendimiento (27%) al poder analizar datos en conjunto, la incapacidad de los líderes para responder preguntas sobre IA es motivo de preocupación.

Confianza ciega en la IA

Lo que parecen indicar estas cifras es una dependencia excesiva de la IA.

Zohra Huda, editora de Startups.co.uk, comentó que los datos muestran “el curioso hito corporativo que hemos alcanzado en 2026. Los fundadores permiten que la IA gestione la detección de fraude y la contabilidad, pero cuando un interesado pregunta cómo se calcularon los números, una cuarta parte no puede responder”.

La solución podría requerir algo de ensayo, pero no cambia la forma en que los datos son utilizados por la IA ni sus implicaciones, incluidas posibles violaciones del Artículo 15 del UK GDPR (sobre cómo se procesan los datos).

“Confiar ciegamente en una caja negra tecnológica para datos financieros sensibles es un gran riesgo legal y de cumplimiento”, añadió Huda. La conclusión para los líderes empresariales: si no puedes explicar la lógica de tu IA a un inversor o cliente, podrías estar arriesgando una multa GDPR muy costosa.

Con la ICO capaz de imponer multas de hasta £17,5 millones o el 4% de la facturación global por violaciones verificadas de GDPR, queda claro que las startups que dependen mucho de la IA deben elevar su nivel de manejo y verificación.