Frente a la presión que afrontan los médicos del NHS, no sorprende que muchos trusts recurran a la inteligencia artificial para obtener apoyo. En conjunto, esto puede ser beneficioso, ya que las herramientas de IA pueden ayudar a gestionar flujos de trabajo, automatizar la documentación, coordinar rotas de atención y optimizar las comunicaciones.

No obstante, la velocidad del desarrollo de la IA, y de la IA generativa en particular, ha acelerado a un ritmo que las estructuras de gobernanza no siempre acompañan. Como resultado, algunas prácticas no autorizadas por la organización han comenzado a utilizar herramientas que no cuentan con aprobación formal. Esto genera problemas en todos los niveles, especialmente cuando estas herramientas respaldan la toma de decisiones clínicas.

La IA en la sombra

El término “IA en la sombra” describe el uso no autorizado de IA dentro de las organizaciones. Aunque este fenómeno existe en todas las industrias, ha crecido con especial intensidad en el ámbito sanitario. Recientes encuestas en Estados Unidos señalan que un porcentaje significativo de profesionales de la salud admite utilizar herramientas de IA no autorizadas en el lugar de trabajo, y que casi dos de cada cinco personal sanitario de primera línea emplea herramientas genéricas gratuitas semanalmente o con mayor frecuencia. Estas prácticas no son experimentos aislados; la IA está ya integrada en las operaciones diarias, a menudo sin gobernanza ni supervisión formales, a pesar de riesgos bien documentados como alucinaciones, inconsistencias y sesgos.

Las razones son comprensibles: los profesionales de la salud enfrentan escasez de personal, demanda creciente de pacientes y una carga administrativa abrumadora. Se espera que los clínicos documenten más, comuniquen más rápido y procesen volúmenes crecientes de información, todo ello manteniendo altos estándares de atención. No sorprende que recurran a la herramienta de IA más cercana, especialmente si es accesible, gratuita o de bajo costo y fácil de usar. El uso de IA en la sombra abarca desde clínicos de primera línea hasta funciones administrativas como la redacción de informes y el apoyo en reclutamiento.

La mayoría de los profesionales de la salud que utilizan herramientas “en sombra” no infringen deliberadamente las normas; simplemente buscan ayuda cuando es necesaria. Y sus empleadores a menudo no les proporcionan una alternativa robusta.

Los líderes de atención sanitaria deben actuar con rapidez

Las organizaciones médicas, y el NHS en particular, han sido cautelosas a la hora de desplegar nuevas tecnologías, a menudo por motivos válidos. Los sistemas clínicos requieren pruebas extensivas, bases de evidencia sólidas y gobernanza rigurosa antes de su implementación, ya que las decisiones apoyadas por IA pueden tener consecuencias directas para los resultados de los pacientes. Por ello, cualquier herramienta de toma de decisiones clínicas debe someterse a pruebas exhaustivas y a revisión continua. Sin embargo, los retrasos permiten que la IA en la sombra llene ese vacío.

Las herramientas de IA adecuadas ya están disponibles en el mercado, pero surge la cuestión de cómo los líderes pueden contener el uso de la IA en la sombra. Es un problema que debe abordarse con rapidez debido a la magnitud de los riesgos.

Los riesgos son reales

Entre los riesgos del uso no autorizado de IA se encuentran violaciones de seguridad y de privacidad, además de la preocupación central: la atención al paciente. En lo relativo a seguridad de datos y privacidad, las soluciones de IA genérica son a menudo “cajas negras”. Si se pregunta a un modelo como ChatGPT si los datos de salud sensibles estarán seguros, la respuesta suele indicar que no cumple con las regulaciones de información de salud. Esto no es sorprendente: la información de pacientes se considera “datos de categoría especial” bajo el RGPD y frecuentemente requiere protección adicional, lo que ilustra el peligro de entregar información sensible a una aplicación no autorizada.

En lo que respecta a la atención al paciente, las soluciones de IA genérica utilizadas para apoyar la toma de decisiones clínicas conllevan un riesgo inherente: incluso cuando los resultados parecen creíbles, los errores pueden ser difíciles de detectar y evaluar. Pueden extraer información de fuentes amplias que pueden estar desactualizadas, no acreditadas o ser inexactas. Un clínico con prisas que apoya su decisión en una herramienta no autorizada asume un riesgo considerable. Si una herramienta no autorizada proporciona indicaciones incorrectas relacionadas con síntomas, medicamentos, diagnósticos o rutas de tratamiento, las consecuencias pueden ser graves.

Guía y liderazgo, no autoridad excesiva

La solución no es una prohibición radical, que probablemente empuje la IA en la sombra a continuar creciendo. El foco para los líderes de atención sanitaria debe ser establecer directrices claras sobre el uso de la IA e invertir en educación y formación sobre sus riesgos y beneficios. Al mismo tiempo, las organizaciones deben proporcionar herramientas alternativas seguras, validadas clínicamente y fáciles de usar. Si los sistemas autorizados son lentos de desplegar o no satisfacen las necesidades operativas, los clínicos y administradores terminarán recurren a herramientas no autorizadas.

La gobernanza debe formar parte integral del proceso, incluyendo equipos de TI, especialistas en seguridad y gestión operativa, ya que el despliegue de IA afecta a la atención del paciente, el cumplimiento normativo, la eficiencia de la fuerza de trabajo y el riesgo organizacional.

La IA, sin duda, continuará siendo una parte cada vez más importante de la prestación moderna de la atención sanitaria. Las organizaciones que triunfen no serán necesariamente las que adopten la IA más rápido, sino las que creen marcos de confianza que permitan a los clínicos acceder a herramientas seguras, médicamente sólidas y debidamente gobernadas.

Este artículo forma parte de los contenidos de TechRadar Pro Perspectives, nuestra plataforma para presentar a las mejores mentes en la industria tecnológica actual.

from Latest from TechRadar https://ift.tt/R8mLgpV
via IFTTT IA