IA y responsabilidad pública: el régimen diferenciado que plantea España


La aplicación de la regulación europea de inteligencia artificial abre un debate especialmente relevante para las administraciones públicas: ¿deben afrontar las mismas sanciones que las empresas privadas cuando incumplen las normas?

Mientras el Reglamento europeo de IA contempla multas de gran cuantía para las compañías que infrinjan sus obligaciones, el Gobierno español propone un régimen diferenciado para las administraciones que vulneren la normativa. La iniciativa introduce una cuestión de fondo: cómo exigir responsabilidades al sector público sin trasladarle automáticamente un modelo sancionador concebido, en gran medida, para operadores privados.

## Un marco común con responsabilidades distintas

El Reglamento de IA establece obligaciones según el tipo de sistema y el nivel de riesgo. Entre otras medidas, restringe determinados usos, exige controles reforzados para los sistemas de alto riesgo y fija sanciones que pueden alcanzar importes muy elevados para las empresas.

La propuesta de un tratamiento específico para las administraciones no supone, por sí sola, que estas queden al margen de la regulación. La cuestión es cómo se harían efectivas las consecuencias de un incumplimiento cuando el responsable es un organismo público, y qué mecanismos podrían sustituir o complementar las multas económicas.

## El argumento a favor de la diferenciación

Quienes defienden un régimen distinto señalan que una multa a una administración puede terminar repercutiendo en el presupuesto público y, por tanto, en los servicios que reciben los ciudadanos. Desde esta perspectiva, las sanciones deberían orientarse a corregir la actuación, prevenir nuevas infracciones y exigir responsabilidades dentro de la organización.

Entre las posibles herramientas se encuentran la supervisión administrativa, la obligación de revisar o retirar sistemas, la adopción de medidas correctivas y la exigencia de responsabilidades conforme a los mecanismos aplicables a los empleados y cargos públicos. La eficacia de cualquier alternativa dependerá de que sea concreta, verificable y suficientemente disuasoria.

## El riesgo de una rendición de cuentas más débil

Un régimen diferenciado también plantea interrogantes. Si las consecuencias para el sector público resultan menos claras o menos exigentes, podría generarse una asimetría frente a las empresas privadas. Además, los ciudadanos necesitan saber qué vías tienen para reclamar cuando un sistema de IA influye en decisiones que afectan a sus derechos o al acceso a servicios públicos.

Por ello, la distinción entre tipos de responsables no debería traducirse en una menor protección. Será importante precisar qué autoridades investigarán los incumplimientos, qué medidas podrán imponer, cómo se publicarán las decisiones y qué recursos estarán disponibles para las personas afectadas.

## La importancia de las garantías prácticas

Más allá del régimen sancionador, las administraciones necesitarán procedimientos sólidos para identificar los sistemas de IA que utilizan, evaluar sus riesgos y documentar las decisiones relacionadas con ellos. También será esencial determinar quién supervisa cada sistema y cómo se interviene cuando su funcionamiento produce errores o resultados perjudiciales.

La contratación pública merece especial atención. Aunque un sistema haya sido desarrollado por un proveedor privado, su uso por una administración puede generar obligaciones propias para el organismo público. Los contratos, los controles de calidad y las condiciones de acceso a la información técnica pueden influir directamente en la capacidad de cumplir la normativa.

## Un equilibrio que deberá ser transparente

La propuesta española busca responder a una diferencia real entre la naturaleza de una empresa y la de una administración. Pero el éxito de un régimen especial dependerá de que mantenga un principio esencial: las obligaciones de la regulación europea deben ser efectivas también en el sector público.

El reto consiste en diseñar consecuencias que corrijan los incumplimientos sin perjudicar injustificadamente a la ciudadanía y que, al mismo tiempo, aseguren transparencia, supervisión y responsabilidad. En un ámbito que afecta cada vez más a decisiones públicas, la confianza no dependerá solo de cómo se use la inteligencia artificial, sino también de cómo se responde cuando las reglas no se cumplen.
from Wired en Español https://ift.tt/KgtksAc
via IFTTT IA