La Eurocámara está avanzando hacia la adopción de una plataforma de IA oficialmente autorizada para uso legislativo, con el objetivo de ofrecer a eurodiputados y personal un entorno más seguro frente a las herramientas de IA disponibles públicamente. Esta iniciativa surge ante la creciente presencia de herramientas de IA en el día a día del Parlamento y las preocupaciones asociadas a la precisión y a la posible generación de contenidos erróneos o “alucinaciones” por parte de modelos no verificados.

La plataforma, denominada EPGenAI Hub, integrará modelos de IA de distintos proveedores, incluyendo Meta, OpenAI, Anthropic y Mistral, todos orientados a fines legislativos. Un número significativo de personal del Parlamento —aproximadamente el 20%, es decir, cerca de 2.100 personas— ya utiliza herramientas de IA en su trabajo, lo que ha contribuido a la aparición de errores en materiales legislativos y a la necesidad de controles más estrictos para evitar la propagación de información errónea.

La iniciativa responde a la necesidad de garantizar que la IA utilizada en procesos legislativos no comparta información sensible ni genere resultados que comprometan la calidad de los textos legales. Un portavoz destacado de la Eurocámara ha subrayado que “la Slop de IA y el contenido engañoso generado por IA” no han estado exentos de la actividad parlamentaria, y que los dedos de los usuarios deben servir como guía para demostrar un uso responsable de la tecnología conforme a las reglas de transparencia del AI Act.

Actualmente, no existen regulaciones que obliguen a los eurodiputados a indicar si un documento ha sido redactado o enmendado con herramientas de IA. Sin embargo, se considera esencial que haya divulgación cuando se utiliza IA y que no se introduzca información sensible en herramientas de IA públicas. En contraste, se han establecido directrices para el personal parlamentario, con informaciones reportadas por Politico que señalan la necesidad de incluir un descargo de “IA asistida” cuando el material haya sido modificado o producido con IA, y de evitar alimentar datos confidenciales en estas herramientas.

Los eurodiputados y el personal han recibido demostraciones de la nueva EPGenAI Hub. La plataforma opera sobre la infraestructura del propio Parlamento y, en su caso, sobre alojamientos externos, para facilitar el uso seguro de una diversa gama de modelos de IA, tales como Llama de Meta, GPT-OSS de OpenAI, Mistral Small, ChatGPT de OpenAI y Claude Sonnet de Anthropic.

Con este paso, la Unión Europea busca dotar a su proceso legislativo de una solución tecnológica que combine la potencia de la IA con salvaguardas adecuadas, reduciendo riesgos de sesgos, errores y filtraciones de información sensible, al tiempo que mantiene la transparencia y la responsabilidad en la redacción y revisión de textos legales.

from Latest from TechRadar https://ift.tt/yZpKW2g
via IFTTT IA