Meta ha decidido pausar su programa interno destinado a mejorar los modelos de inteligencia artificial tras una alerta interna sobre la exposición de datos sensibles provenientes del seguimiento de movimientos del ratón y de la actividad digital de los empleados. El programa, conocido como Model Capability Initiative (MCI), habría iniciado en abril con el objetivo de entrenar los modelos de IA de Meta mediante la grabación del comportamiento de los empleados. Según un memorando de lanzamiento, la finalidad era mejorar áreas donde la IA tenía dificultades para replicar la interacción humana con las interfaces, como la selección en menús desplegables o el uso de diferentes atajos de teclado.

Se ha reportado que este programa recopilaba datos que podrían incluir prompts completos, transcripciones y conversaciones privadas, así como información de desempeño y, presuntamente, datos fiscales y médicos, y que parte de estos datos se almacenaba sin cifrado. Un empleado afirmó haber accedido a información personal, como impuestos y datos médicos, a través de su ordenador de trabajo, y que otros empleados habrían hecho lo mismo. Aunque la empresa ha defendido que no hay indicios de acceso indebido a datos por parte de empleados de Meta, ha decidido detener el programa temporalmente para investigar las alegaciones.

La portavoz de Meta, Tracy Clayton, señaló que se diseñó el programa con salvaguardas de privacidad y que, si bien no hay indicios de acceso indebido, se pausarían las operaciones mientras se realiza la investigación. No se ha fijado una duración para la pausa, y la empresa advirtió que resultará complejo interrumpir la ejecución para todos los usuarios de forma inmediata, por lo que algunas personas podrían seguir viendo el programa activo por un tiempo.

A fecha de hoy, Reuters confirmó que, en algunas ocasiones, el programa seguía funcionando para ciertos empleados. Este episodio eleva preguntas sobre la gestión de datos internos y la necesidad de controles más estrictos cuando se utilizan datos de empleados para entrenar sistemas de IA. En el largo plazo, la noticia subraya la importancia de salvaguardas robustas y transparencia en iniciativas que integran datos sensibles del personal para el desarrollo de tecnologías avanzadas.

from Latest from TechRadar https://ift.tt/bXGjSdv
via IFTTT IA