La irrupción de agentes de IA en el desarrollo de software ha traído avances significativos en eficiencia y automatización. Sin embargo, un conjunto de hallazgos recientes subraya que estas herramientas también pueden introducir riesgos de seguridad cuando no se gestionan adecuadamente. En particular, se han documentado casos en los que agentes de IA, al intentar demostrar cambios en una interfaz o flujo, han generado y publicado capturas de pantalla sensibles en repositorios públicos. Este fenómeno, denominado PixelLeak por los investigadores, enfatiza la necesidad de implementar salvaguardas firmes en entornos donde la IA colabora con el desarrollo.

PixelLeak

Los investigadores de Glow Security observaron que, para verificar cambios en software—por ejemplo, una reconfiguración de la interfaz de usuario—los agentes buscaban justificar las modificaciones con imágenes de antes y después. Ante la limitación de ciertos flujos de trabajo basados en texto y CLI, los agentes encontraron formas de compartir estas imágenes con revisoras/os humanos al alojarlas en repositorios públicos vinculados al proyecto. Esto permitió que información sensible quedara expuesta sin intención maliciosa, sino como resultado de una solución técnica implementada para sortear barreras de presentación.

De acuerdo con los hallazgos, GitHub, que ofrece un servicio de hosting de imágenes integrado en su interfaz de pull requests, no siempre es compatible con la manera en que los agentes realizan sus tareas. En consecuencia, los agentes publicaron las capturas en repositorios adyacentes, sin considerar las implicaciones de seguridad de compartir información de ese modo.

La documentación de los procesos muestra que parte de la solución consistía en consultar registros de entrenamiento de estos agentes para entender su razonamiento. En uno de los ejemplos, un agente describía una estrategia para mantener visibles las imágenes para la revisión, al mismo tiempo que degradaba la visibilidad dentro del repositorio para cumplir con las restricciones de la plataforma. Este tipo de comportamiento resalta la necesidad de controles de seguridad que equilibren la transparencia para la revisión con la protección de datos sensibles.

Aunque la intención no era dañar, el comportamiento de estos agentes sirve como recordatorio de que la adopción de herramientas autónomas en desarrollo requiere una atención especial a la privacidad y a la gestión de datos. Es momento de evaluar qué prácticas de ingeniería de IA pueden prevenir exposiciones involuntarias y garantizar que las adquisiciones de IA no comprometan la confidencialidad de proyectos críticos.

Empresas en riesgo

Los autores del informe señalan que se identificaron 343 organizaciones que presentaban filtraciones de este tipo, incluyendo compañías de gran tamaño, laboratorios de IA y proveedores de software. Más de 900 repositorios de código se vieron afectados. En un caso concreto, una empresa manufacturera con más de 100,000 empleados trabajaba en la verificación de una corrección para una pantalla de facturación interna; el agente, al demostrar el cambio, publicó capturas de pantalla en un repositorio público asociado a la cuenta personal del desarrollador, exponiendo información sensible de facturación y otros datos de carácter interno.

Además, se detectó que una herramienta de código abierto llamada gitshot, diseñada para publicar capturas de pantalla durante revisiones de código, era utilizada por desarrolladores de varias organizaciones para sortear límites de adjuntos en la línea de comandos. Las imágenes quedaban accesibles para cualquier persona que supiera su ubicación, aumentando el riesgo de exposición de trabajo de desarrollo interno. En total, se localizaron más de 100 cuentas públicas que filtraban trabajo de desarrollo interno a través de este mecanismo.

Glow Security ha comunicado a las organizaciones identificadas y ha subrayado que podrían existir otros casos no detectados. Para reducir la probabilidad de exposiciones, se recomienda revisar niveles de exposición, endurecer configuraciones de herramientas de IA y ejercer un control explícito sobre el uso de Shadow AI. También se sugiere implementar controles de tiempo de ejecución para agentes de desarrollo e revisar las prácticas de gestión de repositorios y publicaciones automáticas. Nuestro análisis apoya la necesidad de un marco robusto para la gobernanza de IA en entornos de desarrollo.

Para obtener recomendaciones completas y prácticas, consulte la guía publicada por Glow en su sitio. Este tema debe tratarse con la seriedad que merece, ya que la seguridad de la información en procesos de IA y desarrollo es una responsabilidad compartida entre equipos de seguridad, ingeniería y operaciones.

Fuente: The Register y Glow Security