En el panorama actual de la información, las campañas de influencia emplean herramientas de inteligencia artificial para sembrar narrativas que resultan difíciles de discernir a simple vista. A continuación se presenta un análisis profesional sobre un caso reciente en el que OpenAI informó haber interrumpido una campaña de desinformación atribuida a origen ruso, con una arquitectura compleja que que podría pasar desapercibida ante audiencias poco sospechosas.

La campaña se sostuvo sobre una estructura de ‘think tank’ a la que se le atribuye credibilidad cuestionable. Su objetivo explícito fue influir en audiencias occidentales para promover la idea de que Rusia sería superior y que los países occidentales estarían sacrificando su soberanía. Este tipo de operación demuestra cómo las herramientas de IA pueden ser canalizadas para promover narrativas countersigéticas y desinformación con supuestos fundamentos académicos fabricados o mal atribuidos.

Una de las características más destacadas es la utilización de cuentas asociadas a ChatGPT para promover la trabajo de una supuesta comunidad de expertos denominada International Burke Institute (IBI). En el sitio de la IBI se engañaba al atribuir trabajos académicos a autores equivocados y así reforzar una apariencia de legitimidad, ocultando al mismo tiempo la fuente real de las contribuciones académicas.

La IBI se registró en una dirección en Israel y habría contado con la representación de personas reales en ese país, pero el propósito principal era presentar a Rusia de forma favorable frente a sus adversarios occidentales. En el análisis de OpenAI se subraya que los responsables de las cuentas de ChatGPT tomaron medidas deliberadas para ocultar sus orígenes rusos, incluyendo indicaciones para eliminar señales lingüísticas que delataran el uso del ruso.

Entre los indicios se señala la mención de la coalición alemana de gobierno como la “Svetofor coalition”, donde Svetofor significa semáforo en varios idiomas eslavos, lo que sugiere que algunos borradores pudieron haber sido redactados en lenguas eslavas antes de ser traducidos.

Las cuentas se emplearon para promover la IBI en diversas plataformas, como X (anteriormente Twitter), LinkedIn, Facebook, Substack y Telegram, utilizando imágenes y pies de foto generados por IA. Otras cuentas interactuaban de forma automática con comentarios de usuarios en Substack. Los operadores solicitaron resúmenes de rendimiento de estas páginas en ruso y se valieron de ChatGPT para generar imágenes de perfil adecuadas para algunas cuentas.

Un componente notable de la web de la IBI fue el llamado ‘Burke Sovereignty Index’, diseñado para medir el desempeño de un país frente a otros en factores políticos, económicos, tecnológicos, informativos, culturales, cognitivos y militares. OpenAI señala que el índice tenía como fin presentar a los países occidentales de manera peor que Rusia, aunque un análisis independiente revela inconsistencias y sesgos en la métrica, como la puntuación militar desproporcionadamente alta para Rusia y resultados extraños (p. ej., La Ciudad del Vaticano por encima de España en promedios).

La campaña también presentaba una lista de supuestos expertos, con afiliaciones a la IBI no referenciadas. Entre ellos se mencionan figuras reconocidas y también nombres de personas fallecidas, lo que genera dudas sobre la veracidad de las credenciales exhibidas. Aunque parte de la obra académica citada puede ser legítima, en muchos casos fue robada y mal atribuida para reforzar la credibilidad del sitio, lo que demuestra una tradicional estrategia de “engañar con la apariencia de autoridad”.

En cuanto al impacto, OpenAI indicó que el alcance fue limitado: algunos canales de Telegram lograron audiencias entre diez y veinte mil seguidores, con una penetración moderada en audiencias auténticas. Sin embargo, la lección clave reside en la infraestructura subyacente: el sitio está diseñado para parecer auténtico, utiliza investigación que parece genuina aunque esté incorrectamente atribuida, y se presenta como un repositorio de expertos. A simple vista, la presencia en redes y la apariencia de rigor académico pueden generar una sensación de legitimidad que dificulta la detección para el público general.

Este caso ilustra riesgos relevantes para la gestión de información en la era de la IA: la sofisticación de las tácticas, la validación de contenidos y la verificación de credenciales son esenciales para salvaguardar la integridad de las plataformas y de la opinión pública. Reforzar la alfabetización digital, promover la transparencia de las fuentes y construir mecanismos de verificación independiente son medidas críticas para contrarrestar campañas de desinformación que buscan influir en la percepció n de eventos geopolíticos y en la legitimidad de actores nacionales.

Conclusión: la disrupción de este tipo de campañas recuerda que la IA, cuando se utiliza para fines maliciosos, puede imitar estructuras de legitimidad y generar narrativas convincentes. La responsabilidad recae tanto en las plataformas como en los usuarios para cuestionar, verificar y exigir trazabilidad de las afirmaciones y de sus autores. Mantener un ecosistema informativo robusto requiere vigilancia constante, estándares éticos claros y herramientas de verificación que puedan adaptarse a la evolución de estas tácticas de influencia.

from Latest from TechRadar https://ift.tt/a65XUNR
via IFTTT IA