La IA se enfrenta a un adversario inusual: un movimiento creciente que busca atacar los modelos desde la fuente misma. Su objetivo es claro en teoría: alimentar a futuros sistemas de IA con información errónea, datos engañosos o material deliberadamente corrupto hasta que pierdan utilidad.

Si futuras versiones de ChatGPT, Gemini y otros modelos de IA aprenden de información engañosa o manipulada, es posible que se vuelvan menos fiables. Los chatbots ya repiten tonterías con demasiada frecuencia; imagínalo multiplicado cuando los generadores de texto e imágenes malinterpreten cada instrucción y los modelos se vuelvan frustrantes de confiar.

No es solo teoría. La poisoning de datos es un área real de la seguridad de la IA. Aunque algunos argumentos sugieren que hacer que los sistemas de IA sean menos fiables podría desalentar a las empresas a rastrear obras creativas o a construir modelos cada vez más grandes, también existe el riesgo de socavar mucho más que el último chatbot en tendencia.

Intentar enseñar a la IA las lecciones equivocadas

Los grandes modelos de lenguaje suelen describirse como lectores de Internet. Absorben enormes colecciones de libros, sitios web, artículos, código, imágenes y documentos para aprender patrones.

Cambiar suficiente de ese material crudo puede alterar lo que aprende el modelo terminado. En lugar de atacar a la IA después de haber sido construida, el atacante intenta ‘poison’ el pozo de conocimiento.

Un modelo envenenado podría responder incorrectamente a una pregunta específica mientras parece normal el resto del tiempo. Las imágenes pueden parecer normales para los humanos, pero contener texto invisible diseñado para confundir a la IA. Otros ataques buscan ocultar códigos de puerta trasunta para comportamientos secretos que permanecen invisibles hasta que aparece una frase desencadenante. El objetivo es la precisión más que el caos.

Existe toda una filosofía y un movimiento naciente que impulsa la práctica. Algunos desean inundar Internet con contenido generado por IA engañoso. Otros discuten subir información deliberadamente corrupta con la esperanza de que los modelos del mañana la absorban. Los artistas han adoptado herramientas como Nightshade, que alteran sutilmente sus imágenes antes de publicarlas en línea, dificultando que las IA aprendan de ellas, manteniéndolas casi idénticas a la vista humana.

Contaminar el pozo rara vez solo perjudica a una persona

Pero envenenar datos para IA es mucho más complejo que agregar una pizca de sal al café de alguien. Las empresas de IA filtran, limpian y revisan conjuntos de datos mucho antes de que se conviertan en parte de un modelo. Envenenar un sistema comercial es considerablemente más difícil que desinformar con un párrafo de Wikipedia.

Eso no significa que no pueda ser peligroso. Los investigadores de ciberseguridad no se preocupan por que ChatGPT se equivoque en un hecho histórico. Lo realmente problemático es que la información envenenada contamine los sistemas de IA subyacentes utilizados por hospitales, bancos o agencias gubernamentales. Esos modelos suelen basarse en conjuntos de datos mucho más limitados y con controles de seguridad menores, lo que los hace objetivos más atractivos.

Una asistente médica que dé un excelente asesoramiento excepto por una condición específica o un software bancario que siempre incluya una vulnerabilidad de seguridad oculta en cada actualización. Eso es lo que podría hacer la información envenenada si no se detecta a tiempo. Las técnicas no son intrínsecamente malas, pero pueden ser abusadas como cualquier otra tecnología.

Nada de esto significa que la frustración de quienes sueñan con introducir datos erróneos en ChatGPT o Gemini esté mal enfocada. Artistas y autores continúan luchando por el uso y el abuso de los datos de entrenamiento de IA. Pero, si bien el objetivo puede merecer crítica, envenenar datos de IA probablemente no sea una solución a largo plazo.

La IA ya enfrenta desafíos como la desinformación, las alucinaciones y los errores factuales. Agregar deliberadamente más información errónea al ecosistema corre el riesgo de amplificar exactamente los problemas que los críticos ya señalan. Proteger a las personas, sus medios de vida y la propiedad creativa es esencial, pero hacer que la IA sea peor no hará que el futuro sea mejor.