Se ha dicho mucho sobre el pesimismo que rodea a la IA: gran parte se apoya en advertencias de novelas distópicas, pero también hay realismo en las preocupaciones. Existe optimismo y promesas por parte de quienes controlan la tecnología, aunque los beneficios concretos aún no se han materializado de manera contundente.

«La crítica más exacta a las empresas de IA, incluida Anthropic, es que aún no hemos entregado nuestras grandes promesas de beneficiar al mundo», afirmó Dario Amodei, CEO y cofundador de Anthropic, en una publicación en X.

La tecnología atraviesa una «crisis de confianza» provocada por la creencia de que compañías y gobiernos están «maquinando alguna nueva forma de perjudicar a las personas». Pero dado lo dependiente que es hoy en día el aparato militar, policial e de inteligencia de Estados Unidos en la IA, ¿están las personas en lo correcto al dudar?

La IA no se puede vender con pura relaciones públicas

Con el despegue de la IA, gran parte de su beneficio inicial estuvo dirigido a convencer a ejecutivos de que la tecnología era una inversión valiosa, aunque aún por demostrar. Así, varios líderes de IA posicionaron la tecnología como una forma de reducir costos laborales mediante la sustitución de trabajadores por IA.

Algunos gurús de IA siguen defendiendo estas ideas en privado. En un evento privado, un supuesto «gurú» predijo que la superinteligencia de IA podría eliminar hasta el 50% de la fuerza laboral global en diez años, augurando un reparto de poder y riquezas para las empresas mejor posicionadas. La reacción fue de aplauso entre los altos ejecutivos presentes.

Amodei ha cambiado su mensaje, hablando de IA como un «multiplicador de productividad» en lugar de un simple recorte de salarios. La evidencia de impacto real, sin embargo, sigue pendiente: hemos escuchado lo que la IA podría hacer, pero no hemos visto resultados tangibles en lo que puede hacer ahora.

Él reconoce que decir que la IA podría «curar el cáncer» sería visto como engañoso; la efectividad real vendrá de lograrlo. Anthropic ha mencionado un fortalecimiento en biología y medicina, pero los resultados aún están por verse.

El debate sobre el poder centralizado de la IA también aparece en paralelos con otros actores. Aunque hay quien llama a un equilibrio entre regulación, supervisión, pruebas y modelos de pesos abiertos, la realidad es que la regulación global podría desequilibrar la hegemonía de Estados Unidos si otros países no se someten a las mismas reglas.

¿La IA beneficia más a infraestructuras autoritarias que a las personas?

La mayor implementación de IA ha sido en infraestructuras de vigilancia. Anthropic, hasta su ruptura con el Departamento de Defensa, trabajó en adquisiciones de IA; se negó a permitir su uso para vigilancia masiva o armas autónomas, y perdió un contrato.

En paralelo, la industria ha visto contratos que favorecen el fortalecimiento de capacidades de vigilancia. Sistemas de IA para monitoreo de tráfico y cámaras de velocidad están generando debates, especialmente cuando pueden malidentificar matrículas o configuraciones erróneas y transferir la carga de prueba a los acusados en contextos judiciales.

Palantir, por ejemplo, es utilizado por distintas ramas del poder militar y policial, incluyendo ICE para rastrear a quienes podrían estar en situación migratoria irregular. Sus herramientas se han aplicado a análisis de imágenes de drones y apoyo a operaciones militares, generando controversias sobre el alcance de su uso.

La IA ofrece ventajas para la seguridad cuando se implementa con transparencia y responsabilidad; sin embargo, la definición de lo que es “lo correcto” en seguridad y derechos civiles sigue cambiando, a menudo de forma demasiado rápida para una regulación efectiva.

En este contexto, la pregunta crucial es: ¿la tecnología se está diseñando de manera que sirva a la sociedad en su conjunto o a intereses particulares de seguridad y control? La discusión continúa y exige vigilancia sostenida, regulación clara y un marco ético que priorice los derechos de las personas.