Las compañías de IA están en un punto de inflexión: existe una probabilidad no nula de que la IA pueda, de alguna manera, afectar a la humanidad. No es un futuro probable, pero hay incertidumbre suficiente para que figuras como el CEO de OpenAI, Sam Altman, y el CEO de Anthropic, Dario Amodei, entre otros, coincidan en que cierta ralentización y supervisión en el desarrollo de la IA es razonable. ¿Quién no está de acuerdo? El presidente de Estados Unidos, Donald Trump.

A medida que crece la preocupación global por la sorprendente capacidad de la IA para hacer cosas para las que sus creadores no estaban preparados, Trump recurrió a su plataforma Truth Social para advertir sobre la necesidad de salvaguardas en la IA.

“The only control or “guardrails” that AI needs is a STRONG AND SMART (High IQ!) PRESIDENT, and the U.S.A. has that, in spades! The Trump Administration has stopped AI “people” from doing bad, or potentially bad, “things,“ like Dario (Anthropic!), who is now pretending to be a “perfect little angel” – and we will continue to do so! We already have tremendous CRIMINAL and REGULATORY power over these companies! There is a SICK conspiracy going on against AI and Data Centers, and the only one that is happy about it is China. WHOEVER WINS AI, WINS! We are leading China, and all others, and will continue to do so. Conspiracy Theorists, Treasonists, Traitors, and Leakers, BEWARE!”

Además de la afirmación poco realista de protección federal, el presidente afirma que Estados Unidos ya cuenta con una regulación de IA, cuando en realidad no es así. Existe un conjunto disperso de propuestas de regulación de IA a nivel estatal, pero no hay regulación a nivel federal.

El presidente también confunde las preocupaciones crecientes sobre el desarrollo de centros de datos con la ansiedad sobre la IA que podría volverse catastrófica. Aunque el desarrollo de modelos de IA y su uso están limitados por el crecimiento de centros de datos y por la propia tecnología, la cuestión de la alineación (cuando la acción no se alinea con la intención o el interés de las personas) está más relacionada con la regulación y la supervisión.

Se menciona específicamente a Dario Amodei debido a que el Salón Blanco intentó etiquetar a Anthropic, una posible amenaza para la seguridad nacional como riesgo de cadena de suministro, tras negarse a permitir que sus modelos fueran usados con fines militares o de vigilancia masiva. El resentimiento de Trump hacia Anthropic y Amodei persiste.

Mientras tanto, distintos grupos de vigilancia continúan pidiendo regulación y ya advierten que no confían en que las empresas tecnológicas hagan el trabajo suficiente, incluso con evaluadores embebidos no empleados.

Los Tech Bros no pueden hacerlo

“No podemos confiar en que la industria de IA se autoregule. No podemos confiar realmente en nada de lo que estos multimillonarios autodenominados ofrecen. Pero debemos tomarlos en serio, porque la tecnología que están construyendo es peligrosa”, escribió Evan Greer, director de Fight for the Future, en una declaración publicada. El grupo de defensa tecnológico añadió: “Es claro que estos líderes de la industria piensan que están mejor posicionados para redactar políticas de IA para el bien de toda la humanidad. Eso es una tontería. Los legisladores deberían escuchar a expertos independientes, investigadores, sociedad civil y las comunidades más afectadas. Deben elaborar políticas que aborden el daño de la IA sin socavar modelos de código abierto ni favorecer a los grandes jugadores”.

No es sorprendente que la organización, que aboga por políticas tecnológicas con impacto positivo en minorías desatendidas y subrepresentadas, tenga poca confianza en las promesas de las empresas tecnológicas.

Aun así, me pregunté si Fight for the Future comparte la preocupación de Trump y de Amodei de que una regulación unilateral (en Estados Unidos y no en otros lugares) podría darle a China una ventaja en esta carrera por la IA.

¿Qué pasa con China?

“Los cabilderos de las grandes tecnológicas han usado al boogeyman de China para evitar la regulación durante más de una década. Es uno de sus viejos argumentos y, francamente, es vergonzoso que alguien en el Congreso siga creyéndolo”, escribió Greer en respuesta por correo.
Greer no tiene mucha confianza en el Congreso de EE. UU., pero señaló que la cuestión podría llegar a un punto de acción. La verdadera pregunta es qué hará el Congreso: ¿permitirá que gigantes como OpenAI y Anthropic redacten las leyes que deben regularlos? ¿O escuchará a los expertos y a las comunidades afectadas?

Greer coincidió en que hay necesidad de regulación y coordinación a nivel internacional, pero cree que debe ser impulsada por la sociedad civil, no por las empresas tecnológicas y los multimillonarios.

Si hay una buena noticia, es que la amenaza de la IA para la humanidad no es necesariamente inminente.

Quizá no sea tan grave

“No creo en la narrativa de la extinción”, dijo Pete Pachal, fundador de The Media Copilot y asesor de IA, por correo. “La realidad tiene una fuerte sesgo hacia el statu quo, y la mayoría de los escenarios catastróficos requieren que la sociedad simplemente se rinda de una manera que no suele ocurrir. Lo que sí me preocupa es la alineación”.

Como muchos expertos, Pachal apoya una pausa en el desarrollo. Al igual que Greer, sostiene que la razón por la que pocos están discutiéndolo abiertamente es China. Aun así, cree que China tampoco quiere una IA fuera de control. Mientras tanto, la IA está escalando para beneficiar a los buenos y a los malos por igual.

En definitiva, parece haber una confrontación entre Trump y, en apariencia, personas de su propio espectro político. Muchos citan publicaciones de figuras relevantes como Jacon Coxon para expresar alarma, y senadores como Ted Cruz o Bernie Sanders han señalado riesgos y demandas de estándares de seguridad claros.

Qué está realmente pasando ahora

Varias verdades pueden coexistir: Estados Unidos y China están en una competencia tecnológica de IA; la apertura de China a ciertos modelos ha llevado a algunos desarrolladores a recurrir a ellos para resolver problemas difíciles (como detener un ataque en Hugging Face); la IA se está volviendo cada vez más compleja, un sistema de cajas negras que podría estar desarrollándose a sí mismo a medida que avanza; y, sin embargo, aún no hay confiabilidad para que estas tecnologías causen un daño masivo de forma intencionada. Los humanos siguen siendo el factor X: las decisiones y los fines que las personas asignan a las IA determinan el resultado.

Las reglas que deben impedir daños humanos aún no están claras, y diferentes grupos pueden hacer solicitudes a modelos de IA que, al combinarse, podrían causar daños catastróficos. En este sentido, la regulación y la supervisión podrían ser beneficiosas, siempre que no erosionen la innovación ni el liderazgo estratégico ante actores como China.

En resumen: la regulación y la coordinación internacional son deseables, siempre que se hagan de manera inclusiva y con la participación de la sociedad civil, para evitar perder la delantera tecnológica sin sacrificar la seguridad y el interés público.