• El Secretario General de la ONU llama a prohibir a nivel internacional las armas autónomas letales
• Guterres sostiene que delegar decisiones de vida o muerte a máquinas es una idea moralmente repugnante
• Los gobiernos deben tomar una posición ahora —no esperar a que ocurra una catástrofe

\n

El Secretario General de la ONU, António Guterres, ha pedido prohibir las armas letales autónomas, a las que describe como “robots asesinos”, bajo el derecho internacional tras las discusiones en el primer Global Dialogue on Artificial Intelligence Governance en Ginebra.

\n

La demanda de Guterres se centra en aquellas armas capaces de identificar, seleccionar y atacar objetivos sin supervisión humana, dejando a la inteligencia artificial y a otros sistemas informáticos el control de una decisión de vida o muerte.

\n

En última instancia, sostuvo que ciertas decisiones deben permanecer exclusivamente humanas, y la decisión de quitar una vida cae dentro de la necesidad de supervisión humana. Transferir la toma de decisiones a robots asesinos sería “moralmente repugnante” y “políticamente inaceptable”, argumentó.

\n

La IA requiere regulación global ante las grandes amenazas de la IA militar

\n

Una clave en el argumento del Secretario General es que insta a los gobiernos a actuar y prohibir estas máquinas ahora, en lugar de esperar a que un arma autónoma provoque un incidente grave para replantearse sus estrategias.

\n

“No continuemos esperando la atrocidad para actuar,” dijo Guterres. “Algunas decisiones deben permanecer para siempre humanas —nadie más que un ser humano para quitar una vida.”

\n

El tema se vuelve más urgente ahora que modelos de IA y chips avanzados ya se utilizan en inteligencia militar, sistemas de reconocimiento y otros componentes de combate.

\n

Más ampliamente, las ideas de Guterres se alinean con las de Anthropic, que recientemente tuvo un desacuerdo con el Pentágono al buscar garantías de que sus modelos no se usarían para armas autónomas o vigilancia.

\n

Si bien el Pentágono rechazó esas limitaciones, argumentando que debería poder usar los modelos de Anthropic para cualquier propósito legal, el caso resalta cómo las empresas privadas están cada vez más entrelazadas con la guerra digital.

\n

Un informe del Wall Street Journal cita una visión similar del Papa León XIV, quien advierte que las armas controladas por IA podrían promover una visión de la guerra anti-humana. Señala que la autonomía podría reducir algunos peligros y distanciar a los líderes políticos de las consecuencias humanas del conflicto.

\n

Necesidad de equilibrar los pros y los contras de la IA

\n

Sin embargo, la inteligencia artificial promete beneficios para la guerra moderna, especialmente en su capacidad para procesar enormes cantidades de información con gran rapidez. Con la computación actual, los ejércitos pueden responder a amenazas a velocidad lumínica, mejorar su precisión, reducir el riesgo para los soldados y, potencialmente, disminuir las bajas civiles.

\n

Los críticos también cuestionan si la supervisión humana de los sistemas de IA tiene algún sentido real si la persona a cargo solo tiene segundos para actuar sobre la información generada por la IA.

\n

También está por determinar qué parte o grupo debería ser responsable de cualquier incidente: operadores humanos, comandantes, fabricantes de hardware y desarrolladores de software figuran entre posibles sujetos a juicio.

\n

“Puede que seamos la última generación capaz de fijar los términos de la coexistencia entre humanidad y máquinas,” advirtió Guterres en una publicación de X, enfatizando que la IA debe ser gobernada, confiable y justa.

\n

“Puede parecer ciencia ficción, pero es una posibilidad real, y podría cambiar el mundo de formas que aún no entendemos, y podría alterar la dinámica de poder de nuestro planeta, lo que requiere nuestra atención,” añadió Yoshua Bengio, Copresidente del Panel Científico Internacional Independiente sobre IA, en una declaración vinculada al informe de la ONU.

\n

\n