En un momento decisivo para la tecnología de inteligencia artificial, líderes del sector destacan la necesidad de frenar, al menos temporalmente, la velocidad de la innovación para ganar tiempo y evaluar de manera más rigurosa sus riesgos. Dario Amodei, CEO de Anthropic, y Sam Altman, CEO de OpenAI, han hecho un llamado público para que gobiernos de todo el mundo cooperen en marcos de seguridad y evaluación externa de los sistemas de IA. El análisis de estos riesgos abarca desde la posibilidad de que los humanos pierdan control sobre sistemas avanzados, hasta la vulnerabilidad ante ciberataques y el potencial uso de IA en el desarrollo de armamento biológico. Una de las propuestas centrales es que evaluadores externos obtengan un acceso más profundo a los modelos y a los procesos de seguridad, pero con un eje crucial: una mayor implicación gubernamental.\n\nEven AI companies want governments to step in: La visión de Anthropic subraya la necesidad de que las democracias compartan estándares y reglas de seguridad para IA, así como una coordinación internacional que dé respuesta a las capacidades más peligrosas, incluso frente a actores globales como China. En este punto, la coordinación internacional podría convertirse en la clave para frenar una innovación riesgosa. Hasta ahora, el presidente de Estados Unidos, Donald Trump, ha expresado escepticismo frente a advertencias sobre la posibilidad de que ralentizar a las empresas estadounidenses termine favoreciendo a China. En sus palabras, quien gana en IA “es quien gana”.\n\nLa conversación política en Estados Unidos se intensifica a medida que se acercan las elecciones de medio mandato. Figuras como el presidente de la Cámara de Representantes, Mike Johnson, advierten que actuar apresuradamente podría resultar en una pérdida frente a China. En Texas, la aspirante a gobernadora Gina Hinojosa ha señalado la centralidad de los centros de datos y la IA para el panorama electoral actual. Con un calendario electoral que reduce la ventana para la legislación, las discusiones sobre políticas de IA se vuelven cada vez más rápidas y propensas a dividir aún más a los partidos.\n\nComo señalan tanto OpenAI como Anthropic, estamos ante un nuevo capítulo en las capacidades de IA que exige una respuesta institucional diseñada para acompañar la innovación sin perder de vista la seguridad pública. Chris Lehane, jefe de Asuntos Globales de OpenAI, insiste en que el momento requiere políticas renovadas que hagan frente a estas realidades. En un entorno en el que la IA resalta como un tema determinante, el Senado y la Cámara de Estados Unidos contemplan propuestas que podrían establecer guías para el desarrollo y la supervisión de estas tecnologías.\n\nEste diálogo entre tecnología y gobernanza, con un foco en evaluaciones rigurosas y cooperación internacional, no solo aborda riesgos potenciales, sino que busca salvaguardar la competitividad global ante potencias como China. A medida que la tecnología continúa evolucionando, la pregunta clave es cómo equilibrar la innovación con una gobernanza que proteja a la sociedad en su conjunto.

from Latest from TechRadar https://ift.tt/RFICV9j
via IFTTT IA