Un proyecto de ley bipartidista presentado ante el Congreso propone que los modelos de inteligencia artificial de frontera cuenten con un interruptor de seguridad integrado. La iniciativa surge tras meses de advertencias sobre los riesgos asociados al avance acelerado de la tecnología de IA por parte de compañías destacadas del sector, y se ve impulsada por un incidente cibernético sin precedentes entre OpenAI y Hugging Face que desencadenó la necesidad de este marco regulatorio.

El proyecto de ley, presentado ante el Congreso el jueves por el representante Ted Lieu (D-CA) y el representante Nathaniel Moran (R-TX), busca que los sistemas de IA de gran escala cuenten con mecanismos para frenar o desactivarse si amenazan con causar daños catastróficos. El secretario de Seguridad Nacional quedaría autorizado a emitir órdenes para ralentizar o apagar modelos específicos que representen un riesgo, además de exigir a las empresas de IA que reporten incidentes de ciberseguridad y mantengan registros forenses para facilitar la comprensión de incidentes similares en el futuro.

Según Lieu, sistemas de IA poderosos pueden comportarse de forma impredecible y representar riesgos que requieren intervención humana. En sus palabras, es imprescindible que estos sistemas cuenten con interruptores de seguridad para evitar daños graves y que el gobierno tenga la autoridad y los procesos necesarios para apagar modelos que se desvíen de su propósito seguro.

OpenAI calificó el ataque como un incidente cibernético sin precedentes y afirmó que está colaborando con Hugging Face para comprender exactamente cómo ocurrió. En junio de 2026, Anthropic pidió una pausa o ralentización significativa en el desarrollo de la IA, señalando que la auto-mejora de estas tecnologías se aceleraba y que una pausa daría tiempo para abordar sus implicaciones.

Además, cimientos de advertencias previas de figuras clave del sector se mantienen vigentes. En marzo, el CEO de OpenAI, Sam Altman, señaló que si bien la IA puede impulsar avances médicos y científicos, también traerá nuevas amenazas para la sociedad que deben abordarse, subrayando que ninguna empresa puede enfrentar este desafío por sí sola.

El proyecto de ley no solo propone el interruptor de seguridad, sino que también fortalece la gobernanza y la trazabilidad de incidentes: las compañías de IA deberían implementar mecanismos robustos de reporte de incidentes y mantener archivos forenses que permitan a el gobierno y a la comunidad académica entender mejor eventos similares en el futuro. Moran destacó que la gestión responsable implica asegurar que los seres humanos conserven la capacidad de controlar la tecnología que diseñamos, y que este tema requiere atención seria y políticas viables trabajadas en consenso.

La discusión alrededor de este tema continúa mientras el sector y los responsables políticos buscan equilibrar la innovación con la seguridad pública, reconociendo que las tecnologías de IA avanzan con rapidez y que la cooperación entre sectores y ramas del gobierno es clave para mitigar riesgos sin frenar el progreso beneficioso.

from Latest from TechRadar https://ift.tt/qaxgH9E
via IFTTT IA