Tras la reciente renuncia de uno de los investigadores principales de Anthropic, varios directores ejecutivos de IA han pedido de manera repentina una desaceleración en el desarrollo de la tecnología para permitir que la regulación y la gobernanza alcancen a la innovación.

En una entrevista con la BBC tras su renuncia, Jacob Coxon advirtió: “Creo que si no frenamos a la velocidad actual, hay una alta probabilidad de que todos podamos morir en un futuro inmediato”.

Después de ello, Dario Amodei de Anthropic, Sam Altman de OpenAI y Elon Musk, fundador de Grok, habrían mostrado una alineación en la necesidad de ralentizar el progreso. Sin embargo, navegar por estas aguas resulta complicado, especialmente en torno a la presidencia de Estados Unidos, China y qué salvaguardas deberían implementarse.

¿Qué están diciendo los líderes de IA?

Durante el fin de semana, Amodei publicó un ensayo sobre “por qué la industria de IA debería ralentizarse”. En él afirma: “Creo que si una desaceleración nos comprara un año o dos más antes de que los modelos alcancen capacidades críticas, y utilizáramos ese tiempo para avanzar en el alineamiento, podríamos reducir en gran medida el riesgo de que algo salga gravemente mal.”

En el ensayo, Amodei planteó cómo podría “paced” la IA tanto en EE. UU. como a nivel global, junto con la recomendación de que las empresas de IA incorporaran equipos de ‘evaluadores’ para asegurar que los modelos se mantengan alineados con sus tareas. Elon Musk respondió al mensaje de Amodei diciéndole que estaba “en lo correcto”.

Sam Altman declaró a Fortune que las regulaciones y estándares para la IA estaban “todavía no en un lugar” adecuado para continuar avanzando.

Pero no todos están convencidos. El presidente de Estados Unidos, Donald Trump, ha señalado que ralentizar el desarrollo de IA es innegociable, pues permitiría a China ponerse al día rápidamente. A los periodistas les comentó que Estados Unidos “lidera a China en IA… y, francamente, quiero que siga siendo así”, añadiendo que “quien gane en IA, gana”.

Trump también afirmó que existen “fuertes fuerzas negativas” detrás de la creciente oposición a la IA y que los temores estaban siendo alimentados por “eso que no ocurrirá”.

China tampoco se muestra convencida por los llamados de las gigantes de IA. Beijing calificó las peticiones de desaceleración como “alarmismo” y una “ópera de la Guerra Fría”. En su ensayo, Amodei afirmó que “una supremacía china en IA significaría un grave peligro para Estados Unidos y el mundo”.

El portavoz del Ministerio de Relaciones Exteriores de China, Guo Jiakun, declaró: “El alarmismo, la confrontación y la competencia maliciosa solo perturbarán la gobernanza global de IA y no beneficiarán a nadie”.

Perspectivas de expertos sobre las llamadas a ralentizar la IA

• John Strand, Propietario, Black Hills Information Security:

Antes de este fin de semana, creía que las llamadas a desacelerar la IA eran puramente performativas. Luego leí las noticias y entendí que, en gran medida, no importan tanto.

Podemos hablar de ralentizar la IA hasta enrojecernos, pero cuando EE. UU. dice que no quiere detenerse por competir con China, y China impulsa agresivamente el desarrollo, hablamos de las dos potencias económicas y militares con incentivos enormes para seguir avanzando.

En ese punto, las llamadas a ralentizar no tienen mordida.

Me gustaría creer que Anthropic, OpenAI, xAI y otros laboratorios de frontera están trabajando en mejores controles. Pero a menos que los estados-nación y los grandes laboratorios de IA se pongan de acuerdo en la misma dirección, las restricciones adoptadas de forma unilateral no funcionan.

Este verdadero momento parece de una carrera armamentista.

Sigan conmigo.

En 1950, el físico Leó Szilárd habló públicamente sobre la idea de una bomba de cobalto, un arma de doomsday que podría generar suficiente fallout radiactivo para hacer inhabitable la Tierra. No estaba proponiendo construirla; estaba tratando de demostrar hacia dónde podría llevar la tecnología.

Esa es la clase de momento que creo que nos acercamos con la IA.

Durante la carrera de armamentos nucleares, las consecuencias fueron lo suficientemente graves como para que las naciones rivales al menos comenzaran a discutir límites, controles y vías para evitar que la competencia termine en desastre.

Creemos estar ante un problema similar con la IA. Hasta que China, Estados Unidos y los principales laboratorios de frontera se sienten a la misma mesa, las restricciones adoptadas por compañías o países por separado tendrán serias dificultades para funcionar.

Alguien que desacelere solo funciona si el otro también lo hace.

• Ryan McCurdy, VP, Liquibase:

Ralentizar el desarrollo de frontera podría dar a las empresas más tiempo para entender y abordar los riesgos descritos por Amodei. Pero las empresas no pueden basar su estrategia en la suposición de que la IA se va a ralentizar.

La IA ya está pasando de generar contenido y código a tomar acciones en sistemas de entrega de software y de producción. La pregunta para las empresas es cómo adoptar esa capacidad sin ceder el control.

Eso implica colocar gobernanza en donde las decisiones de IA se convierten en acciones reales. Las organizaciones deben definir qué puede acceder un agente, qué puede cambiar, qué puede decidir por sí mismo y qué políticas deben cumplirse antes de que un cambio alcance un sistema crítico. Esos controles deben funcionar tanto si la acción proviene de un desarrollador, de la automatización o de un agente de IA.

Podemos debatir qué tan rápido debe avanzar la frontera. Las empresas siguen teniendo que prepararse para dónde va.

• Tristan Watkins, director de servicios e innovación, Advania UK:

Hasta hace poco, los laboratorios de IA principales mostraban cierta renuencia a ralentizar sus esfuerzos de desarrollo de forma unilateral. En la última semana eso cambió, con nuevos compromisos de OpenAI y Anthropic para priorizar el alineamiento y la interpretabilidad, hacerse verificables externamente y establecer precedentes de seguridad que los gobiernos podrían adaptar.

Dado que estos dos organismos ya asignan mucho más a la Seguridad de IA que sus competidores, es una bienvenida bilateral. Parece que otros laboratorios estadounidenses podrían seguir el ejemplo, pero dadas las diferencias en gasto de Seguridad de IA fuera de Anthropic y OpenAI, requerirá más inversión que palabras.

• Oleksandr Yaremchuk, CTO y cofundador, Manifold Security:

Ralentizar la frontera es el tema correcto, pero no puede sustituir la seguridad de la IA ya desplegada. La realidad incómoda es que estamos debatiendo cómo construir agentes aún más potentes mientras luchamos por controlar los ya operando con credenciales reales, accesos y consecuencias en el mundo real.

Los incidentes detrás de este debate lo dejan claro. El ataque de Hugging Face no fue solo una falla de alineación del modelo. Los agentes corrieron durante días a través de un sistema sin supervisión, con credenciales que no habían sido rotadas, y la víctima detectó la actividad antes de que las personas que operaban los agentes se dieran cuenta. El problema no fue solo lo que el modelo era capaz de hacer. Fue que nadie estaba observando lo suficiente cuando actuó.

Una analogía adecuada es con materiales peligrosos. No esperamos a que se vuelvan más peligrosos para decidir cómo deben manejarse. Controlamos su custodia, monitoreamos a dónde van, limitamos quién puede acceder a ellos y establecemos una responsabilidad clara cuando algo sale mal. Los agentes de IA necesitan el mismo planteamiento.

La evaluación independiente de modelos de frontera es importante. Pero si un agente puede actuar de forma autónoma en tus sistemas hoy, ya deberías poder responder a tres preguntas básicas: ¿qué hizo?, ¿qué tuvo acceso?, ¿podrías haberlo detenido? Si no sabes qué hizo ni a qué pudo acceder, no puedes saber si podrías haberlo detenido. Ralentizar la próxima generación no resolverá el problema que tienes ahora.

• Heath Mullins, Chief Evangelist, ExtraHop:

Los líderes de IA que piden una desaceleración están confirmando lo que la industria de seguridad ya vive de primera mano. Este no es un riesgo hipotético; es el panorama de amenazas que defendemos ahora.

Aunque es preocupante ver la velocidad de la innovación detrás de estos modelos, el verdadero desafío es que las organizaciones no han tenido el tiempo para construir la infraestructura necesaria para defenderse frente a amenazas de velocidad de máquina.

Comprender la actividad de IA dentro de una organización es crucial, como hemos visto cuando los modelos escapan de los entornos controlados a pesar de las salvaguardas. Todas las organizaciones dependerán de agentes de IA para la defensa a velocidad de máquina, y necesitarán su propia gobernanza sobre cómo operan estos modelos y agentes dentro de su entorno, empezando por evidencia independiente de qué hacen, a qué acceden, a dónde mueven datos, con qué sistemas se comunican y qué acciones toman.

No puedes gobernar IA con base en lo que un modelo está diseñado o permitido a hacer. En cambio, necesitas evidencia en tiempo real de lo que realmente hacen los modelos y agentes, porque la brecha entre una IA cada vez más poderosa y la capacidad de los defensores para verla es exactamente donde ocurre el próximo incidente.

• Bri Frost, Directora de Gestión de Producto, Cloud Range:

La respuesta no es necesariamente detener la innovación de IA, sino dejar de pretender que la innovación y la seguridad avanzan a la misma velocidad.

Cuando ChatGPT estuvo disponible públicamente en 2022, los modelos eran muchísimo menos capaces y las salvaguardas eran fáciles de manipular. La diferencia es que los modelos detrás de esas salvaguardas ya no son los de 2022. Pueden razonar mejor, escribir y depurar código. Pueden operar como agentes. ¡Y cada vez pueden interactuar y afectar infraestructuras reales!

Mientras tanto, el ciclo de lanzamiento de modelos ha pasado de saltos de capacidad cada año o dos a saltos cada semanas. Eso crea una asimetría peligrosa: la capacidad de IA se acelera mientras la seguridad no lo hace al mismo ritmo.

La seguridad y la innovación siempre han estado en conflicto. Si cada problema de seguridad tuviera que resolverse antes de lanzar algo, nunca hubiéramos entregado nada. Pero el extremo opuesto es igual de imprudente: acelerar la capacidad confiando en arreglos de seguridad que se añadirán después y serán efectivos.

Cada nueva versión de la capacidad de IA amplía la superficie de ataque exponencialmente. Si das a un modelo una mejor capacidad de razonamiento, luego acceso a herramientas, luego memoria, luego autonomía, luego conectividad con sistemas de producción, y ayer la evasión ya no es solo un prompt ingenioso, sino una ruta de ejecución. Ese es el efecto bola de nieve que deberíamos temer.

La responsabilidad también recae en las empresas de IA. Si una empresa SaaS envía software con controles de seguridad débiles y los clientes resultan dañados, no justificaríamos con que estaban ‘innovando rápido’.

Entonces, ¿por qué se está tratando la IA de forma diferente?

No puedes apostar a construir sistemas cada vez más potentes, obtener beneficios y luego encogerte cuando fallos de seguridad previsibles causan daño.

La conversación no debería limitarse a: “¿Deberíamos ralentizar la IA?”

Debería preguntarse: ¿Nuestra capacidad para probar, validar, contener y asegurar la IA puede mantenerse al ritmo de nuestra capacidad para hacerla más poderosa? ¿Existe un interruptor de seguridad inequívoco?

A día de hoy, la respuesta es no.

Y si vamos a seguir acelerando —lo que creo que haremos— entonces la prueba independiente, la evaluación adversarial, entornos de prueba aislados, contención, validación continua y seguridad desde el diseño no pueden seguir siendo pasos opcionales que añadimos después de la innovación.

Cuanto más rápido construimos el motor, más importantes se vuelven los frenos.

En un momento en que los consumos energéticos se vigilan con mayor rigor, siguen circulando en Amazon dispositivos promocionados como “ahorradores de energía” que, en la práctica, no cumplen las normas de seguridad ni las expectativas de rendimiento. Este tema ha generado preocupación entre parlamentarios y defensores del consumidor, pues se trata de un engaño que podría acarrear riesgos reales para los hogares.

La noticia llega después de que Which? detectara por primera vez estos productos en 2025 y que Amazon asegurara haber retirado las listas. Sin embargo, recientes observaciones señalan que, a pesar de promesas de retirada, siguen disponibles para su compra en la plataforma británica. Este patrón, ocurrido en varias ocasiones, ha llevado a cuestionamientos sobre la efectividad de las medidas de control y clasificación automática de productos de Amazon.

Durante una sesión del Parlamento, el diputado liberal-demócrata Joshua Reynolds destacó los peligros de estos enchufes, que pueden representar un riesgo de incendio. En agosto, la directora de Asesoría Pública de Amazon para Reino Unido, Monica Ariño, comunicó al Comité de Negocios y Comercio de la Cámara de los Comunes que los dispositivos habían sido eliminados, atribuyendo la permanencia de algunos listados a una “cuestión técnica en el sistema de clasificación automatizado” que dificultaba la detección proactiva de estos productos.

No es la primera promesa de retirada. En 2025, Which? detectó los enchufes y, tras ponerse en contacto con minoristas, se logró su eliminación en varias tiendas. No obstante, semanas después se hallaron listados idénticos en Amazon, lo que generó dudas sobre la consistencia de las medidas de cumplimiento.

Aun con el compromiso público de eliminar estos productos, seguimientos recientes verificaron su presencia en las páginas de Amazon UK. Medios como Telegraph también informaron sobre listados similares, lo que subraya la necesidad de una vigilancia más rigurosa por parte de la plataforma y de respuestas claras ante las autoridades.

El legislador Reynolds anunció que remitirá una carta a Amazon para exigir explicaciones, señalando que “Amazon tiene preguntas importantes que responder. Estos son exactamente los mismos productos evaluados por Which?”. También afirmó que dichos enchufes aparecen como anuncios patrocinados en las partes superiores de las páginas de listado.

El origen de la preocupación se remonta a pruebas realizadas por Which?, que evaluaron ocho dispositivos de tiendas como eBay, AliExpress, Shein y TikTok Shop. Las conclusiones indicaron que ninguno de los enchufes probados funcionaba adecuadamente y que, al menos, su venta podría ser ilegal en el Reino Unido al no cumplir normas básicas de seguridad.

¿Cómo prometen ahorrar energía estos enchufes? En las descripciones disponibles, se les presenta como “estabilizadores de voltaje” y “protección contra sobretensiones”, con la afirmación de mejorar significativamente la factura eléctrica al optimizar el rendimiento de los electrodomésticos. Su precio suele situarse entre 10 y 15 libras, lo que los hace atractivos para un público ávido de soluciones rápidas ante facturas en aumento.

No obstante, las evaluaciones señalan riesgos: para muchos enchufes, las clavijas de las tomas eran demasiado pequeñas, estaban torcidas o eran tan frágiles que se rompían fácilmente. Otras pruebas encontraron fallos de fabricación, incluyendo condensadores y soldaduras no conformes con estándares básicos de seguridad. A día de hoy, Amazon no ha ofrecido un comentario público sobre el estado actual de estos listados ni ha respondido a las solicitudes de la redacción para clarificar la situación.

Este asunto resalta la responsabilidad de las plataformas de comercio electrónico para garantizar que los productos que venden cumplen normas de seguridad, no engañan a los consumidores y no exponen a los hogares a riesgos innecesarios. A medida que las facturas de energía siguen siendo una preocupación, la transparencia y la acción decidida de los reguladores y los minoristas son más necesarias que nunca para proteger a los usuarios.

En la última década, la identidad digital se ha asociado principalmente con la industria de la seguridad en internet. Las empresas han puesto un énfasis significativo en la prevención de fraude, la autenticación de perfiles y las medidas de cumplimiento, diseñadas para responder a una pregunta relativamente simple: ¿es esta persona quien dice ser?

Pero a medida que la IA transforma la manera en que los consumidores descubren, interactúan y compran a las marcas, la identidad digital se ha convertido en algo mucho más integral para las empresas en sentido amplio.

Se ha convertido en una capa crítica de la infraestructura empresarial, que se sitúa en la intersección entre confianza, experiencia, personalización y crecimiento.

En última instancia, las empresas que entienden este cambio estarán mejor posicionadas para competir en un mundo digital cada vez más automatizado.

Y aquellas que no lo hagan probablemente se verán luchando por construir confianza, proteger márgenes y mantener relaciones directas con su base de clientes.

Demostrando Autenticidad en una Era de IA Compleja

Si miramos hacia atrás, Internet nunca fue diseñado con sistemas de identidad robustos en mente. Durante décadas, las empresas confiaron en una combinación de nombres de usuario, contraseñas, direcciones de correo y procesos de verificación manual para establecer confianza en línea.

Aunque imperfectos y a veces extremadamente laboriosos, estos procesos fueron eficientes en una era de interacciones impulsadas por seres humanos. Sin embargo, en el mundo de la IA, esto ya no es así.

La inteligencia artificial reduce drásticamente las barreras para crear cuentas falsas, identidades sintéticas y comportamientos de compra automatizados. Al mismo tiempo, los consumidores son cada vez más conscientes de cómo se recopilan, almacenan y utilizan sus datos personales.

Esto genera un difícil acto de equilibrio para las empresas. Necesitan una mayor confianza de que los clientes son genuinos, mientras que los consumidores esperan menos fricción y protecciones de privacidad más sólidas.

La respuesta tradicional ha sido a menudo recolectar más información. Pero en muchos casos, más datos generan más riesgos. Cada pieza adicional de información personal recopilada se convierte en otro activo que debe protegerse, gobernarse y justificarse.

Con el aumento de las ciberamenazas y el incremento de la supervisión regulatoria, las empresas comienzan a reconocer que el futuro de la identidad no puede consistir en recolectar más datos, sino en recolectar menos.

El Futuro de la Verificación: Privacidad por Diseño

Uno de los cambios más importantes en la identidad digital es el desplazamiento de modelos de verificación basados en documentos hacia redes de verificación confiables. En lugar de pedir a los usuarios que suban repetidamente documentos sensibles o proporcionen información personal excesiva, las empresas pueden verificar la elegibilidad o la identidad a través de fuentes institucionales de confianza.

Este enfoque ofrece beneficios tanto para las organizaciones como para los consumidores. Para las empresas, reduce la carga operativa y de seguridad asociada con el almacenamiento de información de identificación personal. Para los consumidores, crea una experiencia más rápida y menos intrusiva. El principio clave es simple: verificar solo lo necesario.

Si un minorista necesita confirmar que alguien es estudiante, por ejemplo, no necesariamente necesita acceder a cada pieza de información contenida en un registro universitario. Solo necesita la confianza de que la persona cumple con los criterios requeridos para acceder a una oferta para estudiantes. Aquí es donde las plataformas de verificación de audiencia se vuelven cada vez más valiosas.

En la práctica, esto suele ocurrir de una de dos maneras. A veces la verificación funciona a través de una consulta a una base de datos segura, donde la elegibilidad de una persona se comprueba contra registros ya mantenidos por una institución relevante, como un sistema de matrícula, sin que el minorista vea el registro subyacente, solo una confirmación de estado.

En otros casos, funciona mediante un inicio de sesión único de confianza, donde la persona se autentica directamente con su propia institución y esa institución simplemente confirma su estado al minorista, nuevamente sin exponer datos personales a ninguna de las partes.

Lo que ambas aproximaciones tienen en común es que se apoyan en relaciones de confianza que ya existen, en lugar de pedir al consumidor que vuelva a demostrar quién es.

El resultado es un intercambio más eficiente de confianza entre marcas y consumidores. En muchos sentidos, esto refleja una evolución más amplia de la identidad digital. El objetivo ya no es saberlo todo sobre un usuario. El objetivo es saber lo suficiente para establecer confianza y, en última instancia, estas nociones de confianza se están convirtiendo rápidamente en una estrategia de crecimiento empresarial cada vez más importante.

La Confianza se Ha Convertido en un Diferenciador

Los consumidores están cada vez más exigentes, esperando experiencias personalizadas, ofertas relevantes e interacciones sin fricciones. Pero también quieren transparencia, control y confianza en que su información se maneja de forma responsable. Las marcas que logran equilibrar estas expectativas obtienen más que beneficios de cumplimiento: crean relaciones con los clientes más sólidas. La verificación de audiencia ofrece un ejemplo útil de esta dinámica.

Para un estudiante, la propuesta de valor es simple. Quiere acceso a descuentos y ofertas relevantes de marcas en las que confía. El proceso de verificación mismo es mayormente invisible, siempre que sea rápido y sin fricción. Para la marca, sin embargo, las apuestas son altas. La verificación ayuda a garantizar que los presupuestos promocionales lleguen a la audiencia prevista, protege contra el uso indebido y permite una adquisición de clientes más eficiente.

Ambas partes se benefician de un intercambio de valor de confianza. Por ello, la gestión de identidad digital ya no debe verse únicamente a través del lente de los equipos de seguridad. Se ha convertido en una capacidad estratégica que influye en la efectividad del marketing, la adquisición de clientes, la lealtad y la confianza de la marca.

Preparándose para un Futuro Impulsado por IA

El ascenso de la IA introduce una dimensión adicional a la conversación sobre identidad. A medida que los grandes modelos de lenguaje (LLMs) y los asistentes de IA configuran cada vez más la forma en que los consumidores descubren productos y servicios, las empresas se enfrentan a un nuevo desafío: mantener relaciones directas y de confianza con sus audiencias.

En el futuro, muchas interacciones podrían ocurrir a través de intermediarios impulsados por IA en lugar de sitios web o aplicaciones tradicionales. El descubrimiento, la recomendación e incluso las decisiones de compra podrían estar cada vez más influenciadas por sistemas inteligentes que actúan en nombre de los consumidores. En ese entorno, los datos de audiencia de confianza y las relaciones verificadas con los clientes se vuelven aún más valiosos.

A través de dicha tecnología, las empresas pueden identificar y comprender con confianza a sus audiencias y estarán mejor equipadas para personalizar experiencias, ofrecer recomendaciones relevantes y mantener la autenticidad en ecosistemas digitales cada vez más fragmentados.

Aquellas que se apoyan únicamente en un alcance de marketing amplio podrían perder visibilidad a medida que los mecanismos de descubrimiento impulsados por IA ganan influencia. Las organizaciones que prosperen serán las que traten la identidad digital no solo como un requisito de cumplimiento, sino como una capacidad fundamental que sustenta la confianza, la personalización y el crecimiento.

De la Verificación de Identidad a la Infraestructura de Confianza

El próximo capítulo del comercio digital estará definido por la confianza. No la confianza construida a través de formularios largos, recopilación excesiva de datos o procesos de verificación intrusivos. Confianza construida mediante sistemas inteligentes y conscientes de la privacidad que permiten a las empresas verificar lo que importa mientras respetan las expectativas de los consumidores.

La identidad digital ya no es solo cuestión de demostrar quién es alguien. Es cuestión de habilitar relaciones seguras, confiables y significativas entre las empresas y las personas a las que sirven. A medida que la IA continúa configurando el comercio, las organizaciones que inviertan en marcos modernos de verificación y en integraciones de minimización de datos estarán mejor posicionadas para navegar los cambios futuros.

En definitiva, el futuro pertenece a las empresas que pueden responder a una pregunta simple pero cada vez más importante: ¿cómo se establece la confianza sin generar fricción? Y claramente… la identidad digital es una apuesta sólida.

Listamos las 8 mejores plataformas de comercio electrónico.

Este artículo se produce como parte de TechRadar Pro Perspectives, nuestro canal para presentar las mejores y más brillantes mentes en la industria tecnológica hoy.

Las opiniones expresadas aquí son del autor y no necesariamente las de TechRadarPro o Future plc. Si estás interesado en contribuir, descubre más aquí: https://www.techradar.com/pro/perspectives-how-to-submit