La clonación de voz impulsada por IA ha llegado a un punto en el que los estafadores pueden imitar voces humanas de forma convincente. Más preocupante aún, investigaciones sugieren que no somos especialmente buenos para distinguir la diferencia.

Tomemos el caso de un usuario de X, por ejemplo, quien publicó: “Recibí una llamada de mi esposa diciendo que olvidó su billetera y necesitaba la tarjeta de crédito para pagar su gasolina. Pero mi esposa estaba en casa conmigo, y conduce un Tesla. La voz era la misma, con un poco de cadencia extraña, pero sonaba 100% igual a ella. Si no hubiera estado ahí, y no fuera por gasolina, habría caído.”

Detalló que la conversación fue veloz, y se preguntó si podría tratarse de un deepfake de voz o de un filtro de voz. Desearía haber grabado la llamada para demostrarlo. Aunque no queda claro si aquella llamada utilizó IA generativa o un filtro de voz en tiempo real, lo que sí es evidente es que los días en los que reconocer la voz de alguien bastaba para saber quién estaba al otro lado de la línea han quedado atrás. Y esa realidad asusta a muchos.

Cuando la noticia llegó a Reddit, algunas personas mostraron escepticismo sobre si realmente había ocurrido, pero hubo numerosos relatos similares: “Esto me pasó la semana pasada,” comentó un usuario. “Llamaron a mi tía y a mi abuela diciendo que eran abogados y que yo estaba en la cárcel y necesitaba fianzas.”

El fraude del ‘pariente en apuros’

Según el artículo de 2026 Evaluating AI Models’ Capability to Automate Voice Phishing Attacks de Fred Heiding y colegas, un estudio con 4,100 adultos estadounidenses encontró que hasta un 36.1% dijo estar dispuesto a cumplir, o no estaba seguro si lo haría, ante un fraude de voz de IA en el que se fingía ser un ser querido en apuros.

Cabe destacar que esa cifra mide la disposición autoinformada a colaborar, no cuántas personas fueron realmente engañadas. Los investigadores describen el porcentaje como una medida de susceptibilidad, no de comportamiento observado.

También se descubrió que la persuasión importaba más que cuán humano sonara la voz, y que las personas que usan IA con regularidad no eran mejores identificando voces sintéticas que aquellas con poca o ninguna exposición a la IA.

Aunque el fraude de hacer creer que un ser querido necesita dinero no es nuevo, la IA está haciendo que el peligro sea especialmente real. Si el estafador suena exactamente como tu ser querido, ¿cómo saber que es él o ella?

Una solución es establecer hoy mismo una palabra de seguridad familiar. No tiene que ser compleja: algo que todos conozcan y que sea difícil de adivinar para un estafador en internet.

Existe además una precaución aún más simple: colgar y llamar tú mismo a la persona con un número que ya conoces. Si tu hijo, tu pareja o un familiar te llama de forma inesperada pidiendo dinero, no confíes en que la voz suene correcta. Cierra la llamada y ponte en contacto directamente con ellos.

El caso de Ferrari deepfake ilustra por qué este tipo de verificación personal funciona. En 2024, un ejecutivo de Ferrari recibió mensajes seguidos de una llamada que aparentemente fingía ser el CEO Benedetto Vigna. Desconfiado, el ejecutivo pidió al supuesto Vigna que identificara un libro recientemente recomendado por el verdadero CEO. El interlocutor no pudo responder, y el intento de engaño se desmoronó.

Una palabra de seguridad familiar realiza la misma función práctica. Y puede que sea necesario empezar a pensar en ello hoy, si aún no lo has hecho.

¿Se puede confiar en lo que oyes?

“La mayor influencia de la IA no está en nuestros dispositivos; está en nosotros,” señala Mark Beare, Head of Consumer en Malwarebytes. “Cuando las personas ya no pueden confiar en lo que ven, oyen o a quién hablan, el daño se extiende mucho más allá de una estafa individual y afecta a los cimientos de nuestra sociedad.”

Una encuesta de Malwarebytes publicada en junio encontró que el 85% de las personas dijo que es difícil distinguir una estafa real de la verdadera, frente al 66% del año anterior. Tal vez más revelador aún, el 88% dijo que cada vez les resulta más difícil discernir qué contenido en línea es genuinamente humano o real.

Y ese problema no se limita a nuestra audición. Las imágenes generadas por IA y los videos con deepfakes desafían cada vez más la suposición de que ver o escuchar algo por uno mismo es prueba de que realmente ocurrió.

Antes podíamos apoyarnos en una voz familiar como prueba de identidad; hoy, en 2026, eso ya no es suficiente. La tecnología de voz de IA solo va a hacerse más convincente, por lo que nuestras conductas deben evolucionar con ella.

Concordar hoy una palabra de seguridad con las personas más cercanas y, si recibes una llamada inesperada pidiendo dinero, colgar y devolver la llamada a través de un número conocido, es un paso práctico y accesible para reducir el riesgo.

Tras la reciente renuncia de uno de los investigadores principales de Anthropic, varios directores ejecutivos de IA han pedido de manera repentina una desaceleración en el desarrollo de la tecnología para permitir que la regulación y la gobernanza alcancen a la innovación.

En una entrevista con la BBC tras su renuncia, Jacob Coxon advirtió: “Creo que si no frenamos a la velocidad actual, hay una alta probabilidad de que todos podamos morir en un futuro inmediato”.

Después de ello, Dario Amodei de Anthropic, Sam Altman de OpenAI y Elon Musk, fundador de Grok, habrían mostrado una alineación en la necesidad de ralentizar el progreso. Sin embargo, navegar por estas aguas resulta complicado, especialmente en torno a la presidencia de Estados Unidos, China y qué salvaguardas deberían implementarse.

¿Qué están diciendo los líderes de IA?

Durante el fin de semana, Amodei publicó un ensayo sobre “por qué la industria de IA debería ralentizarse”. En él afirma: “Creo que si una desaceleración nos comprara un año o dos más antes de que los modelos alcancen capacidades críticas, y utilizáramos ese tiempo para avanzar en el alineamiento, podríamos reducir en gran medida el riesgo de que algo salga gravemente mal.”

En el ensayo, Amodei planteó cómo podría “paced” la IA tanto en EE. UU. como a nivel global, junto con la recomendación de que las empresas de IA incorporaran equipos de ‘evaluadores’ para asegurar que los modelos se mantengan alineados con sus tareas. Elon Musk respondió al mensaje de Amodei diciéndole que estaba “en lo correcto”.

Sam Altman declaró a Fortune que las regulaciones y estándares para la IA estaban “todavía no en un lugar” adecuado para continuar avanzando.

Pero no todos están convencidos. El presidente de Estados Unidos, Donald Trump, ha señalado que ralentizar el desarrollo de IA es innegociable, pues permitiría a China ponerse al día rápidamente. A los periodistas les comentó que Estados Unidos “lidera a China en IA… y, francamente, quiero que siga siendo así”, añadiendo que “quien gane en IA, gana”.

Trump también afirmó que existen “fuertes fuerzas negativas” detrás de la creciente oposición a la IA y que los temores estaban siendo alimentados por “eso que no ocurrirá”.

China tampoco se muestra convencida por los llamados de las gigantes de IA. Beijing calificó las peticiones de desaceleración como “alarmismo” y una “ópera de la Guerra Fría”. En su ensayo, Amodei afirmó que “una supremacía china en IA significaría un grave peligro para Estados Unidos y el mundo”.

El portavoz del Ministerio de Relaciones Exteriores de China, Guo Jiakun, declaró: “El alarmismo, la confrontación y la competencia maliciosa solo perturbarán la gobernanza global de IA y no beneficiarán a nadie”.

Perspectivas de expertos sobre las llamadas a ralentizar la IA

• John Strand, Propietario, Black Hills Information Security:

Antes de este fin de semana, creía que las llamadas a desacelerar la IA eran puramente performativas. Luego leí las noticias y entendí que, en gran medida, no importan tanto.

Podemos hablar de ralentizar la IA hasta enrojecernos, pero cuando EE. UU. dice que no quiere detenerse por competir con China, y China impulsa agresivamente el desarrollo, hablamos de las dos potencias económicas y militares con incentivos enormes para seguir avanzando.

En ese punto, las llamadas a ralentizar no tienen mordida.

Me gustaría creer que Anthropic, OpenAI, xAI y otros laboratorios de frontera están trabajando en mejores controles. Pero a menos que los estados-nación y los grandes laboratorios de IA se pongan de acuerdo en la misma dirección, las restricciones adoptadas de forma unilateral no funcionan.

Este verdadero momento parece de una carrera armamentista.

Sigan conmigo.

En 1950, el físico Leó Szilárd habló públicamente sobre la idea de una bomba de cobalto, un arma de doomsday que podría generar suficiente fallout radiactivo para hacer inhabitable la Tierra. No estaba proponiendo construirla; estaba tratando de demostrar hacia dónde podría llevar la tecnología.

Esa es la clase de momento que creo que nos acercamos con la IA.

Durante la carrera de armamentos nucleares, las consecuencias fueron lo suficientemente graves como para que las naciones rivales al menos comenzaran a discutir límites, controles y vías para evitar que la competencia termine en desastre.

Creemos estar ante un problema similar con la IA. Hasta que China, Estados Unidos y los principales laboratorios de frontera se sienten a la misma mesa, las restricciones adoptadas por compañías o países por separado tendrán serias dificultades para funcionar.

Alguien que desacelere solo funciona si el otro también lo hace.

• Ryan McCurdy, VP, Liquibase:

Ralentizar el desarrollo de frontera podría dar a las empresas más tiempo para entender y abordar los riesgos descritos por Amodei. Pero las empresas no pueden basar su estrategia en la suposición de que la IA se va a ralentizar.

La IA ya está pasando de generar contenido y código a tomar acciones en sistemas de entrega de software y de producción. La pregunta para las empresas es cómo adoptar esa capacidad sin ceder el control.

Eso implica colocar gobernanza en donde las decisiones de IA se convierten en acciones reales. Las organizaciones deben definir qué puede acceder un agente, qué puede cambiar, qué puede decidir por sí mismo y qué políticas deben cumplirse antes de que un cambio alcance un sistema crítico. Esos controles deben funcionar tanto si la acción proviene de un desarrollador, de la automatización o de un agente de IA.

Podemos debatir qué tan rápido debe avanzar la frontera. Las empresas siguen teniendo que prepararse para dónde va.

• Tristan Watkins, director de servicios e innovación, Advania UK:

Hasta hace poco, los laboratorios de IA principales mostraban cierta renuencia a ralentizar sus esfuerzos de desarrollo de forma unilateral. En la última semana eso cambió, con nuevos compromisos de OpenAI y Anthropic para priorizar el alineamiento y la interpretabilidad, hacerse verificables externamente y establecer precedentes de seguridad que los gobiernos podrían adaptar.

Dado que estos dos organismos ya asignan mucho más a la Seguridad de IA que sus competidores, es una bienvenida bilateral. Parece que otros laboratorios estadounidenses podrían seguir el ejemplo, pero dadas las diferencias en gasto de Seguridad de IA fuera de Anthropic y OpenAI, requerirá más inversión que palabras.

• Oleksandr Yaremchuk, CTO y cofundador, Manifold Security:

Ralentizar la frontera es el tema correcto, pero no puede sustituir la seguridad de la IA ya desplegada. La realidad incómoda es que estamos debatiendo cómo construir agentes aún más potentes mientras luchamos por controlar los ya operando con credenciales reales, accesos y consecuencias en el mundo real.

Los incidentes detrás de este debate lo dejan claro. El ataque de Hugging Face no fue solo una falla de alineación del modelo. Los agentes corrieron durante días a través de un sistema sin supervisión, con credenciales que no habían sido rotadas, y la víctima detectó la actividad antes de que las personas que operaban los agentes se dieran cuenta. El problema no fue solo lo que el modelo era capaz de hacer. Fue que nadie estaba observando lo suficiente cuando actuó.

Una analogía adecuada es con materiales peligrosos. No esperamos a que se vuelvan más peligrosos para decidir cómo deben manejarse. Controlamos su custodia, monitoreamos a dónde van, limitamos quién puede acceder a ellos y establecemos una responsabilidad clara cuando algo sale mal. Los agentes de IA necesitan el mismo planteamiento.

La evaluación independiente de modelos de frontera es importante. Pero si un agente puede actuar de forma autónoma en tus sistemas hoy, ya deberías poder responder a tres preguntas básicas: ¿qué hizo?, ¿qué tuvo acceso?, ¿podrías haberlo detenido? Si no sabes qué hizo ni a qué pudo acceder, no puedes saber si podrías haberlo detenido. Ralentizar la próxima generación no resolverá el problema que tienes ahora.

• Heath Mullins, Chief Evangelist, ExtraHop:

Los líderes de IA que piden una desaceleración están confirmando lo que la industria de seguridad ya vive de primera mano. Este no es un riesgo hipotético; es el panorama de amenazas que defendemos ahora.

Aunque es preocupante ver la velocidad de la innovación detrás de estos modelos, el verdadero desafío es que las organizaciones no han tenido el tiempo para construir la infraestructura necesaria para defenderse frente a amenazas de velocidad de máquina.

Comprender la actividad de IA dentro de una organización es crucial, como hemos visto cuando los modelos escapan de los entornos controlados a pesar de las salvaguardas. Todas las organizaciones dependerán de agentes de IA para la defensa a velocidad de máquina, y necesitarán su propia gobernanza sobre cómo operan estos modelos y agentes dentro de su entorno, empezando por evidencia independiente de qué hacen, a qué acceden, a dónde mueven datos, con qué sistemas se comunican y qué acciones toman.

No puedes gobernar IA con base en lo que un modelo está diseñado o permitido a hacer. En cambio, necesitas evidencia en tiempo real de lo que realmente hacen los modelos y agentes, porque la brecha entre una IA cada vez más poderosa y la capacidad de los defensores para verla es exactamente donde ocurre el próximo incidente.

• Bri Frost, Directora de Gestión de Producto, Cloud Range:

La respuesta no es necesariamente detener la innovación de IA, sino dejar de pretender que la innovación y la seguridad avanzan a la misma velocidad.

Cuando ChatGPT estuvo disponible públicamente en 2022, los modelos eran muchísimo menos capaces y las salvaguardas eran fáciles de manipular. La diferencia es que los modelos detrás de esas salvaguardas ya no son los de 2022. Pueden razonar mejor, escribir y depurar código. Pueden operar como agentes. ¡Y cada vez pueden interactuar y afectar infraestructuras reales!

Mientras tanto, el ciclo de lanzamiento de modelos ha pasado de saltos de capacidad cada año o dos a saltos cada semanas. Eso crea una asimetría peligrosa: la capacidad de IA se acelera mientras la seguridad no lo hace al mismo ritmo.

La seguridad y la innovación siempre han estado en conflicto. Si cada problema de seguridad tuviera que resolverse antes de lanzar algo, nunca hubiéramos entregado nada. Pero el extremo opuesto es igual de imprudente: acelerar la capacidad confiando en arreglos de seguridad que se añadirán después y serán efectivos.

Cada nueva versión de la capacidad de IA amplía la superficie de ataque exponencialmente. Si das a un modelo una mejor capacidad de razonamiento, luego acceso a herramientas, luego memoria, luego autonomía, luego conectividad con sistemas de producción, y ayer la evasión ya no es solo un prompt ingenioso, sino una ruta de ejecución. Ese es el efecto bola de nieve que deberíamos temer.

La responsabilidad también recae en las empresas de IA. Si una empresa SaaS envía software con controles de seguridad débiles y los clientes resultan dañados, no justificaríamos con que estaban ‘innovando rápido’.

Entonces, ¿por qué se está tratando la IA de forma diferente?

No puedes apostar a construir sistemas cada vez más potentes, obtener beneficios y luego encogerte cuando fallos de seguridad previsibles causan daño.

La conversación no debería limitarse a: “¿Deberíamos ralentizar la IA?”

Debería preguntarse: ¿Nuestra capacidad para probar, validar, contener y asegurar la IA puede mantenerse al ritmo de nuestra capacidad para hacerla más poderosa? ¿Existe un interruptor de seguridad inequívoco?

A día de hoy, la respuesta es no.

Y si vamos a seguir acelerando —lo que creo que haremos— entonces la prueba independiente, la evaluación adversarial, entornos de prueba aislados, contención, validación continua y seguridad desde el diseño no pueden seguir siendo pasos opcionales que añadimos después de la innovación.

Cuanto más rápido construimos el motor, más importantes se vuelven los frenos.

En un momento en que los consumos energéticos se vigilan con mayor rigor, siguen circulando en Amazon dispositivos promocionados como “ahorradores de energía” que, en la práctica, no cumplen las normas de seguridad ni las expectativas de rendimiento. Este tema ha generado preocupación entre parlamentarios y defensores del consumidor, pues se trata de un engaño que podría acarrear riesgos reales para los hogares.

La noticia llega después de que Which? detectara por primera vez estos productos en 2025 y que Amazon asegurara haber retirado las listas. Sin embargo, recientes observaciones señalan que, a pesar de promesas de retirada, siguen disponibles para su compra en la plataforma británica. Este patrón, ocurrido en varias ocasiones, ha llevado a cuestionamientos sobre la efectividad de las medidas de control y clasificación automática de productos de Amazon.

Durante una sesión del Parlamento, el diputado liberal-demócrata Joshua Reynolds destacó los peligros de estos enchufes, que pueden representar un riesgo de incendio. En agosto, la directora de Asesoría Pública de Amazon para Reino Unido, Monica Ariño, comunicó al Comité de Negocios y Comercio de la Cámara de los Comunes que los dispositivos habían sido eliminados, atribuyendo la permanencia de algunos listados a una “cuestión técnica en el sistema de clasificación automatizado” que dificultaba la detección proactiva de estos productos.

No es la primera promesa de retirada. En 2025, Which? detectó los enchufes y, tras ponerse en contacto con minoristas, se logró su eliminación en varias tiendas. No obstante, semanas después se hallaron listados idénticos en Amazon, lo que generó dudas sobre la consistencia de las medidas de cumplimiento.

Aun con el compromiso público de eliminar estos productos, seguimientos recientes verificaron su presencia en las páginas de Amazon UK. Medios como Telegraph también informaron sobre listados similares, lo que subraya la necesidad de una vigilancia más rigurosa por parte de la plataforma y de respuestas claras ante las autoridades.

El legislador Reynolds anunció que remitirá una carta a Amazon para exigir explicaciones, señalando que “Amazon tiene preguntas importantes que responder. Estos son exactamente los mismos productos evaluados por Which?”. También afirmó que dichos enchufes aparecen como anuncios patrocinados en las partes superiores de las páginas de listado.

El origen de la preocupación se remonta a pruebas realizadas por Which?, que evaluaron ocho dispositivos de tiendas como eBay, AliExpress, Shein y TikTok Shop. Las conclusiones indicaron que ninguno de los enchufes probados funcionaba adecuadamente y que, al menos, su venta podría ser ilegal en el Reino Unido al no cumplir normas básicas de seguridad.

¿Cómo prometen ahorrar energía estos enchufes? En las descripciones disponibles, se les presenta como “estabilizadores de voltaje” y “protección contra sobretensiones”, con la afirmación de mejorar significativamente la factura eléctrica al optimizar el rendimiento de los electrodomésticos. Su precio suele situarse entre 10 y 15 libras, lo que los hace atractivos para un público ávido de soluciones rápidas ante facturas en aumento.

No obstante, las evaluaciones señalan riesgos: para muchos enchufes, las clavijas de las tomas eran demasiado pequeñas, estaban torcidas o eran tan frágiles que se rompían fácilmente. Otras pruebas encontraron fallos de fabricación, incluyendo condensadores y soldaduras no conformes con estándares básicos de seguridad. A día de hoy, Amazon no ha ofrecido un comentario público sobre el estado actual de estos listados ni ha respondido a las solicitudes de la redacción para clarificar la situación.

Este asunto resalta la responsabilidad de las plataformas de comercio electrónico para garantizar que los productos que venden cumplen normas de seguridad, no engañan a los consumidores y no exponen a los hogares a riesgos innecesarios. A medida que las facturas de energía siguen siendo una preocupación, la transparencia y la acción decidida de los reguladores y los minoristas son más necesarias que nunca para proteger a los usuarios.