¿Recuerdas esas 200 preguntas que le hiciste a ChatGPT y que jamás te atreverías a hacerle a tu madre? Quizá pensaste que eran confidenciales. Sin embargo, cada vez hay más casos que muestran que estas conversaciones no cuentan necesariamente con protección legal y podrían llegar a utilizarse en un proceso judicial.

En mayo de 2025, un tribunal de Estados Unidos ordenó a OpenAI entregar más de 20 millones de registros de ChatGPT que los usuarios habían eliminado, en el marco de la demanda por derechos de autor presentada por The New York Times.

Además, una investigación publicada por The Washington Post en agosto de 2026 reveló que al menos una docena de casos judiciales habían citado registros de chatbots de IA como pruebas. El hallazgo pone de relieve que incluso las confesiones más personales que se comparten con estas herramientas podrían tener consecuencias legales.

En el caso Estados Unidos contra Heppner, el juez Jed Rakoff determinó que las conversaciones de un acusado con Claude no estaban protegidas por el secreto profesional entre abogado y cliente ni por la doctrina del producto del trabajo. Según el juez, no existe —ni podría existir— una relación entre abogado y cliente entre una persona usuaria de IA y una plataforma como Claude.

“Muchas personas tratan a la IA como si fuera un diario privado. Pero, desde el punto de vista legal, es un registro que conserva una empresa y que no cuenta con las protecciones aplicables a lo que se le cuenta a un abogado o a un médico”, explica Eamonn Maguire, director de Ingeniería y Aprendizaje Automático de Proton, empresa que también desarrolla un asistente de IA centrado en la privacidad.

Aun así, muchas personas no consideran el peso que sus diarios digitales podrían tener ante la ley.

Cuando un chatbot sabe demasiado

Una encuesta reciente de DuckDuckGo concluyó que hasta el 75 % de las personas participantes no sabía que las conversaciones con chatbots de IA podían ser objeto de una citación judicial o una solicitud de datos por parte de las autoridades.

“Lo mismo ocurre con los motores de búsqueda tradicionales”, afirma Zac Pappis, vicepresidente sénior de Investigación de DuckDuckGo. “Por ejemplo, Google recibe decenas de miles de órdenes de registro, citaciones y otras solicitudes de información de usuarios y, en la mayoría de los casos, proporciona los datos”.

Que una conversación con IA pueda presentarse ante un juez depende de las circunstancias de cada caso. Además, las normas de privacidad varían según el país y se rigen por una combinación compleja de leyes nacionales, marcos internacionales y prácticas jurídicas.

En el Reino Unido, todavía no existe una legislación específica que regule cómo deben entregar sus datos las empresas de IA. “El país aún no ha desarrollado un régimen regulatorio propio para la inteligencia artificial o las conversaciones con estos sistemas”, señala Melissa Hall, directora jurídica y especialista en IA del despacho Morton Fraser MacRoberts.

Algunos proveedores también analizan conversaciones y pueden remitir información a la policía. En agosto de 2026, una mujer de Florida fue acusada después de que el sistema de Anthropic señalara sus conversaciones con Claude para que fueran revisadas por una persona. La empresa se puso posteriormente en contacto con la policía. “Según los informes, ella utilizaba el servicio como un diario y desconocía que el personal podía leer sus mensajes”, comenta Maguire.

Estos sistemas también pueden equivocarse al interpretar situaciones delicadas. Anthropic informó recientemente que, durante unas pruebas, uno de sus agentes de IA envió una pista inventada a un portal policial de denuncias sobre homicidios.

“A medida que los agentes de IA actúen cada vez más en nuestro nombre, es fácil imaginar que uno interprete mal una conversación y presente una denuncia por iniciativa propia, o que alguien lo dirija deliberadamente para denunciar falsamente a otra persona a gran escala”, añade Maguire.

Intentar ocultar ciertos datos tampoco garantiza el anonimato. Como advierte Phil James, socio y responsable de Datos, Privacidad y Ciberseguridad del despacho Browne Jacobson, “que se elimine el nombre de alguien no significa que esa persona no pueda ser identificada”.

Además, tratar un chatbot como un diario suele implicar hablar de otras personas. “Se olvida que la información personal de terceros también puede estar protegida por las leyes de protección de datos”, subraya James. “Se está compartiendo información sobre otras personas sin contar necesariamente con su consentimiento”.

Eliminar una conversación no siempre basta

Pulsar «Eliminar» no necesariamente borra todos los rastros. Si un tribunal ordena conservar determinados datos, estos pueden seguir existiendo aunque el usuario haya eliminado la conversación de su cuenta.

Venetia Argyropoulou, asesora jurídica general de ExpressVPN, señala que muchas personas suponen que una conversación desaparece por completo al borrarla. “En realidad, puede conservarse durante cierto tiempo. Las políticas de privacidad suelen indicar que los datos pueden guardarse por más tiempo si la ley lo exige”.

El artículo 17 del RGPD del Reino Unido permite solicitar la supresión de datos personales, pero contempla excepciones. “Si una organización tiene la obligación legal de conservar cierta información, por ejemplo, para preservar pruebas relacionadas con un procedimiento judicial, esa obligación generalmente prevalece frente a una solicitud de eliminación”, explica Hall.

Algunas voces sostienen que las grandes empresas tecnológicas deberían explicar sus prácticas con más claridad. “Las personas merecen una advertencia visible antes de empezar a escribir, no una explicación escondida en lo más profundo de una política de privacidad”, afirma Maguire.

En el Reino Unido, las directrices de la Oficina del Comisionado de Información (ICO) establecen que la información sobre privacidad debe ser fácilmente accesible y estar redactada en un lenguaje claro y sencillo. Por ello, publicar una política de privacidad en algún lugar del sitio web podría no ser suficiente. “Si el uso de conversaciones con IA se convierte en un área de mayor riesgo regulatorio, es posible que aumenten las expectativas sobre la visibilidad de estas advertencias”, explica Hall.

Cómo reducir los riesgos

Mientras evolucionan las normas, las empresas que desarrollan herramientas de IA centradas en la privacidad sostienen que también es necesario cambiar la arquitectura de estos servicios.

“La protección real consiste en que el proveedor nunca conserve las conversaciones en un formato que pueda leer: no se puede entregar lo que no se puede leer”, afirma Maguire.

Argyropoulou coincide en que las empresas pueden impugnar ciertas solicitudes, pero deben cumplir las órdenes judiciales que les exijan conservar o entregar datos. “Los usuarios tienen muy poco control y, en la mayoría de los casos, ni siquiera sabrán que esto está ocurriendo”.

Por eso, antes de compartir información sensible, conviene pensar si estarías cómodo con que ese contenido apareciera en una disputa legal. También es importante revisar qué datos recopila cada servicio, cuánto tiempo los conserva y en qué circunstancias puede compartirlos.

Argyropoulou recomienda considerar herramientas que protejan las conversaciones mediante cifrado de extremo a extremo hasta el navegador del usuario y entornos seguros de ejecución, de modo que la empresa no pueda acceder a las transcripciones o los registros y, por tanto, tampoco pueda entregarlos.

“A medida que las personas confían cada vez más aspectos de su vida a la IA, la privacidad debe formar parte del diseño de estas herramientas, no limitarse a lo que promete una política”, concluye Argyropoulou.

from Latest from TechRadar https://ift.tt/DOgI9Cu
via IFTTT IA