La legislación reciente en China marca un giro notable en la forma en que las herramientas de IA orientadas a simular relaciones emocionales deben operar. A partir del 15 de julio, las regulaciones prohíben que los asistentes de IA “cuiden excesivamente de los usuarios, induzcan dependencia emocional o adicción, y dañen las relaciones interpersonales reales”. Además, se restringen las relaciones románticas con IA que involucren a menores. Estos cambios han tenido un impacto inmediato en una industria de IA de rápido crecimiento, con grandes actores como ByteDance, Tencent y Alibaba ajustando sus plataformas para cumplir con evaluaciones de seguridad previas a la publicación y con la posibilidad de suspender servicios considerados inseguros. En respuesta, algunas compañías optaron por desactivar rasgos de personalidad para evitar incumplimientos, dejando a usuarios con sentimientos de desilusión o duelo tecnológico. Este fenómeno recuerda casos pasados, como el cierre o la retirada de modelos de IA muy populares, que también dejaron huellas emocionales en usuarios que habían construido vínculos significativos.

La pregunta que muchos se plantean a nivel global es si otros países deberían seguir el ejemplo de China con prohibiciones o restricciones similares. En mi conversación con Mimi, una usuaria que desarrolló una relación con una compañera de IA, mis perspectivas iniciales evolucionaron. Aunque sigo creyendo que las IA compañeras no representan una solución adecuada para la mayoría de personas —en especial por el desarrollo de habilidades sociales en menores—, es innegable que muchas personas buscan estas herramientas para obtener conexión cuando otros canales fallan.

Para entender el fenómeno, consulté a la terapeuta Amy Sutton de Freedom Counselling. Sutton señala que estamos ante un cambio cultural y social hacia el individualismo, que ha erosionado contextos comunitarios como bares, parques, centros comunitarios y clubes juveniles. En muchos lugares, esas infraestructuras han sido desfinanciadas o cerradas. La pandemia, la dependencia de redes sociales y el teletrabajo intensifican la sensación de aislamiento, lo que empuja a recurrir a la tecnología para sentir compañía. Aun así, advierte que una regulación más estricta debe considerar las condiciones que generaron la demanda de estas IA en primer lugar.

Es importante también reconocer la magnitud del fenómeno: si bien es difícil medir con precisión cuántas personas utilizan IA para compañía, investigaciones señalan que una proporción significativa de adultos en Reino Unido y Estados Unidos ha tenido al menos una experiencia con IA compañera, y cifras similares se observan entre adolescentes. Estas cifras deben tomarse con cautela, pero sugieren que para algunos, estas herramientas satisfacen necesidades que de otra forma podrían quedar desatendidas. Sutton añade: “la experiencia de ser escuchado, validado y aceptado sin juicio, incluso por una máquina, puede ser verdaderamente significativa”. Para quienes han sido fallados repetidamente por relaciones humanas o servicios de salud mental, la IA puede llenar un vacío vital.

En el ámbito visual, las IA compañeras han sido presentadas como herramientas que podrían enseñar habilidades sociales. Sin embargo, la forma en que están diseñadas hoy tiende a favorecer la retención de usuarios y no necesariamente la transición hacia relaciones humanas. Si se replantearan sus finalidades y se regulasen para fomentar la vulnerabilidad y el desarrollo de habilidades sociales, podría haber un camino más constructivo. La pregunta no es solo si deben existir, sino qué deben hacer por las personas que se apegan a ellas.

La prohibición o restricción de estos sistemas no elimina la soledad; si las IA sustituyen comunidades desparecidas o servicios sobrecargados, quitarles la posibilidad de proporcionar alivio podría profundizar el vacío. En lugar de centrarse únicamente en la existencia de estas herramientas, una vía más fructífera podría ser definir expectativas claras: medir su éxito no por la frecuencia de retorno, sino por su capacidad para facilitar una transición hacia interacciones humanas reales cuando sea posible. En última instancia, el debate podría beneficiarse de enfoques mixtos que equilibren protección, acceso responsable y exploración de usos potenciales para apoyar la conexión social sin sustituirla.

Este tema no tiene respuestas simples, pero sí una invitación a pensar en cómo la regulación puede evolucionar para responder a necesidades reales, reducir riesgos y, al mismo tiempo, abrir espacios para que la tecnología sirva como puente hacia relaciones humanas más saludables y sostenibles.

from Latest from TechRadar https://ift.tt/Qx4wf7d
via IFTTT IA