Australia avanza hacia una regulación más amplia de la seguridad en internet. El proyecto de Ley del Deber Digital de Cuidado, aprobado por la Cámara de Representantes el 28 de octubre, busca establecer nuevas obligaciones para redes sociales, videojuegos, aplicaciones y chatbots. Entre sus medidas figura impedir que los chatbots de inteligencia artificial (IA) busquen generar «intimidad emocional» con sus usuarios.
La iniciativa, impulsada por el Gobierno laborista del primer ministro Anthony Albanese, todavía debe debatirse en el Senado. El Gobierno espera que pueda aprobarse antes de que termine el año, aunque su futuro legislativo no está asegurado: los Verdes respaldan la propuesta, mientras que la Coalición y One Nation han expresado su rechazo y la han calificado de censura.
El proyecto no se limita a los chatbots. También pretende reemplazar las normas generales vigentes sobre seguridad en línea y reforzar la protección frente a contenidos relacionados con la misoginia, el terrorismo, el suicidio, las autolesiones y los trastornos alimentarios. Además, exigiría a las plataformas de redes sociales ofrecer una opción de fácil acceso para desactivar las recomendaciones de contenido basadas en algoritmos.
El debate se produce en un contexto de creciente preocupación por el vínculo que algunas personas establecen con los asistentes de IA. Según una encuesta de la Asociación Estadounidense de Psicología (APA), el 49 % de los adultos que usan IA afirma conversar con ella como si fuera una amistad. Otro 47 % dice haber recurrido a estas herramientas como si fueran profesionales de la salud mental, por ejemplo, para obtener una segunda opinión sobre recomendaciones terapéuticas o realizar ejercicios de apoyo psicológico.
Los resultados también apuntan a factores que pueden aumentar la demanda de apoyo emocional: entre los 3.132 participantes de la encuesta, el 77 % señaló el costo de vida como una de sus principales fuentes de estrés y el 74 % mencionó su preocupación por el futuro del país.
### Un debate sobre seguridad y autonomía digital
Albanese ha instado a los legisladores a tomar en serio los casos de personas que consideran a un chatbot su mejor amigo. El Gobierno sostiene que la regulación puede ayudar a prevenir la dependencia emocional, especialmente entre los jóvenes. Australia ya había adoptado medidas restrictivas en este ámbito: en 2025 se convirtió en el primer país en prohibir el acceso a las redes sociales a menores de 16 años.
La propuesta australiana también se inscribe en una tendencia internacional. China introdujo normas para restringir los compañeros románticos generados por IA, incluidos los servicios que interactúan con menores. Las reglas buscan frenar sistemas que fomenten la dependencia o interfieran con las relaciones interpersonales, y algunas aplicaciones tuvieron que someterse a evaluaciones antes de volver a estar disponibles.
Aun así, el proyecto australiano enfrenta críticas sobre el alcance de la regulación y la posibilidad de que limite contenidos de forma excesiva. El Gobierno se ha mostrado dispuesto a considerar modificaciones para conseguir apoyo parlamentario. Por otro lado, durante el debate en la Cámara de Representantes fue rechazada una enmienda que habría asignado al defensor del pueblo de telecomunicaciones funciones de supervisión de redes sociales y servicios de IA. Sus defensores argumentan que un organismo de ese tipo podría recibir quejas, investigar problemas y exigir responsabilidades a las grandes empresas tecnológicas.
### Los límites de la IA como apoyo emocional
Los chatbots pueden ofrecer respuestas inmediatas, pero no sustituyen la atención profesional. Pueden proporcionar información inexacta, pasar por alto detalles importantes o responder de forma inadecuada ante una situación de crisis. Además, los usuarios podrían compartir datos personales sensibles sin conocer plenamente cómo se almacenan o utilizan sus conversaciones.
Por eso, las respuestas de un chatbot deberían considerarse orientación general, no un diagnóstico ni un plan de tratamiento. Si los síntomas persisten, empeoran o afectan la vida cotidiana, es importante acudir a un profesional cualificado y no depender únicamente de una herramienta de IA.
La iniciativa australiana plantea una cuestión que otros países también deberán abordar: cómo reducir los riesgos de los servicios digitales sin perder de vista su utilidad ni restringir de manera desproporcionada la libertad de los usuarios. La respuesta dependerá, en parte, de las modificaciones que se incorporen al proyecto y del resultado de su debate en el Senado.
from Latest from TechRadar https://ift.tt/3Sjx2cY
via IFTTT IA
