Meta supuestamente está probando un prototipo de gafas con IA de super-sensing que busca ofrecer un nivel de asistencia sin precedentes, a costa de capturar cada momento de la vida del usuario. La idea central es que, cuanto más sabe la IA de una persona, mejor puede ayudar. Al tener las gafas observándolo todo, el sistema podría recordar si hay leche en el frigorífico o avisar al usuario de no olvidar las llaves al salir, recordar regalos para un amigo o reconocer a alguien que ya se ha conocido. Aunque estas capacidades resultarían muy útiles, implican un costo enorme: las gafas tendrían que estar encendidas todo el tiempo para no perder información crucial.

Este nivel de conocimiento podría ser fácilmente mal utilizado. Por ello, los usuarios tendrían que confiar plenamente en la empresa que recopila los datos, o simplemente aceptar que la IA lo sepa todo. La filtración de datos y la vigilancia cercana plantean preguntas serias sobre privacidad, especialmente de las personas que rodean al usuario y que no consintieron ser grabadas.

Según una filtración citada por el Financial Times (FT), Meta está experimentando con un par de gafas que lograrían este “super-sensing” capturando audio continuo y tomando fotos cada pocos segundos. Para conservar batería, es probable que el feed de imágenes sea más espaciado. Informes anteriores señalan que las gafas ya cuentan con el hardware necesario; el desafío es la duración de la batería.

También se discute si la luz indicadora de grabación (LED) debería mostrarse o no. Aunque hay planes para que, en algunos modos, no aparezca, la etiqueta de grabación podría disuadir a terceros de ser grabados. Tras el anuncio de privacidad de Meta y la posibilidad de deshabilitar trucos que permiten grabar sin activar la luz, es probable que la opción sin luz no esté disponible de inmediato, pero habrá que esperar.

El debate “hombre versus máquina” se intensifica al recordar las historias sobre contratistas que afirmaron poder ver imágenes grabadas con estas gafas. En esencia, para usar la IA de Meta se acepta que la empresa vea información sobre las comunicaciones de IA, incluidos videos y fotos, incluso cuando se controlan por voz. Si la IA está encendida todo el tiempo, podría surgir un mayor riesgo de exponer datos sensibles. No obstante, según personas familiarizadas con la tecnología, hay planes para no almacenar el material bruto, sino extraer metadatos y subir solo estos. Metadatos, en lugar de mostrar una foto, describirían su contenido y ubicación.

Aun así, podría filtrarse información personal; con salvaguardas adecuadas, las implicaciones de privacidad serían menores. El gran hueco sería la privacidad de quienes rodean al usuario, quienes no consentirían que Meta almacene datos sobre ellos. El FT añade también debates sobre si la IA de Meta podría usar estos metadatos para entrenar modelos, para mantenerse al día con OpenAI, Google y Anthropic.

Aunque las filtraciones deben tomarse con cautela, Mark Zuckerberg ha dejado claro que quiere ofrecer estas funciones en las gafas, señalando que buscan que los lentes sean un “agente personal” que acompañe al usuario todo el día para ayudar a recordar cosas y lograr metas. Así, la llegada de tecnologías como el super-sensing parece más una cuestión de cuándo, no de si, aunque persisten limitaciones de batería y la atención a la privacidad podría retrasar su implementación.

Cuando finalmente lleguen, será crucial que se implementen de manera adecuada y con salvaguardas pertinentes. Una herramienta así podría traer beneficios de accesibilidad sorprendentes, pero si el coste en privacidad es demasiado alto, no tendrá el impacto que Meta buscaría.

from Latest from TechRadar https://ift.tt/ECNjF0z
via IFTTT IA