Amazon ha encontrado otra forma de hacerse indispensable en nuestra vida diaria con sus nuevos dispositivos Bee AI. Las Bees pueden grabar conversaciones y se presentan como una forma de recordar detalles importantes y convertir planes en acciones. Por supuesto, esas acciones pueden incluir comprar cosas en Amazon, haciendo de cada conversación casual un carrito de compras potencial. Puedes pagar 75 o 100 dólares por el privilegio, dependiendo de si elijes Bee Frontier, que se sujeta a una pulsera o ropa, o Bee Eclipse, un accesorio magnético para el teléfono.

Existen aplicaciones prácticas para algo que recuerda detalles de una conversación que de otro modo olvidarías. Un asistente que memorice una cita, prepare un correo de seguimiento o te recuerde una promesa podría ahorrar mucho tiempo. Pero el anuncio de Amazon también promete recomendaciones de compra personalizadas basadas en lo que Bee aprende sobre ti, lo que me parece un destino sombrío, si inevitable, para las herramientas de IA.

Por supuesto, podrías argumentar que muchas personas ya han invitado a Amazon a sus hogares a través de dispositivos Alexa. Además, Amazon ya dispone de una cantidad potencialmente enorme de datos de clientes a partir de historiales de compra, lo que le permite recomendar productos con tal precisión que es casi un chiste la idea de que, si mencionas un tema en voz alta, aparezcan artículos relacionados en tus recomendaciones.

Ese chiste es una característica explícita de las nuevas Bees. Convertir conversaciones habladas en otra fuente de asistencia personalizada está pensada para atraer a posibles clientes. La pregunta es si esto es un puente demasiado lejano para permitir que Amazon espie nuestras vidas para influir en nuestras compras.

La charla ociosa se convierte en lista de compras

La idea de un asistente de IA que recuerde lo que dices y no deje escapar nada importante es atractiva por la conveniencia que promete. Pero imagina mencionar casualmente que te duele la espalda, que tu coche hace un ruido extraño o que tu hijo se interesó por los dinosaurios. Eso no solo sería un recordatorio para una cita médica, para arreglar el coche o para comprar entradas al museo; también son puntos de datos para posibles intereses de compra que quizá nunca hubieran llegado a un minorista.

Amazon no ha dicho que Bee convierta automáticamente cada queja escuchada en una recomendación de producto, pero la integración de compras crea una vía obvia para hacerlo. Aun así, podría ser demasiada personalización. Añadir información de conversaciones habladas a lo que Amazon ya sabe podría dibujar un retrato mucho más íntimo de la vida de alguien, a pesar de las promesas de la compañía de mantener los datos bajo control del usuario.

Y existen protecciones de privacidad reales en el sistema, según la empresa. La IA de Bee procesa el audio en tiempo real y elimina las grabaciones en lugar de conservarlas, mientras que las transcripciones de las conversaciones están encriptadas y los usuarios pueden borrarlas. Los dispositivos también incluyen controles físicos y luces que indican cuándo están escuchando. Además, la conexión de compras de Amazon es opcional y requiere consentimiento (opt-in).

Pero eliminar el audio original no elimina todas las preocupaciones de privacidad cuando un dispositivo está diseñado específicamente para recordar e interpretar lo que las personas dicen. La información extraída de una conversación puede ser tan reveladora como la grabación misma.

Aves de rapiña: Bee escuchando

El problema de privacidad se complica aún más cuando otras personas participan en la conversación. Alguien que use un dispositivo Bee podría sentirse cómodo con el análisis de sus conversaciones, pero sus amigos y colegas no necesariamente han aceptado participar. Un indicador de grabación visible no es un sustituto de un consentimiento significativo, especialmente cuando las personas pueden no reconocer el dispositivo o entender qué hace.

Ya hemos visto esta controversia con las gafas Meta Ray-Ban. Personas han reportado grabaciones inesperadas e incluso filmaciones. Bee no tiene los mismos problemas de cámara, pero grabar conversaciones presenta sus propios dilemas. Una conversación entre amigos que trate un diagnóstico médico o una disputa laboral podría no sentirse tan abierta si saben que llevas una Bee. No han aceptado convertir sus comentarios en datos buscables por un minorista.

También surgen preguntas prácticas sobre dónde es apropiado grabar. Las conversaciones privadas pueden implicar información confidencial, y las leyes de grabación varían muchísimo según la ubicación y las circunstancias. Cualquiera que use Bee debe considerar el consentimiento de las personas que participan, independientemente de si Amazon elimina el audio original.

El hecho de que la personalización de compras sea parte de las ambiciones del producto dice algo revelador sobre cómo la empresa imagina el futuro de la IA personal. Amazon y Meta parecen convencidos de que el futuro involucra dispositivos que observan más de nuestras vidas para anticipar lo que necesitamos a continuación. Y es fácil pensar en razones para desarrollar estas capacidades. Personas con dificultades de memoria, profesionales ocupados y cualquiera que tenga que gestionar agendas complicadas podrían beneficiarse de recordatorios confiables y búsquedas de conversaciones. Pero convertir dispositivos de grabación en un accesorio común podría tener consecuencias de gran alcance, no todas agradables.

Para mí, la integración de compras es donde la visión de Amazon se vuelve particularmente poco atractiva. Puedo apreciar un asistente que recuerde que prometí llamar a alguien o me recuerde una cita. Tengo menos entusiasmo por un dispositivo que podría convertir una simple declaración sobre necesitar un par de zapatos en otra oportunidad para que Amazon sugiera algo que debería comprar.

Hemos pasado años enseñando a las compañías de tecnología sobre nuestros intereses a través de búsquedas, compras, clics y historiales de navegación. Los wearables de IA como Bee podrían extender esa relación a nuestras conversaciones con otras personas. No es algo que me emocione que mis conversaciones se conviertan en otra fuente de recomendaciones de compra. Si es tan importante, quizá simplemente escríbelo.