Anthropic ha presentado Frontier Safeguards (EFS) como una vía para garantizar la seguridad y legitimidad del uso de modelos avanzados sin comprometer los datos de las empresas clientes. El enfoque propone almacenar la información de actividad relevante dentro de la infraestructura en la nube controlada por el cliente, manteniendo, al mismo tiempo, la promesa de no conservar prompts ni salidas, alineándose con protecciones de nivel empresarial.

El despliegue está previsto para iniciar este otoño. Anthropic sostiene que la nueva política resuelve el conflicto creciente entre la monitorización de la seguridad de la IA y los requisitos de privacidad de las empresas. Según la compañía, los modelos de frontera, incluidos los suyos, pueden ser utilizados de manera malintencionada para fraudes, ciberataques y otras amenazas autónomas; sin embargo, detectar estos ataques a menudo requiere correlacionar comportamientos a través de múltiples sesiones, usuarios y cuentas. Como respuesta, la firma lanzó una política de retención de 30 días para algunos de sus modelos, pero las industrias reguladas y los clientes empresariales no quedaron plenamente satisfechos.

“Desarrollamos EFS en estrecha colaboración con más de 100 clientes en sectores como servicios financieros, salud, manufactura, telecomunicaciones, derecho, retail y el sector público”, indicó Anthropic. El papel de EFS es desplazar el almacenamiento de datos monitoreados, llevando la política a un plano más acorde con las demandas de estos clientes. El sistema de monitorización automatizado envía cualquier incidencia marcada al cliente, manteniendo a los trabajadores de Anthropic al margen de los datos potencialmente sensibles.

“Lo que escuchamos de muchos clientes, especialmente de industrias reguladas, es que la persona que realiza la revisión debe ser de su propia organización”, añadió la compañía.

Como medida provisional, los clientes elegibles también recibirán retención de datos cero en Fable 5 y Fable 5.1 hasta que EFS esté disponible para ellos a través de una implementación por fases y un proceso de inscripción.

Este avance se presenta como una solución para vigilar el uso de IA sin sacrificar la privacidad y la autonomía de las empresas, al tiempo que se refuerza la seguridad frente a posibles abusos de tecnologías de frontera. Para entender el impacto real de EFS, futuras implementaciones y adopciones por parte de distintos sectores permitirán evaluar la efectividad de mantener la vigilancia necesaria sin exponer datos sensibles a terceros.

from Latest from TechRadar https://ift.tt/A7mjE4R
via IFTTT IA