En la gira mundial de Snowflake, Londres, el tema de la empresa agente se posicionó como centro de atención: las herramientas de IA están revolucionando la forma en que las empresas, de todos los tamaños, trabajan y operan.
Frente a titulares preocupantes sobre las capacidades de la IA, ¿cómo asegurar que su negocio siga siendo un socio de confianza?
Para profundizar en lo que realmente es necesario para construir una empresa agente confiable, entrevisté a Mayank Uphadyay, Director de Seguridad y Confianza de Snowflake.
Rock solid
“Este año se trata mucho de entender cómo gobernar la IA. Hay dos caras de la moneda: por un lado, hay que evitar que la IA de terceros atraviese nuestro perímetro; por otro, ¿cómo garantizar que nuestra IA se comporte correctamente, de modo que no exfiltre datos y no se escape del perímetro?”
“Cuando las personas confían en nosotros con sus datos, debemos asegurar que nuestra plataforma sea absolutamente segura frente a ataques agenticos.”
Uphadyay alinea estas ideas con la ponencia anterior de Snowflake en la gira de Londres sobre qué se necesita para construir una empresa agente exitosa, comparando la elección del modelo de IA con el cerebro humano y al agente como el cuerpo, todo a partir de una base de datos que debe ser “rock solid”.
Le pregunto a Uphadyay cómo puede Snowflake equilibrar la emoción de los clientes por la IA con la necesidad de garantizar la confianza y la privacidad.
Él señala que los clientes se encuentran en diferentes etapas de adopción de la IA, pero la gran diferencia es que la seguridad pasa a ser “la habilitadora, ya no la bloqueadora”. Citando al ex-piloto Mario Andretti, Uphadyay añade que al manejar, frenar puede parecer ir más lento, pero curvar con confianza requiere esa fricción; sin ella, estarías conduciendo extremadamente despacio de todas formas.
“Así veo la seguridad: lo que te ayuda a construir esa confianza, así que les digo a los clientes, déjennos proporcionarles los adecuados raíles de protección y los controles correctos; les explicaremos cómo funciona.”
Esto se materializa en gran medida a través de la herramienta Trust Center, que opera entre las tres capas mencionadas y las conecta, protegiendo al cliente, a la vez que ofrece visibilidad sobre su sistema y las mejoras necesarias.
Snowflake acumula más de 12 años de trayectoria, una reputación que ha generado confianza entre sus clientes.
Uphadyay señala también que hay “una gran cantidad de innovación” en la construcción y establecimiento de nuevas salvaguardas. A medida que las personas trabajan en una empresa durante largos periodos, pueden adquirir permisos para sistemas y servicios que ya no necesitan, lo cual puede convertirse en un problema si gestionan un agente como si fueran ellos mismos.
Asegurar y proporcionar el conjunto correcto de permisos para agentes de IA, que son exploratorios por naturaleza, puede evitar problemas y mantener los datos seguros.
En lo que respecta a los productos de Snowflake, se presentó una demostración de sus plataformas Coco y CoWork durante World Tour London. Uphadyay describe cómo servicios como estos pueden beneficiar a las empresas en el futuro.
“Puede tratarse de una combinación de tareas que un ser humano va a realizar, y junto con la automatización, lo que normalmente haría repetidamente puede, de forma natural, ser automatizado por IA,” afirma.
“Y lo interesante es que ya no es determinista; hay muchos puntos donde será necesario enlazar toda esa automatización y requerirá la revisión humana. Es como una pirámide: una base de trabajo extremadamente mundano, una capa superior menos mundana y así sucesivamente, hasta llegar a la cúspide, que es extremadamente crítica para la misión y requiere un humano seguro.
“En esta pirámide, se puede decir que quieres automatizar y avanzar; cuanto más confianza construyes, más alto subes. Así es como las empresas ganan confianza.”
“Las cosas están aquí, son reales, y están ahora mismo.”
https://kwizly.com/embed/WlM3jO.js
from Latest from TechRadar https://ift.tt/v0BRUPr
via IFTTT IA
