La creciente influencia de la inteligencia artificial en las operaciones empresariales plantea un dilema crucial para las organizaciones: ¿hasta qué punto sus datos y secretos comerciales deben exponerse para obtener mejoras en los modelos de IA? En una reflexión divulgada por su blog, el CEO de Microsoft, Satya Nadella, advierte que algunas compañías de IA están entrenando sus modelos aprovechando información sensible de sus clientes. Esta “exhausta” información —los datos, las consultas y las correcciones que los usuarios realizan al interactuar con la IA— se utiliza para refinar modelos que, posteriormente, pueden ser vendidos a competidores de los propios clientes. En palabras de Nadella, “usted paga por inteligencia dos veces: con dinero y con conocimiento propietario que debe revelarse para que la inteligencia sea útil. ¡Cuanto mejor quiere que el modelo funcione, más conocimiento debe alimentar!”.

En esencia, Nadella sostiene que ciertas firmas de IA recolectan datos sensibles de las empresas para abaratar el entrenamiento de sus modelos y, luego, despliegan estas herramientas para la competencia de sus clientes. Esta dinámica genera una tensión entre la innovación impulsada por datos y la protección de la propiedad intelectual y la confidencialidad empresarial.

El directivo introduce una distinción: “El tipo de conocimiento que un competidor nunca podría comprar.” Explica que los modelos aprenden del “exhaust” —las indicaciones que los usuarios escriben, las herramientas que emplean los agentes y, de manera destacada, las correcciones que se realizan cuando el modelo falla. Cada corrección se transforma en know-how institucional. Esta visión subraya que la experiencia operativa y las decisiones de negocio quedan codificadas dentro de la forma en que una empresa interactúa con la IA.

Nadella también critica la narrativa de algunas empresas de IA que señalan distillación por parte de la competencia, citando ejemplos como las acusaciones de Anthropic contra Alibaba por utilizar millones de prompts de Claude para definir sus propios modelos. En su opinión, la capacidad de comprender cómo funciona un modelo propietario evita la necesidad de invertir grandes sumas en datos y desarrollo desde cero. Sin embargo, advierte de una contradicción: la innovación a través del uso de datos públicos debería coexistir con términos de distillación que, en la práctica, pueden ser restrictivos para los usuarios.

Una lectura central de su postura es que cuando se consume inteligencia, se está creando más inteligencia; y aquello que se crea debe pertenecer al usuario. En este marco, Nadella propone una solución pragmática: regresar a un modelo de datos on-premises (en las instalaciones del cliente) para conservar la propiedad de la información alimentada a los sistemas de IA. Este enfoque facilita la retención de datos en entornos de aprendizaje propietarios, al tiempo que se mantiene la capacidad de orquestar múltiples modelos de distintas compañías mediante capas de orquestación y gateways de IA.

El camino hacia la competitividad sin quedar atado a un único proveedor pasa por entornos de aprendizaje propietarios basados en la nube, pero con mayor control local. A estas ventajas se suman enfoques de código abierto, que permiten entrenar modelos de IA con datos ya disponibles en entornos en la nube, reduciendo costos y evitando el traspaso de información sensible a terceros. El modelo on-prem también promete menores costos en hardware especializado, menos problemas de salida de datos y mejor rendimiento cuando la latencia y la resiliencia son críticos para operaciones en plantas de manufactura, tiendas y otros entornos.

Recientemente, informes de la industria destacan la necesidad de revisar infraestructuras para maximizar oportunidades de IA, incluyendo la adopción de puertas de IA (AI gateways) y modelos locales para disminuir la latencia y los gastos por token. En este contexto, Nadella señala una vía para que las empresas mantengan el control de su información, reduzcan la dependencia de proveedores únicos y, a la vez, aprovechen beneficios de la innovación continua en IA.

Para las organizaciones que buscan equilibrar innovación y seguridad, la propuesta es clara: diseñar estrategias que den prioridad a la gobernanza de datos, facilitar la movilidad entre modelos de diferentes proveedores y apostar por soluciones on-prem e híbridas cuando sea viable. El objetivo es abrir el camino hacia una IA que potencie la competitividad sin sacrificar la propiedad de la información estratégica.

from Latest from TechRadar https://ift.tt/VEHlIBS
via IFTTT IA