La adopción de AI agentico está revelando una brecha significativa entre las capacidades de las plataformas actuales y las exigencias de las operaciones modernas. Un informe reciente destaca que la mayoría de las empresas luchan por desplegar AI agentico de forma efectiva, y la infraestructura heredada se identifica como una de las razones clave. Este hallazgo subraya la necesidad de replantear las bases tecnológicas para aprovechar plenamente el potencial de la IA de producción.

La encuesta, realizada entre líderes de TI, revela que el 83% de las organizaciones considera necesario actualizar su infraestructura para aprovechar los beneficios de la IA agentica en producción. Este dato enfatiza una urgencia compartida por las empresas para modernizar sus cimientos tecnológicos ante la demanda de capacidades avanzadas y escalables.

Sin embargo, no se trata solo de invertir en nuevo hardware o software. También emergen costos ocultos asociados a operar AI sobre infraestructuras antiguas, como un incremento en el consumo de energía y una mayor complejidad operativa. El 62% de los encuestados reporta un «impuesto de inferencia» derivado de tarifas por egreso de datos, crecimiento de almacenamiento y hardware especializado ocioso. Adicionalmente, el 82% señala que escalar la IA introduce costos de complejidad operativa no previstos, y el 79% identifica la seguridad, la gobernanza y las prácticas de MLOps como barreras clave para escalar la IA agentica.

Actualizaciones necesarias para un beneficio completo de la IA agentica

Para contrarrestar estas limitaciones, Google propone varias recomendaciones para organizaciones que están restringidas por infraestructuras heredadas.

La primera es aprovechar una computación fluida que empareje dinámicamente el silicio adecuado a la tarea correcta, minimizando la sobrecarga operativa. Esto permite ofrecer potencia de cálculo para tareas de IA agentica sin comprometer la capacidad de cargas de trabajo generales y evita la necesidad de usar excesiva memoria para gestionar ventanas de contexto amplias.

Para mitigar la proliferación de agentes causada por la cascada de nuevas tareas entre plataformas y equipos, se recomienda recurrir a herramientas de gobernanza de nivel empresarial, que suelen estar disponibles a través de los socios en la nube que las empresas ya utilizan. Como ejemplo, Google sugiere su plataforma Agent Gateway, que brinda visibilidad y supervisión de cómo se comunican los agentes, los datos a los que acceden y sus cargas de trabajo.

Organizar los datos de manera más eficiente ayuda a evitar que los agentes consuman más capacidad de cómputo al realizar consultas pesadas sobre datos aislados. Un enfoque recomendado es trabajar hacia una capa de datos unificada que anote automáticamente datos no estructurados, permitiendo que los agentes entiendan dónde se encuentra la información sin tener que navegar por múltiples pipelines. Además, una capa de datos unificada reduce la duplicación de datos y, con ello, los costos de almacenamiento en el largo plazo.

Otra recomendación es mover la IA hacia la edge, desplegando agentes directamente en el sitio donde se utilizan con mayor frecuencia. El 90% de las organizaciones encuestadas por Google consideraron esta posibilidad al planificar sus iniciativas de IA. Implementar agentes en plantas de fabricación, tiendas minoristas u hospitales puede disminuir la latencia, aumentar la resiliencia ante fallos del cloud central y mejorar la rentabilidad al reducir los costos por token mediante modelos locales y altamente optimizados.

Como sucede en empresas de todos los tamaños, los costos energéticos son una consideración crucial. Al seleccionar nuevo hardware, el 91% de los líderes ahora tiene en cuenta el consumo de energía, particularmente en regiones donde la disponibilidad de potencia es limitada, así como para cumplir regulaciones y reducir el costo total de propiedad de los sistemas de IA.

from Latest from TechRadar https://ift.tt/synr36a
via IFTTT IA