Es probable que hayas escuchado a numerosos líderes de negocio y tecnología elogiar las virtudes de la IA, afirmando que esta tecnología tendrá un impacto transformador en las empresas de todo el mundo. Yo comparto esa visión, pero con dos advertencias importantes: la IA debe ocupar los puestos adecuados y las personas que la usan deben confiar en lo que hace.

Con demasiada frecuencia, la IA se despliega sin una planificación cuidadosa, cuando los líderes, con exceso de confianza, asignan tareas a agentes para las que no están diseñados. El resultado es que muchos colaboradores que usan herramientas de IA a diario no están preparados para su nuevo rol en la gestión de estos agentes. La confianza proviene de la experiencia, y ésta se construye con el tiempo.

Cuando un sistema de IA ofrece resultados que tienen sentido y realmente ayudan en el trabajo, las personas ganan confianza para emplearlo. Pero si comete un error, esa confianza puede perderse en un instante. Si algo sale mal, los empleados buscan maneras de evadir la IA o dejan de usarla por completo, y cuando los líderes ignoran las preocupaciones de los empleados para hacerla más eficiente, sus beneficios quedan dañados.

La mejor manera de asegurar que la IA ofrezca las eficiencias prometidas es garantizar que esté haciendo el trabajo correcto, y esto no es tan simple como parece.

Las áreas donde la IA destaca

La IA trabaja con probabilidades, entregando respuestas que es probable que sean correctas. La palabra clave aquí es “probable”, por lo que de vez en cuando puede “alucinar”.

Ser probabilística la hace muy eficaz cuando se enfrentan a información poco clara o compleja. Pero no es la mejor opción para tareas en las que una respuesta equivocada podría tener consecuencias graves.

Hay tres áreas centrales donde la IA puede marcar una diferencia real. En primer lugar, al procesar documentos; en segundo lugar, como apoyo a la toma de decisiones; y, por último, en la personalización.

La IA es especialmente eficaz en tareas que involucran muchos documentos. Puede extraer, clasificar y resumir información que normalmente exigiría a las personas muchas horas de revisión. Por ejemplo, un sistema de IA podría comparar contratos con un conjunto estándar de cláusulas, o organizar una gran colección de correos electrónicos de clientes por los temas que les conciernen. De esta forma, una persona solo tiene que revisar los hallazgos importantes en lugar de revisar documentos completos.

La IA también puede desempeñar un papel clave en apoyar a los ejecutivos de la empresa para tomar decisiones, ya que es muy buena identificando patrones en grandes volúmenes de información y presentando opciones sobre qué hacer a continuación.

Sin embargo, es importante recordar que la IA no siempre es la tecnología adecuada para tomar esa decisión. Por ejemplo, si estás comprando algo y debes elegir entre varios proveedores, la IA puede evaluar información como desempeño pasado, capacidad de entrega, rapidez de llegada y si ofrecen descuentos por compras repetidas, incluso puede explicar por qué una opción podría ser mejor que otra. En la mayoría de escenarios, sin embargo, es la persona la que toma la decisión final.

Para algunas empresas, la personalización es una herramienta prometedora, ya que la IA puede hacer que los productos sean más relevantes para el usuario. Este es un área donde trabajar con probabilidades puede convertirse en un motor clave para la IA. El contenido solo tiene que ser lo suficientemente bueno para establecer esa conexión y que el destinatario sienta que se le habla de manera personalizada.

El costo de asignar a la IA el trabajo equivocado

Una de las preocupaciones principales al gestionar la IA es que, si las respuestas generadas por la IA suenan convincentes, existe la posibilidad de que la tecnología se equivoque. Si esa respuesta provoca una acción sin validación, un pequeño error puede propagarse rápidamente por un flujo de trabajo.

Piense en lo que sucede cuando alguien comete un pequeño error con una regla o detalle en un contrato. Para cuando alguien detecta el error, puede haber sido ya añadido a los registros, enviado a terceros o incluso utilizado para crear nuevo software.

Para recordar las limitaciones de la IA, encuentro útil compararla con un interno sobremanera inteligente y trabajador. Los internos necesitan guía y supervisión, que deben proporcionar colegas experimentados y conocedores. Crucialmente, su acceso a información sensible debe ser limitado y concedido solo cuando demuestren que pueden tomar decisiones acertadas.

La IA necesita ser gestionada de la misma manera. Debe recibir mayores niveles de control solamente cuando haya probado su valía, y su trabajo debe seguir siendo supervisado por humanos. Un buen ejemplo de la importancia de gestionar la IA es su papel en el desarrollo de software. La IA puede entregar mucho código rápidamente, pero su ritmo veloz no siempre asegura la misma calidad que la de los desarrolladores humanos.

De hecho, gestionar grandes volúmenes de código generado por IA puede ser un verdadero dolor de cabeza para los profesionales de TI. Por ejemplo, el incremento en el consumo de tokens y un cambio hacia la fijación de precios basada en el consumo está inflando los costos de IA, obligando a los desarrolladores a ser selectivos sobre cuándo y dónde aplicar modelos de IA, según Gartner.

Deja que la IA ayude a diseñar el modelo, no a controlar la maquinaria

La decisión de diseño más importante es dónde se permite a la IA razonar. El lugar más riesgoso es la capa de implementación, donde un pequeño error puede ocasionar problemas grandes y difíciles de corregir.

Creo que un enfoque sólido es usar la IA para trabajar con ideas y reglas de negocio. De este modo, es más fácil para las personas verificar y entender lo que la IA propone.

Lenguajes específicos de dominio y otras abstracciones utilizadas en el desarrollo basado en modelos pueden proporcionar esa separación. La IA ayuda a crear o refinar un modelo de aplicación de alto nivel, mientras que un desarrollador valida el modelo antes de que una plataforma determinista lo transforme en software ejecutable.

La IA puede sugerir cómo debería hacerse algo, pero no tiene por qué hacerse cargo de ejecutar cada paso.

La abstracción ayuda a los desarrolladores y, en sistemas impulsados por agentes, se convierte en una herramienta de control. Simplifica sistemas complejos y evita que errores pequeños se conviertan en problemas grandes, facilitando la prueba y corrección de la salida de la IA.

La experiencia humana se vuelve más valiosa, no menos

A medida que la IA se generaliza, los roles de los desarrolladores evolucionarán. Seguirán escribiendo código, pero una parte mayor de su función consistirá en supervisar sistemas, revisar salidas y detectar errores, un cambio que implica la oportunidad de aprender nuevas habilidades.

Los desarrolladores trabajarán cada vez más a nivel de sistemas y arquitectura, entendiendo la lógica de negocio, reconociendo patrones y evaluando si el código generado por IA se integra bien en la aplicación general.

Una empresa que ya ha innovado en este ámbito y está obteniendo beneficios por su experiencia es Ford. Recientemente contrató a 350 ingenieros experimentados para ayudar a entrenar a colegas más jóvenes y mejorar sus herramientas de IA y automatización.

Este cambio se impulsó por el hecho de que las herramientas de IA no producían los resultados deseados sin la experiencia de profesionales con experiencia. Ahora, estos ingenieros actúan como auditores internos, revisando diseños y encontrando posibles problemas antes de que se conviertan en problemas mayores en la planta de fabricación.

Cuando se combina la capacidad de la IA para reconocer patrones y procesar información con el conocimiento y la experiencia humanos, se obtiene una herramienta mucho más poderosa. Esta combinación es lo que la hace realmente eficaz, no depender únicamente de una de las dos cosas.

Construir confianza

A las empresas también les corresponde resistir la presión de desplegar agentes en todos lados solo porque la competencia parece hacerlo. En el uso de la IA, los líderes deben pensar cuidadosamente en cada situación.

Deberían hacerse tres preguntas clave. Primero, ¿están pidiendo a la IA que solo sugiera qué hacer o que realmente lo haga? Segundo, ¿alguien puede revisar y corregir lo que dice la IA antes de que se propague un error? Por último, ¿qué ocurriría si el sistema está seguro de algo pero en realidad está equivocado?

Las respuestas juegan un papel importante a la hora de decidir cuánta libertad otorgar a la tecnología. Por ejemplo, una herramienta que resume documentos podría necesitar solo una verificación rápida, pero un sistema que sugiere decisiones empresariales requiere la aprobación registrada de alguien.

Cuando las empresas comienzan a usar la IA para tareas específicas y prácticas, demuestran a los empleados que puede marcar una diferencia real en su trabajo. Este enfoque da a la empresa la oportunidad de ordenar sus datos, reglas y procesos. Si la gente ve que el sistema funciona bien y entiende lo que puede y no puede hacer, empieza a confiar en él más. Con el tiempo, esa confianza crece.

La clave es crear un entorno de trabajo donde humanos y máquinas hagan lo que mejor saben hacer. La IA destaca en el procesamiento de grandes volúmenes de información y en la detección de patrones. Las personas son buenas para entender la visión global, señalar errores y asumir la responsabilidad de sus acciones.

La IA no debe recibir un trabajo para el que el error tenga consecuencias reales y nadie supervise su trabajo antes de que cause daño, ni debe hacer afirmaciones categóricas cuando está equivocado. Las empresas que respetan esta división construirán la confianza necesaria para otorgar a la IA de tipo agente una mayor autonomía con el tiempo. Aquellas que la ignoren podrían descubrir que una única tarea mal elegida puede socavar toda su estrategia de IA.

No hemos destacado este último punto en forma de ejemplo práctico, pero la idea central permanece: la IA debe operar dentro de límites claros y supervisión humana adecuada.

Este artículo forma parte de TechRadar Pro Perspectives, una vía para presentar las ideas de los líderes y expertos en tecnología de hoy en día.

Las opiniones aquí expresadas son del autor y no necesariamente reflejan las de TechRadar Pro o Future plc. Si estás interesado en contribuir, descubre más aquí: https://ift.tt/YmeHnGW

from Latest from TechRadar https://ift.tt/eaLJMZW
via IFTTT IA