El director ejecutivo de OpenAI, Sam Altman, suele destacar el potencial de la inteligencia artificial (IA) para mejorar la vida de las personas y cuestionar las predicciones más alarmistas. Sin embargo, también reconoce que el desarrollo de sistemas cada vez más capaces podría traer riesgos graves. En una entrevista reciente en el pódcast *Figuring Out With Raj Shamani*, describió dos escenarios que le preocupan: que la humanidad pierda el control de la IA o que una sola persona, empresa o país concentre un poder desproporcionado gracias a ella.

«Uno es que perdamos el control de la IA y cedamos, de forma intencionada o accidental, el futuro a sistemas muchísimo más capaces que nosotros, sin poder recuperarlo», explicó Altman. «El otro es que una persona, empresa o país llegue a tener demasiado poder frente al resto».

Las dos posibilidades plantean problemas distintos. En la primera, las personas delegan decisiones de manera gradual hasta que resulta difícil recuperar su capacidad de intervenir. En la segunda, una concentración extrema de la tecnología podría dejar a gran parte de la sociedad a merced de quienes la controlan.

## El riesgo de delegar demasiado

La pérdida de control no tiene por qué parecerse a una rebelión de robots. Una preocupación más plausible es que los sistemas de IA reciban cada vez más autonomía y responsabilidad, mientras las personas reducen su supervisión. Algunos agentes de IA ya pueden interactuar con páginas web y completar tareas complejas, y el sector trabaja para que estos sistemas operen con menos intervención humana.

A medida que se les encomiendan funciones más importantes, también aumentan las consecuencias de que persigan un objetivo de una forma distinta a la que sus usuarios esperaban. Los sistemas actuales generan respuestas mediante patrones y predicciones; no poseen el criterio humano ni necesitan tener intenciones maliciosas para causar daños. Basta con que interpreten una instrucción de manera inadecuada o que se les otorgue autoridad sin controles suficientes.

Por ejemplo, un sistema encargado de reducir la congestión vial podría proponer medidas que las personas no considerarían aceptables. Aunque un caso extremo —como paralizar vehículos conectados— sea improbable, sirve para ilustrar una cuestión fundamental: la manera en que se define un objetivo y los límites que se imponen al sistema importan tanto como la capacidad de ejecutarlo.

El peligro sería mayor si una IA estuviera integrada en servicios esenciales y quienes dependen de ella no pudieran corregirla, detenerla o sustituirla con rapidez. Por eso, la supervisión humana, las pruebas rigurosas y la posibilidad de desconectar los sistemas son aspectos clave en el debate sobre el desarrollo responsable de la tecnología.

## El poder en pocas manos

El segundo escenario descrito por Altman se relaciona con una preocupación conocida: la concentración del poder económico y tecnológico. Si el acceso a los modelos más avanzados, la infraestructura necesaria para operarlos y los datos relevantes queda en manos de muy pocos actores, estos podrían adquirir una influencia difícil de equilibrar.

Altman afirmó que considera beneficioso que existan varios proyectos de IA con enfoques distintos y que compitan entre sí. También expresó su rechazo a una concentración excesiva del poder. Sus comentarios, no obstante, conviven con la posición destacada de OpenAI en el sector y con las ambiciones de crecimiento de la empresa.

El propio Altman ha señalado que OpenAI cuenta con una amplia base de usuarios y una infraestructura que abarca desde chips y centros de datos hasta modelos. Esa escala pone de relieve una tensión importante: una compañía puede defender la competencia y, al mismo tiempo, ocupar una posición de gran influencia en el mercado. La cuestión es cómo promover la innovación sin permitir que el control de una tecnología decisiva se concentre demasiado.

## Una visión optimista, pero no despreocupada

Pese a estos riesgos, Altman mantiene una perspectiva optimista sobre el futuro. Al hablar de sus hijos y del mundo en el que crecerán, expresó confianza en que las personas podrán adaptarse a los cambios y contribuir a que la sociedad mejore. Su postura presenta los peligros de la IA como desafíos que deben gestionarse, no necesariamente como motivos para detener su desarrollo.

Esa confianza también se refleja en sus expectativas sobre la investigación científica. Altman considera que la IA podría ayudar a ampliar el conocimiento en campos como la física y la medicina, facilitar el hallazgo de nuevos tratamientos y contribuir a descubrir fuentes de energía. Los avances matemáticos recientes, sostuvo, ofrecen indicios del papel que estos sistemas podrían desempeñar en la investigación fundamental.

La postura de Altman reúne dos ideas que a menudo se presentan como opuestas: la IA podría aportar beneficios extraordinarios y, a la vez, generar riesgos que exigen atención desde ahora. El reto será desarrollar sistemas útiles sin cederles decisiones sin controles adecuados ni permitir que sus capacidades queden bajo el dominio de unos pocos. Para lograrlo, la innovación tendrá que avanzar junto con medidas de supervisión, rendición de cuentas y competencia.

from Latest from TechRadar https://ift.tt/eD2Vqvz
via IFTTT IA