Geoffrey Hinton, científico informático galardonado con el Nobel y una de las figuras más influyentes en el desarrollo de la inteligencia artificial (IA), advierte que quizá haga falta una crisis grave para que los gobiernos regulen adecuadamente esta tecnología.
Hinton teme que la IA pueda facilitar ataques contra sistemas financieros o infraestructuras eléctricas, además de agravar problemas sociales y económicos. Aunque considera que la tecnología podría contribuir a un futuro mejor, también cree que una gestión deficiente de sus riesgos podría ampliar la desigualdad, provocar desempleo masivo y profundizar las divisiones sociales.
Los riesgos de un desarrollo sin suficientes controles
En una entrevista con The Guardian, Hinton aclaró que no se considera un catastrofista respecto a la IA. Sin embargo, señaló que la falta de medidas eficaces podría desembocar en una enorme brecha entre ricos y pobres, graves tensiones culturales y una sociedad cada vez más fragmentada.
También expresó preocupación por la concentración del poder en un pequeño número de empresas y por la carrera competitiva para desarrollar sistemas cada vez más avanzados. A su juicio, la presión por obtener beneficios y conservar una ventaja frente a los rivales puede desplazar la atención de los riesgos potenciales.
Hinton compara el posible efecto de un incidente grave relacionado con la IA —por ejemplo, un ataque a los sistemas financieros o a la generación de energía— con el impacto que tuvo el accidente de la central nuclear de Three Mile Island en 1979. Su temor es que las compañías y los responsables políticos solo reaccionen cuando se produzca una crisis de gran escala.
El científico sostiene, no obstante, que todavía es posible actuar. “Mi intuición es que seguimos teniendo el control”, afirmó, aunque advirtió que reducir los riesgos exigirá un esfuerzo considerable.
Aún hay margen para hacer que la IA sea más segura
Las inquietudes de Hinton se suman a las de políticos, directivos de empresas y especialistas que han pedido más supervisión y, en algunos casos, ralentizar el desarrollo de los sistemas más avanzados para comprender mejor sus consecuencias y establecer salvaguardas.
Los incidentes relacionados con agentes de IA y las capacidades de algunos modelos de frontera han intensificado el debate sobre la seguridad. La preocupación no se limita al uso malicioso: también incluye la posibilidad de que sistemas con autonomía creciente actúen de manera imprevista, incluso en entornos que se consideran controlados.
Crear normas eficaces será un desafío internacional. Los países compiten por liderar el sector, mientras discrepan sobre el equilibrio entre innovación, seguridad y supervisión. Esa rivalidad puede dificultar la coordinación necesaria para establecer estándares comunes.
La advertencia de Hinton plantea una cuestión urgente: ¿actuarán los gobiernos y las empresas antes de que ocurra un incidente grave, o esperarán a que una crisis haga inevitable el cambio? La IA podría aportar beneficios importantes, pero aprovecharlos de forma responsable dependerá de que sus riesgos se afronten con anticipación y cooperación.
from Latest from TechRadar https://ift.tt/OatHi57
via IFTTT IA
