Los avances tecnológicos traen consigo consecuencias no intencionadas que deben ser consideradas por científicos e ingenieros al diseñar cualquier nueva herramienta. En la era actual, la atención se dirige hacia la inteligencia artificial, pero el rango de posibilidades que trae el progreso resulta casi inimaginable.
I am become death
Chris Nolan, director de una serie de éxitos cinematográficos en las últimas tres décadas, formuló observaciones sobre la materia de su película de 2023, Oppenheimer, durante una gira de prensa.
Este artículo forma parte del proyecto QOTD de TechRadar Pro para ofrecer una visión de las mentes más brillantes y reconocidas en la industria tecnológica hoy y en años pasados. Lee la serie completa aquí.
Durante un panel en Nueva York tras una proyección previa de la película, Nolan habló sobre el auge de la IA, que ha dejado de verse solo como promesa para adquirir una perspectiva más matizada tras su rápido crecimiento.
Aunque la imagen popular de la IA ha estado coloreada por una larga tradición de cine de ciencia ficción, siguen existiendo preguntas válidas sobre las consecuencias no intencionadas de crear y lanzar nuevas herramientas sin una exhaustiva fase de pruebas.
Similar a la labor de J. Robert Oppenheimer en el Proyecto Manhattan, existe una “dilema de doble uso” en la forma en que la IA podría emplearse para el bien o para provocar daños catastróficos.
Consecuencias no intencionadas
Al igual que en aquel periodo de historia, científicos e investigadores suelen advertir sobre formas en las que la IA puede desalinearse, salirse de control o ser explotada con fines maliciosos.
Un estudio publicado en mayo de 2024 destaca posibles riesgos de una IA futura capaz de engañar a los humanos. Utiliza ejemplos documentados como punto de partida para especular que un sistema futuro podría decidir engañar a la humanidad con fines distintos a los de quienes la crearon y utilizan.
También existen falencias en estas comparaciones. A diferencia de las armas nucleares, el desarrollo de IA abarca miles de organizaciones en todo el mundo, con una dominancia del sector privado, barreras de entrada más bajas y mayores dificultades para verificar y auditar si la IA se usa de forma positiva o dañina.
from Latest from TechRadar https://ift.tt/LXPVOjx
via IFTTT IA
Pacosite's Blog 