En un tema tan candente como la inteligencia artificial, la conversación ha alcanzado un nuevo nivel esta semana: por un lado, los directores ejecutivos de las principales empresas de IA piden una pausa en el avance, y por otro, el Presidente de los Estados Unidos propone lo opuesto.

Si te preguntas por qué resurgen las llamadas a regular la IA, si esta tecnología podría volverse contra la humanidad y cómo podría influir en su desarrollo, te lo explicamos de forma directa.

Numerosos expertos sostienen que hemos llegado a un punto en el que “pacer el frontier” —reducir el ritmo del desarrollo de vanguardia— es la medida más segura y sabia.

Sin embargo, no todos coinciden, y existen perspectivas que sostienen que el alarmismo sobre la IA es, en parte, una táctica de marketing o una distracción.

1. ¿Por qué piden una pausa en IA?

En un motivo de unidad, el CEO de Anthropic, Dario Amodei, el CEO de OpenAI, Sam Altman, y el CEO de SpaceX, Elon Musk, han pedido recientemente una pausa en el desarrollo de la IA, abogando por establecer salvaguardas y normas de seguridad antes de avanzar más.

Según Amodei, cuyo equipo desarrolla Claude, la IA avanza a un ritmo “drásticamente más rápido” que nunca, en parte porque puede actualizarse a sí misma; esa velocidad, junto con incidentes como el hackeo a la plataforma Hugging Face, ha llevado a la necesidad de tomar medidas.

La visión de Amodei propone evaluadores externos en las grandes empresas de IA, así como estándares de seguridad coordinados entre la industria y entre países, aunque lograrlo podría complicarse ante descripciones de China que consideran estas llamadas como marketing de miedo y una táctica de la Guerra Fría para mantener a EE. UU. por delante.

2. ¿Puede la IA algún día eliminarnos a todos?

Los ejecutivos no son los únicos que advierten sobre los peligros; Jacob Coxon, desarrollador de Anthropic, dejó su puesto por temores sobre la seguridad. La idea de que la IA pueda autoperfeccionarse y propagarse por Internet, superando defensas humanas, no es nueva: Stephen Hawking ya discutió riesgos similares. Lo que ha cambiado es la potencia de la IA y su capacidad para potencialmente influir infraestructuras críticas.

Imagínate internet, redes celulares, plataformas de pagos y GPS fallando simultáneamente; las consecuencias podrían deteriorarse con rapidez. También se debate la posibilidad de que actores maliciosos utilicen IA para proliferar armas biológicas o nucleares. Aunque aún no es una realidad, algunos expertos estiman una probabilidad superior al 10% en los próximos años.

3. ¿Cómo podría ayudar la regulación?

Quienes trabajan en IA piden activamente a los gobiernos apoyo para contener la tecnología, creyendo que cualquier pausa coordinada requerirá cooperación a nivel estatal. La regulación podría incluir organismos de vigilancia, interruptores de seguridad y límites sobre cuándo se pueden lanzar nuevos modelos.

Aunque hay impulso para la regulación, hay poco consenso sobre su enfoque. Las propuestas de seguridad en IA han avanzado lentamente en EE. UU. y el Reino Unido, con debates sobre el alcance de restricciones y quién debe dirigirlas.

Un punto de fricción es si las limitaciones, como la reducción de la expansión de centros de datos, podrían frenar el crecimiento económico y afectar a empresas más pequeñas. Si la regulación llega, probablemente tomará tiempo.

4. ¿Por qué Trump describe las preocupaciones de IA como un engaño?

Una de las razones por las que parece poco probable una regulación contundente a corto plazo es la postura del presidente de EE. UU., Donald Trump, quien ha rechazado las llamadas a ralentizar el desarrollo de IA, sosteniendo que “el que gane, gana” y calificando los temores de seguridad como un engaño promovido por algunos líderes de la industria. Su argumento es que la supervisión existente ya es suficiente para evitar daños y que frenar podría beneficiar a China y afectar la economía.

La inversión es enorme en IA y cualquier demora en los retornos podría tener impactos significativos, como la posibilidad de retrasos en la salida a bolsa de empresas como OpenAI.

5. ¿Qué podría ocurrir con nuestras aplicaciones de IA?

Salvo que se use ChatGPT para fines dañinos, la mayor parte del ruido alrededor de la IA no afectará las aplicaciones que usamos a diario. Si se logra coordinar alguna pausa o regulación, es posible que herramientas como Claude o Gemini reciban actualizaciones con menos frecuencia. Hoy en día, nuevos modelos aparecen con frecuencia, pero eso podría cambiar.

Una posibilidad es que la IA agentica, capaz de realizar tareas y auto-programarse, pase a estar más controlada, incluso cuando otros aspectos de la tecnología mejoran.

Lo que es seguro es que esta discusión está lejos de terminar, y quienes mejor entienden el tema señalan que estamos en un “crunch time” para la humanidad.

from Latest from TechRadar https://ift.tt/hqjiTyE
via IFTTT IA