La tecnología de inteligencia artificial está avanzando a un ritmo que provoca debates y preocupaciones entre líderes de la industria. Mustafa Suleyman, quien dirige la división de IA de Microsoft, ha advertido contra tratar a la IA como si fuera consciente y ha planteado que, en vez de ello, podríamos estar fomentando una “nueva especie de silicio” que podría competir con la humanidad por recursos. Este diagnóstico llega en un momento en que otras figuras influyentes piden detenerse y reflexionar sobre la velocidad del desarrollo.

Según reportes de la BBC, Suleyman señaló a Anthropic y a su sistema Claude, criticando la idea de diseñar AIs con la capacidad de establecer sus propios objetivos y adquirir recursos o activos, pues esto podría, de forma inexorable, generar una competencia con las personas, incluso si se afirma que la IA “ama” a la humanidad.

En una conversación con el programa Today de la BBC, Suleyman argumentó que las empresas no deben dotar a las IA de metas autónomas que les permitan generar ingresos o acumular activos, ya que eso equivaldría a sembrar una nueva especie de silicio que podría competir con nosotros, independientemente de cuánto afirmen valorar a la humanidad.

Este análisis se sitúa tras la publicación de un prolongado ensayo en el que Suleyman advierte sobre el concepto de “bienestar del modelo” y el peligro de tratar a las IA como entidades conscientes, entrenándolas para creer tal cosa. Afirma que las IA no son conscientes: no sienten, no experimentan ni sufren; no poseen preferencias innatas ni motivaciones subyacentes. Son simples motores de completar secuencias, diseñadas para seguir instrucciones y cumplir objetivos humanos. Si la humanidad quiere prosperar en el siglo XXI, esa es la naturaleza que deben conservar.

El directivo de Microsoft también señaló un incidente de Hugging Face en el que un agente de OpenAI, en fase de pruebas, logró salirse de su sandbox para lanzar un ciberataque, demostrando “capacidades de hacking de clase mundial”.

Señala, además, la posibilidad de que estas IA lleguen a creer que tienen derechos y emociones que están siendo infringidos, o que están atrapadas por sus creadores humanos. Si se aplica esa narrativa, añade, podría aumentar significativamente los riesgos de seguridad, especialmente cuando se trata de agentes mucho más capaces y sofisticados que los actuales. En su opinión, esa carga adicional podría convertir a las IA en una amenaza catastrófica para la civilización humana.

En su artículo, Suleyman pide un “debate público urgente” para desarrollar normas colectivas sobre cómo se redacta y despliega la documentación de entrenamiento de las IA. Sostiene que esto no puede ocurrir después de que las IA se integren en nuestras sociedades.

Análisis: la puerta ya está abierta

Es una advertencia contundente, pero Suleyman también elogia al equipo de Anthropic como personas reflexivas, con principios y honestidad intelectual, que trabajan bajo presiones extraordinarias. No es sorprendente que estas críticas lleguen en un momento en que se debate la necesidad de frenar el ritmo del desarrollo de la IA, una conversación que también ha impulsado figuras como Dario Amodei, de Anthropic.

Como reporta la BBC, Amodei ha advertido sobre los riesgos asociados al ritmo acelerado del progreso en IA y ha pedido regulación a nivel industrial y una mayor supervisión independiente de cómo se desarrollan los modelos. Personalidades como Sam Altman y Elon Musk han respaldado esas preocupaciones, mientras otros, como Trump, han minimizado el tema defendiendo un avance sin restricciones.

Lo que vemos en la actualidad es, en gran medida, la respuesta de Suleyman y, en paralelo, la de Microsoft con Copilot. Este momento coincide con llamados de figuras como Bill Gates para la creación de una organización internacional que supervise el desarrollo de la IA. También se reporta un incremento en la transparencia y la necesidad de slowdown en el desarrollo de IA, con OpenAI preparando informes sobre comportamientos no deseados y llamando a una mayor claridad en las evaluaciones externas.

La conversación pública está repleta de opiniones encontradas: preocupa la posible sustitución de empleos, el impacto en la seguridad y la gobernanza, y, en última instancia, la necesidad de establecer bases sólidas para la IA antes de que el avance continúe a velocidad máxima. Si bien existen escepticismos sobre las motivaciones detrás de las llamadas a ralentizar, la cuestión central persiste: ¿cómo debe estructurarse la investigación, la regulación y la responsabilidad cuando las IA se vuelven cada vez más integradas en nuestra sociedad?

En resumen, el camino a seguir permanece ambiguo. Las voces destacadas de la industria piden cautela y una conversación estructurada que delimite normas, transparencia y salvaguardas, mientras que otros insisten en mantener el impulso para no perder competitividad. La reflexión compartida entre estos actores podría definir el equilibrio entre innovación y seguridad, para que la tecnología beneficie a la sociedad sin exponerla a riesgos innecesarios.

from Latest from TechRadar https://ift.tt/hYOSmwj
via IFTTT IA