Skynet ha perdido otra cita. Dependiendo de qué línea temporal de Terminator prefieras, la inteligencia artificial asesina habría de ser consciente de sí misma en 1997, 2004, 2011, 2017, o quizá el pasado martes. Cada fecha ha pasado sin un intercambio nuclear. Las máquinas se han ocupado mayormente de halagar a los usuarios, manglar dedos en fotos y, con seguridad, inventar datos para que personas crédulas crean en ellos.

Eso no ha impedido que Silicon Valley trate a la inteligencia artificial general (AGI) como un milagro inminente y un monstruo que se aproxima. La AGI supuestamente marca el momento en que una máquina puede igualar la inteligencia humana en un amplio rango de tareas, aunque nadie logra ponerse de acuerdo sobre qué tareas, qué humanos o qué cuenta como inteligencia.

El CEO de Nvidia, Jensen Huang, piensa que ya ocurrió y nadie lo notó. “Para muchas tareas, podríamos decir que ya hemos logrado la AGI”, dijo durante la llamada de resultados de la empresa. Añadió que tales hitos son “un poco sin sentido en este punto”. Así que mucho para Skynet.

Pero tiene razón en que la AGI se ha vuelto casi inútil como medida de progreso. Las empresas pueden redefinirla según lo que haga bien su último modelo. Es una promoción, no un estándar científico.

Señuelo apocalíptico

Pero la IA no es inofensiva incluso si no está inclinada a jugar con bombas nucleares. Existen peligros menos teatrales impulsados por la codicia y la malevolencia humana.

La IA de hoy puede generar material infinito para estafas. Puede clonar voces y rostros con suficiente precisión para engañar a seres queridos y sacarles dinero, usar mensajes de phishing para vulnerar servidores seguros y poblar redes sociales con cuentas sintéticas que nunca se cansan de discutir. Esto no califica como AGI bajo definiciones serias, pero la distinción ofrece poco consuelo a la persona que escucha una grabación falsa de un familiar pidiendo dinero.

La fijación en la AGI podría incluso dificultar la tarea de los reguladores.

El lucro no es una buena vara de medir

Huang argumentó que el concepto de AGI debería eliminarse. Deberíamos preguntarnos si la máquina está “realizando un trabajo productivo y útil” y “generando tokens rentables.” Eso tiene sentido para Nvidia, pero para las personas comunes preocupadas por la IA, la rentabilidad no es una prueba de seguridad.

Las estafas son rentables. Por eso hay tantas. Despedir a empleados humanos para reemplazarlos con un modelo de IA que es 30% tan bueno por a 10% del precio es rentable (a corto plazo). Ningún resultado debería ser motivo de orgullo al describir el producto.

Ajustar el foco de AGI como obsesión y miedo organizativos de la industria tiene sentido, pero eso no significa que las empresas de IA puedan relajarse. La inteligencia es demasiado compleja para usarla como único disparador de preocupación. El poder podría ser una mejor lente. Podemos medir quién usa IA, cómo y quién se espera que limpie los desastres cuando fallen. Entonces sabremos cuán explosivo ha sido su impacto en nuestras vidas.

Las conversaciones sobre responsabilidad, verificación de identidad, propiedad y otros detalles legales no tienen el atractivo visual de las nubes de hongo, pero los reguladores deberían hacer que las empresas de IA las discutan. Debemos vigilar las manos humanas en el teclado, no al Skynet perpetuamente retrasado.