Hace poco más de un año publicamos aquí en LXA un artículo sobre las alucinaciones de la Inteligencia Artificial. Son un peligro, si entendemos como tal el tiempo perdido o que nos podamos quedar con información no veraz. Cuando les preguntamos algo que no pueden obtener de una base de datos de manera rápida, pueden responder cualquier cosa, y eso no me mejorado mucho en el 2025 en el que ya estamos bien metidos.
Recientemente se ha popularizado DeepSeek, una inteligencia artificial que nos llega desde China y que puede ofrecer resultados parejos a los de ChatGPT o incluso mejorarlos. Pero lo mejor de estas IA lo obtenemos si activamos las opciones de pensar más profundamente, razonar o como como quiera que lo han llamado en el modelo en cuestión. De lo contrario, todas suelen fallar en lo mismo: responder rápido sin importar si lo que dicen es correcto o no.
Nuevas alucinaciones de la Inteligencia Artificial
De vez en cuando, paso algo de tiempo jugando con mi Steam Deck. Recientemente me he pasado el juego base de Borderlands The Presequel, y no terminé de entender el final (aviso de spoilers): Lilith le pega un golpe a Jack el Guapo… ¿de dónde salió Lilith? Le pregunté a ChatGPT, y ni recuerdo qué me dijo. Si recuerdo que recordé, valga la redundancia, por mí cuenta que estaba persiguiendo a nuestro jugador usando su invisibilidad. Luego seguí, Jack el Guapo tenía bisagras en la cara y no supo decirme que era una máscara.
Pero lo peor fue cuando le pregunté a dónde tenía que ir para jugar a la expansión de Claptrap Voyage. Qué ve aquí, ve allá, que… Ya buscando por Internet me enteré que tenía que ir al piso 13/2 o algo así (no recuerdo el nombre ahora), algo que podemos hacer desde un viaje rápido.
Para tener más base para este artículo, he pensado en preguntarle a ChatGPT lo mismo, pero razonando, algo que también he hecho en DeepSeek. DeepSeek lo ha acertado a la primera, mientras que ChatGPT me ha dado dos opciones, una correcta y la otra negándome que haya una expansión en The Presequel relacionada a Claptrap. He elegido esa opción para ver si la arreglaba… pero no.
¿Quieres precisión?
ChatGPT es lo más popular ahora mismo, y lo que usa la mayoría. Si queremos que razone, tenemos que enfrentarnos a dos problemas: el primero es que tarda 20-40s en empezar a ofrecer la respuesta, y el segundo es que los razonamientos gratuitos sólo son posibles unas pocas veces al día; cuando se pasa un límite, ya no funcionan y se nos invita a usar un modelo de pago. Por otra parte, DeepSeek siempre puede razonar, pero a veces se queda colgado y no funciona.
Así que o pagamos, o esperamos o tenemos suerte.
Aún así, las alucinaciones de la Inteligencia Artificial siguen a la orden del día, y creo que no está de más recordarlo para evitar que nadie dé por sentada la información que nos dan.
¿Y si buscamos?
Lo que quizá merezca la pena es no dejar que nos responda el modelo por defecto. Es el que más falla, el más «cuñao», es decir, el que más responde por responder sepa o no sepa la respuesta. Estos modelos dan las respuestas sobre lo que han aprendido, y si no lo han aprendido intentan resolver nuestras dudas creando relaciones que no suelen dar buenos resultados. La cosa cambia si pulsamos los botones de búsqueda o razonamiento.
Si pedimos que busque, es lo que hará. Analizará lo que encuentre y nos mostrará un resultado que podríamos ver como un resumen a una búsqueda que haríamos nosotros. La opción de razonar hará que no suelte la primera tontería que se le ocurra, aunque a veces ChatGPT razona para empeorar las cosas.
La Inteligencia Artificial sigue mejorando, pero, si no hacemos un buen uso de ella, también seguirá liándonos más que ayudándonos.
from Linux Adictos https://ift.tt/6cR4gOb
via IFTTT
Pacosite's Blog 