Hace ya mucho (en terminos de avances en IA, 1 año o así) recuerdo que iba en el coche conduciendo, quería poner una canción en SPOTIFY pero no recordaba ni el nombre del grupo ni de la canción, ni la letra, así es que cogí el CHATGPT y le expliqué (voz) algo como: «Recuerdame como se llama el grupo ese musical de algo de Siberia o Rusia, que tienen una canción sobre el coche fantástico que cantan dos!«.
El telefono sin dudarlo ni un poco siquiera me respondió «Ah! si, te refieres Estepa Rusa, que tienen una canción homenaje a la serie de televisíon llamada «El coche fantástico» y que ha tenido mucho éxito, etc, etc, etc … .«. La verdad es que la explicación cuadraba bastante con lo poco que recordaba ( muy larga y argumentada ) me la creí enteritica sin pestañear. Y ahí quedó todo.
Mas tarde, ya en casa, me puse a buscarlos con los datos que me había dado la IA y ni rastro, no encontraba absolutamente nada. Ni grupo, ni titulo, ni tema, ni historia ni nada de nada. Me puse a buscar por Youtube hasta que los encontré: Ladilla Rusa, tema: KITT y los coches del pasado.
El muy cabrón se lo había inventado absolutamente todo, el nombre del grupo, el titulo del tema, la letra, el origen del grupo, de la letra, su fama, su repercusión social, su éxito comercial… todo!!

Así descubrí por primera vez lo que era una alucinación de la IA, basicamente, que la máquina se inventa todos los datos y todo lo que dice, pero claro, con coherencia, sin dudas, con argumentos… todo perfectamente creible y todo falso.
Creo que el problema subyace en que una IA es rarísimo (diría que imposible) que te diga «No sé«, siempre va a decirte que sí, que es posible. Esta tarde lo ha vuelto a hacer.
Le he dicho que buscase en el código (varios miles de líneas) donde estaba haciendo mal un cálculo que producía decimales y no debía, y estas son las respuestas:

Obviamente se ha vuelto a equivocar:

Volvía a inventar …

… y ha seguido probando e inventando 2 o 3 veces más hasta que me he cansado y lo he solucionado al viejo estilo CTRL+F.
Pero claro, te deja pensando ¿cuantas veces me habrá colado algo por no tener ni puñetera idea?. Sí, en un código informático, en una función es más complicado colarla, si te lo inventas lo normal es que no funcione, o haga otra cosa y listo, pero y en otros temas…

Había un chistecillo celebre entre abogados yanquis y que viene muy bien para estas situaciones: Nunca preguntes algo de lo que NO sepas la repuesta!! Amén!