Cada vez más personas usan la inteligencia artificial en su día a día: para buscar información, redactar textos, programar o incluso traducir a otro idioma. Sin embargo, una queja se repite con frecuencia: a veces, estos sistemas “se inventan cosas”. No es raro que un usuario reciba una respuesta muy detallada, bien escrita y segura… pero falsa.
Este fenómeno se conoce como alucinaciones de la IA. No tiene nada que ver con soñar o tener visiones, sino con respuestas incorrectas que parecen reales. Un nuevo estudio de OpenAI, creadora de ChatGPT, explica que estas alucinaciones no son simples fallos, sino una consecuencia natural de cómo están construidos estos modelos.
La causa: la fluidez importa más que la verdad
Los llamados modelos de lenguaje aprenden leyendo enormes cantidades de texto: libros, artículos, páginas web, conversaciones… Después, su tarea consiste en predecir cuál es la palabra más probable que debería ir después en una frase.
Esto hace que lo más importante para ellos sea sonar convincentes y naturales, más que tener siempre la razón.
Podemos entenderlo con un ejemplo escolar: imagina que estás en un examen y no puedes dejar una pregunta en blanco porque eso te hace perder puntos. ¿Qué harías? Probablemente intentar adivinar, aunque no estés seguro, con tal de no dejar el hueco vacío. Pues la IA hace lo mismo: si no sabe algo, prefiere inventar una respuesta con seguridad antes que decir “no lo sé”.
Por eso, muchas veces da explicaciones largas, con muchos detalles, aunque no tenga pruebas sólidas. Su entrenamiento la ha llevado a priorizar la fluidez antes que la honestidad.
¿Es posible cambiarlo?
OpenAI cree que sí. Su propuesta no pasa por rehacer toda la tecnología desde cero, sino por cambiar las reglas del juego. En vez de castigar al sistema cuando dice “no lo sé”, habría que premiarlo.
El objetivo sería enseñarle que es mejor callar cuando no tiene seguridad, en lugar de inventar. Técnicamente, se habla de poner un “umbral de confianza”. Es decir, solo responder si está muy seguro; si no, admitir la duda.
El problema es que las inteligencias artificiales actuales no tienen un medidor interno claro que indique si están al 70 % o al 90 % seguras. Cuando les pedimos que solo respondan si tienen confianza, lo interpretan como un estilo de redacción más cauteloso, pero no como una probabilidad real.
Aun así, cambiar las evaluaciones y entrenamientos para valorar el “no lo sé” sería un paso enorme. Significaría un cambio cultural: aprender que la humildad también es un valor en las máquinas.
Qué puede hacer la gente mientras tanto
Mientras llegan esos cambios, los usuarios no están indefensos. Hay varias prácticas sencillas que ayudan a reducir el riesgo de recibir información inventada:
- Pedir siempre fuentes. Igual que en un trabajo de clase, hay que exigir referencias o enlaces. Si no los hay, o si no se pueden comprobar, hay que desconfiar.
- Hacer preguntas claras y concretas. Cuanto más específica sea la consulta, menos opciones tendrá la IA de inventar detalles.
- Comprobar en otra fuente. Si otra IA o un buscador dan la misma respuesta, hay más probabilidades de que sea cierta. Si una destaca con datos demasiado distintos, puede ser una alucinación.
- Desconfiar de la seguridad excesiva. Muchas veces, cuando el texto suena demasiado perfecto y firme, es cuando más riesgo hay de que esté inventando.
- No usar las respuestas sin revisar. Lo que dice la IA debe ser un borrador o un punto de partida, nunca una verdad absoluta.
Algunas plataformas ya permiten activar modos de “factualidad estricta” o bajar la llamada “temperatura”, que hace que las respuestas sean menos creativas y más precisas. Son herramientas útiles para quienes necesitan información fiable.
Un ejemplo fuera del laboratorio: el cine de Orson Welles
Este debate no se queda en la teoría. En el mundo del cine, la empresa Showrunner ha anunciado que usará inteligencia artificial para recrear 43 minutos perdidos de The Magnificent Ambersons, una película de 1942 dirigida por Orson Welles.
El proyecto usará fotos antiguas de los decorados y combinará técnicas tradicionales con IA para imaginar cómo eran las escenas originales.
El anuncio ha despertado entusiasmo y recelo a partes iguales. Por un lado, supone la posibilidad de rescatar un clásico perdido. Por otro, plantea dudas serias:
- ¿Lo que se verá será fiel a lo que Welles quería o será una invención de la máquina?
- ¿Cómo sabrán los espectadores qué parte es auténtica y cuál es recreada?
Al final, ocurre lo mismo que con las alucinaciones de la IA en textos: la máquina rellena huecos con lo que “parece probable”, pero eso no significa que sea verdadero.
Las causas de fondo
En realidad, hay tres razones principales por las que las alucinaciones seguirán existiendo, al menos por ahora:
- Datos limitados. Ninguna base de datos recoge todo lo que pasa en el mundo. Siempre habrá lagunas.
- El lenguaje no es la realidad. Estos sistemas trabajan con palabras, no con hechos. Si en los textos hay errores, ellos también los repetirán.
- Los exámenes premian lo bonito. Mientras las pruebas sigan valorando respuestas fluidas y seguras, la IA aprenderá a inventar antes que a reconocer un vacío.
Qué se espera en el futuro
Las empresas ya trabajan en varias soluciones posibles:
- Recompensar la honestidad. Enseñar a los modelos que admitir “no lo sé” es correcto.
- Exigir citas o referencias. Que los sistemas solo respondan con pruebas claras.
- Avisar de la confianza. Señalar en pantalla si la respuesta es muy segura o si tiene muchas dudas.
Y, sobre todo, educar a los usuarios. Igual que aprendimos a identificar noticias falsas en internet, tendremos que desarrollar un “instinto” para detectar cuando la IA se pasa de lista.
Conclusión
Las alucinaciones de la IA no significan que estas herramientas no sirvan. Son muy útiles para ahorrar tiempo, generar ideas y organizar información. Pero hay que usarlas con cabeza y sentido crítico.
El caso del cine muestra el mismo dilema: la IA puede rescatar obras perdidas, pero también inventar lo que nunca existió. Y ese es el gran reto de esta época: aprovechar la tecnología sin perder de vista la diferencia entre lo real y lo inventado.
Preguntas frecuentes (FAQ)
¿Por qué ChatGPT y otras IA se inventan datos?
Porque están diseñadas para sonar naturales y seguras, incluso cuando no tienen la información exacta.
¿Cómo evitar que me den información falsa?
Haz preguntas claras, pide fuentes, comprueba en otras herramientas y no uses sus respuestas sin revisarlas.
¿Qué significa que una IA “alucina”?
Significa que inventa datos que suenan plausibles, pero que no están respaldados por hechos reales.
¿Puede la IA ser útil en cultura o cine, como en el caso de Orson Welles?
Sí, puede recrear material perdido, pero siempre será necesario indicar qué parte es original y cuál es creada artificialmente.
