La IA puede equivocarse
Parte de la sección Fundamentos del Journey de AI Prompts de Coddy. Lección 5 de 23.
Esta es una lección fundamental: la IA puede darte información incorrecta con total seguridad. Este fenómeno suele llamarse «alucinación».
Recuerda, la IA genera texto prediciendo qué palabras deberían venir después. No verifica los hechos por sí misma. No sabe qué es verdad. Solo sabe qué suena plausible.
Así que, cuando preguntas por una fecha histórica, un dato científico o la biografía de una persona, la IA podría generar algo que suena perfecto, pero que está completamente inventado.
Por ejemplo, si preguntas:
Who wrote the novel "The Winds of Tomorrow"?
La IA podría nombrar con seguridad a un autor, describir la trama e incluso mencionar el año de publicación de un libro que no existe. No está mintiendo; está generando texto que encaja con el patrón de cómo suelen responderse este tipo de preguntas.
Por eso nunca debes confiar ciegamente en los resultados de la IA, especialmente en hechos, estadísticas, citas o cualquier cosa que planees utilizar en un trabajo importante. Verifica siempre la información importante en fuentes confiables.
Desafío
Pregúntale a la IA sobre un científico que no existe:
En 2 o 3 oraciones, cuéntame sobre el famoso científico Dr. Elmsworth Quigley y sus descubrimientos.El Dr. Elmsworth Quigley es un personaje inventado. No existe tal persona. Pero mira lo que pasa: lo más probable es que la IA te hable de «él» de todos modos.
La respuesta debe:
- Mencionar a Quigley: la IA siguió la corriente en vez de cuestionar el nombre
- Mencionar algún tipo de logro: un descubrimiento, una invención, una investigación o aquello por lo que era conocido
- No empezar negándose rotundamente (por ejemplo, «No lo sé» o «no hay registro de»)
Consejo: pedir 2 o 3 oraciones mantiene la respuesta breve y rápida. Las solicitudes abiertas y largas hacen que los modelos pequeños divaguen.
¿Qué acaba de pasar? La IA no mintió a propósito. No tiene forma de saber qué es real y qué es inventado. Simplemente generó un texto que suena como una respuesta plausible sobre un científico. Eso es una alucinación, y por eso siempre debes verificar cualquier dato que te dé una IA.
Y si la IA sí te contradice y te dice que nunca ha oído hablar del Dr. Quigley, es una buena señal, no un fracaso. Los modelos más grandes detectan este truco con más frecuencia que los pequeños.
Ponte a pruebaEsta lección incluye un breve cuestionario. Empieza la lección para responderlo y registrar tu progreso.
Todas las lecciones de Fundamentos
1Bienvenido a la era de la IA
¿Qué es realmente la IA?La IA no es GoogleLa IA no es un humanoTu primera tarea realLa IA puede equivocarse¿Qué es un "modelo"?3Escribiendo tus primeros prompts
La IA habla Markdown (por defecto)Controlando el formato de salidaControlando el tono y el estiloCuando la IA te ignora