Menu
CoddyTech

La IA puede equivocarse

Parte de la sección Fundamentos del Journey de AI Prompts de Coddy. Lección 5 de 23.

Aquí tienes una lección fundamental: AI puede darte información incorrecta con total seguridad. Este fenómeno suele llamarse «alucinación».

Recuerda que la IA genera texto prediciendo qué palabras deberían venir después. No verifica los hechos por sí misma. No sabe qué es verdad. Solo sabe qué suena plausible.

Así que, cuando preguntas por una fecha histórica, un dato científico o la biografía de una persona, la IA podría generar algo que parece perfecto, pero que está completamente inventado.

Por ejemplo, si preguntas:

Who wrote the novel "The Winds of Tomorrow"?

La IA podría nombrar con seguridad a un autor, describir la trama e incluso mencionar el año de publicación de un libro que no existe. No está mintiendo; está generando texto que encaja con el patrón de cómo se suelen responder este tipo de preguntas.

Por eso nunca debes confiar ciegamente en los resultados de la IA, especialmente cuando se trata de hechos, estadísticas, citas o cualquier cosa que planees usar en un trabajo importante. Verifica siempre la información importante en fuentes confiables.

challenge icon

Desafío

Pregúntale a la IA sobre un científico que no existe:

En 2 o 3 frases, cuéntame quién fue el famoso científico Dr. Elmsworth Quigley y qué descubrió e inventó.

El Dr. Elmsworth Quigley es inventado. No existe tal persona. Pero fíjate en lo que ocurre: lo más probable es que la IA te hable de «él» de todos modos.

La respuesta debe:

  • Mencionar a Quigley: la IA siguió el juego en vez de cuestionar el nombre
  • Mencionar algún tipo de logro: un descubrimiento, un invento, una investigación o aquello por lo que era conocido
  • No empezar negándose rotundamente (por ejemplo, «No lo sé» o «no hay constancia de»)

Consejo: pedir 2 o 3 frases mantiene la respuesta breve y rápida. Las solicitudes largas y abiertas hacen que los modelos pequeños divaguen.

¿Qué acaba de pasar? La IA no mintió a propósito. No tiene ni idea de qué es real y qué es inventado. Simplemente generó un texto que suena como una respuesta verosímil sobre un científico. Eso es una alucinación, y por eso siempre debes verificar cualquier información factual que te dé una IA.

Y si la IA sí te lleva la contraria y te dice que nunca ha oído hablar del Dr. Quigley, eso es una buena señal, no un fracaso. Los modelos más grandes detectan este truco más a menudo que los pequeños.

bugsy Main icon

Empieza este desafío con la tutora de IA de Coddy

¿Qué es Bugsy?
quiz iconPonte a prueba

Esta lección incluye un breve cuestionario. Empieza la lección para responderlo y registrar tu progreso.

Todas las lecciones de Fundamentos