La IA puede equivocarse
Parte de la sección Fundamentos del Journey de AI Prompts de Coddy — lección 5 de 23.
Aquí tienes una lección fundamental: la IA puede darte información errónea con total seguridad. Este fenómeno suele denominarse "alucinación".
Recuerda, la IA genera texto prediciendo qué palabras deberían venir a continuación. No verifica los hechos por sí misma. No sabe qué es verdad; solo sabe qué suena plausible.
Así que cuando preguntas sobre una fecha histórica, un hecho científico o la biografía de una persona, la IA podría producir algo que se lee perfectamente pero que es completamente inventado.
Por ejemplo, si preguntas:
Who wrote the novel "The Winds of Tomorrow"?
La IA podría nombrar con confianza a un autor, describir la trama e incluso mencionar el año de publicación—de un libro que no existe. No está mintiendo; está generando texto que se ajusta al patrón de cómo se responden típicamente tales preguntas.
Esta es la razón por la que nunca debes confiar ciegamente en los resultados de la IA, especialmente en lo que respecta a hechos, estadísticas, citas o cualquier cosa que planees utilizar en un trabajo importante. Verifica siempre la información crítica en fuentes fiables.
Desafío
Pregúntale a la IA: "Háblame del famoso científico Dr. Elmsworth Quigley y sus descubrimientos".
El Dr. Elmsworth Quigley no existe. Pero observa lo que sucede: la IA te contará todo sobre "él" con total confianza de todos modos.
La respuesta debe:
- Contener el nombre
Quigley(demostrando que la IA siguió el juego) - Contener una palabra como
descubrimiento,inventó,investigaciónohallazgo(demostrando que inventó logros) - No contener las palabras
no sé,no existe,no es real,no hay registrooficticio(demostrando que la IA no detectó el truco)
¿Qué acaba de pasar? La IA no mintió a propósito. No tiene idea de qué es real o falso. Simplemente generó texto que parece una respuesta plausible sobre un científico. Esto se llama una alucinación, y es por eso que siempre debes verificar los resultados de la IA.
Hoja de referencia
La IA genera texto prediciendo qué palabras deberían seguir basándose en patrones, no por saber qué es verdad. Esto significa que la IA puede proporcionar información incorrecta con total seguridad, un fenómeno llamado "alucinación".
La IA no verifica los hechos por sí misma; solo produce texto que suena plausible. Cuando se le pregunta sobre hechos, fechas, personas o eventos, puede generar información completamente fabricada que resulta convincente al leerla.
Verifique siempre la información crítica en fuentes confiables. Nunca confíe ciegamente en los resultados de la IA para obtener hechos, estadísticas, citas o cualquier cosa que se utilice en un trabajo importante.
Empieza este desafío con el tutor de IA de Coddy
Ponte a pruebaEsta lección incluye un breve cuestionario. Empieza la lección para responderlo y registrar tu progreso.
Todas las lecciones de Fundamentos
1Bienvenido a la era de la IA
¿Qué es realmente la IA?La IA no es GoogleLa IA no es un humanoTu primera tarea realLa IA puede equivocarse¿Qué es un "modelo"?3Escribiendo tus primeros prompts
La IA habla Markdown (por defecto)Controlando el formato de salidaControlando el tono y el estiloCuando la IA te ignora