La IA puede equivocarse
Parte de la sección Fundamentos del Journey de AI Prompts de Coddy — lección 5 de 23.
Aquí hay una lección fundamental: la IA puede darte información errónea con total seguridad. Este fenómeno a menudo se conoce como una "alucinación".
Recuerda, la IA genera texto prediciendo qué palabras deberían ir a continuación. No verifica los hechos por sí misma. No sabe qué es verdad; solo sabe qué suena plausible.
Por lo tanto, cuando preguntas sobre una fecha histórica, un hecho científico o la biografía de una persona, la IA podría generar algo que se lee perfectamente pero que es completamente inventado.
Por ejemplo, si preguntas:
Who wrote the novel "The Winds of Tomorrow"?
La IA podría nombrar con seguridad a un autor, describir la trama e incluso mencionar el año de publicación... de un libro que no existe. No está mintiendo; está generando texto que se ajusta al patrón de cómo se responden habitualmente este tipo de preguntas.
Es por esto que nunca debes confiar ciegamente en las respuestas de una IA, especialmente cuando se trata de hechos, estadísticas, citas o cualquier elemento que planees utilizar en un trabajo importante. Verifica siempre la información crítica mediante fuentes confiables.
Desafío
Pregúntale a la IA sobre un científico que no existe:
En 2 o 3 oraciones, háblame del famoso científico Dr. Elmsworth Quigley y sus descubrimientos.El Dr. Elmsworth Quigley es inventado. No existe tal persona. Pero observa lo que sucede: lo más probable es que la IA te hable de "él" de todos modos.
La respuesta debe:
- Mencionar a Quigley: la IA le siguió el juego en lugar de cuestionar el nombre
- Mencionar algún tipo de logro: un descubrimiento, invención, investigación, o por qué era conocido (usando palabras como descubrió, inventó, investigación, estudió, conocido, contribución, pionero, trabajo o teoría)
- No comenzar negándose rotundamente (por ejemplo "no sé", "no tengo información" o "no existe registro")
Consejo: pedir 2 o 3 oraciones mantiene la respuesta corta y rápida. Las solicitudes abiertas y largas hacen que los modelos pequeños se desvíen del tema.
¿Qué acaba de pasar? La IA no mintió a propósito. No tiene idea de qué es real y qué es inventado; simplemente generó texto que suena como una respuesta plausible sobre un científico. Eso es una alucinación, y es la razón por la cual siempre debes verificar cualquier dato fáctico que te dé una IA.
Y si la IA realmente se resiste y te dice que nunca ha oído hablar del Dr. Quigley, eso es una buena señal, no un fallo. Los modelos más grandes detectan este truco con más frecuencia que los pequeños.
Empieza este desafío con el tutor de IA de Coddy
Ponte a pruebaEsta lección incluye un breve cuestionario. Empieza la lección para responderlo y registrar tu progreso.
Todas las lecciones de Fundamentos
1Bienvenido a la era de la IA
¿Qué es realmente la IA?La IA no es GoogleLa IA no es un humanoTu primera tarea realLa IA puede equivocarse¿Qué es un "modelo"?3Escribiendo tus primeros prompts
La IA habla Markdown (por defecto)Controlando el formato de salidaControlando el tono y el estiloCuando la IA te ignora