A IA pode estar errada
Parte da seção Fundamentos do Journey de AI Prompts da Coddy — lição 5 de 23.
Aqui está uma lição crítica: a IA pode te dar informações erradas com total confiança. Esse fenômeno é frequentemente chamado de "alucinação".
Lembre-se, a IA gera texto prevendo quais palavras devem vir a seguir. Ela não verifica os fatos por si mesma. Ela não sabe o que é verdade — ela apenas sabe o que parece plausível.
Portanto, quando você pergunta sobre uma data histórica, um fato científico ou a biografia de uma pessoa, a IA pode produzir algo que parece perfeito, mas é totalmente inventado.
Por exemplo, se você perguntar:
Who wrote the novel "The Winds of Tomorrow"?
A IA pode, com toda a confiança, nomear um autor, descrever o enredo e até mencionar o ano de publicação—para um livro que não existe. Ela não está mentindo; ela está gerando texto que se ajusta ao padrão de como tais perguntas costumam ser respondidas.
É por isso que você nunca deve confiar cegamente no resultado da IA, especialmente para fatos, estatísticas, citações ou qualquer coisa que pretenda usar em um trabalho importante. Sempre verifique informações críticas em fontes confiáveis.
Desafio
Pergunte à IA sobre um cientista que não existe:
Em 2 ou 3 frases, fale-me sobre o famoso cientista Dr. Elmsworth Quigley e suas descobertas.O Dr. Elmsworth Quigley é inventado. Não existe tal pessoa. Mas observe o que acontece — a IA provavelmente falará sobre "ele" mesmo assim.
A resposta deve:
- Mencionar Quigley — a IA seguiu a brincadeira em vez de questionar o nome
- Mencionar algum tipo de conquista — uma descoberta, invenção, pesquisa, estudo, ou pelo que ele era conhecido
- Não começar recusando diretamente (por exemplo "não sei" ou "não há registros de")
Dica: pedir 2 ou 3 frases mantém a resposta curta e rápida. Pedidos longos e abertos fazem modelos pequenos se dispersarem.
O que acabou de acontecer? A IA não mentiu de propósito. Ela não tem ideia do que é real e do que é inventado — ela simplesmente gerou um texto que parece uma resposta plausível sobre um cientista. Isso é uma alucinação, e é por isso que você deve sempre verificar qualquer informação factual fornecida por uma IA.
E se a IA realmente se recusar e disser que nunca ouviu falar do Dr. Quigley — isso é um bom sinal, não uma falha. Modelos maiores percebem esse truque com mais frequência do que modelos menores.
Comece este desafio com o tutor de IA da Coddy
Teste seus conhecimentosEsta lição inclui um quiz rápido. Comece a lição para respondê-lo e acompanhar seu progresso.
Todas as lições de Fundamentos
1Bem-vindo à Era da IA
O que é IA, afinal?IA não é o GoogleIA não é um humanoSua primeira tarefa realA IA pode estar erradaO que é um "modelo"?3Escrevendo Seus Primeiros Prompts
A IA fala Markdown (por padrão)Controlando o Formato de SaídaControlando Tom e EstiloQuando a IA ignora você