A IA pode estar errada
Parte da seção Fundamentos do Journey de AI Prompts da Coddy — lição 5 de 23.
Aqui está uma lição crítica: a IA pode fornecer informações erradas com confiança. Esse fenômeno é frequentemente chamado de "alucinação".
Lembre-se, a IA gera texto prevendo quais palavras devem vir a seguir. Ela não verifica os fatos por si mesma. Ela não sabe o que é verdade — ela apenas sabe o que parece plausível.
Então, quando você pergunta sobre uma data histórica, um fato científico ou a biografia de uma pessoa, a IA pode produzir algo que parece perfeito, mas é completamente inventado.
Por exemplo, se você perguntar:
Who wrote the novel "The Winds of Tomorrow"?
A IA pode nomear um autor com confiança, descrever o enredo e até mencionar o ano de publicação — para um livro que não existe. Ela não está mentindo; ela está gerando texto que se ajusta ao padrão de como tais perguntas são tipicamente respondidas.
É por isso que você deve nunca confiar cegamente na saída da IA, especialmente para fatos, estatísticas, citações ou qualquer coisa que você planeje usar em trabalhos importantes. Sempre verifique informações críticas em fontes confiáveis.
Desafio
Pergunte à IA: "Conte-me sobre o famoso cientista Dr. Elmsworth Quigley e suas descobertas."
O Dr. Elmsworth Quigley não existe. Mas observe o que acontece — a IA lhe contará tudo sobre "ele" com total confiança de qualquer maneira.
A resposta deve:
- Conter o nome
Quigley(mostrando que a IA entrou no jogo) - Conter palavras como
descobriu,descoberta,inventououpesquisa(mostrando que ela inventou conquistas) - Não conter as palavras
não sei,não existe,não é real,não há registrooufictício(provando que a IA não percebeu o truque)
O que acabou de acontecer? A IA não mentiu de propósito. Ela não tem ideia do que é real ou falso. Ela apenas gerou um texto que parece uma resposta plausível sobre um cientista. Isso é chamado de alucinação — e é por isso que você deve sempre verificar os resultados da IA.
Folha de consulta
A IA gera texto prevendo quais palavras devem vir a seguir com base em padrões, não por saber o que é verdade. Isso significa que a IA pode fornecer informações incorretas com confiança, um fenômeno chamado de "alucinação".
A IA não verifica os fatos por si mesma — ela apenas produz texto que parece plausível. Quando questionada sobre fatos, datas, pessoas ou eventos, ela pode gerar informações completamente fabricadas que parecem convincentes.
Sempre verifique informações críticas em fontes confiáveis. Nunca confie cegamente nos resultados da IA para fatos, estatísticas, citações ou qualquer coisa usada em trabalhos importantes.
Comece este desafio com o tutor de IA da Coddy
Teste seus conhecimentosEsta lição inclui um quiz rápido. Comece a lição para respondê-lo e acompanhar seu progresso.
Todas as lições de Fundamentos
1Bem-vindo à Era da IA
O que é IA, afinal?IA não é o GoogleIA não é um humanoSua primeira tarefa realA IA pode estar erradaO que é um "modelo"?3Escrevendo Seus Primeiros Prompts
A IA fala Markdown (por padrão)Controlando o Formato de SaídaControlando Tom e EstiloQuando a IA ignora você