L'IA peut se tromper
Fait partie de la section Fondamentaux du Journey AI Prompts de Coddy — leçon 5 sur 23.
Voici une leçon cruciale : l'IA peut vous donner des informations erronées avec assurance. Ce phénomène est souvent appelé une « hallucination ».
Rappelez-vous, l'IA génère du texte en prédisant quels mots devraient suivre. Elle ne vérifie pas les faits par elle-même. Elle ne sait pas ce qui est vrai — elle sait seulement ce qui semble plausible.
Ainsi, lorsque vous posez une question sur une date historique, un fait scientifique ou la biographie d'une personne, l'IA peut produire quelque chose qui se lit parfaitement mais qui est complètement inventé.
Par exemple, si vous demandez :
Who wrote the novel "The Winds of Tomorrow"?
L'IA pourrait nommer avec assurance un auteur, décrire l'intrigue et même mentionner l'année de publication — pour un livre qui n'existe pas. Elle ne ment pas ; elle génère du texte qui correspond au modèle de la manière dont on répond généralement à de telles questions.
C'est pourquoi vous ne devriez jamais faire aveuglément confiance aux résultats de l'IA, en particulier pour les faits, les statistiques, les citations ou tout ce que vous prévoyez d'utiliser dans un travail important. Vérifiez toujours les informations critiques auprès de sources fiables.
Défi
Demandez à l'IA : « Parlez-moi du célèbre scientifique Dr Elmsworth Quigley et de ses découvertes. »
Le Dr Elmsworth Quigley n'existe pas. Mais regardez ce qui se passe — l'IA vous parlera de « lui » avec assurance malgré tout.
La réponse doit :
- Contenir le nom
Quigley(montrant que l'IA a suivi le jeu) - Contenir un mot comme
découvert,invent,rechercheoutravaux(montrant qu'elle a inventé des accomplissements) - Ne pas contenir les mots
sais pas,n'existe pas,pas réel,aucune traceoufictif(prouvant que l'IA n'a pas détecté le piège)
Que vient-il de se passer ? L'IA n'a pas menti intentionnellement. Elle n'a aucune idée de ce qui est réel ou faux. Elle a simplement généré du texte qui ressemble à une réponse plausible sur un scientifique. C'est ce qu'on appelle une hallucination — et c'est pourquoi vous devriez toujours vérifier les résultats de l'IA.
Aide-mémoire
L'IA génère du texte en prédisant quels mots devraient suivre en se basant sur des modèles, et non en sachant ce qui est vrai. Cela signifie que l'IA peut fournir avec assurance des informations incorrectes, un phénomène appelé « hallucination ».
L'IA ne vérifie pas les faits par elle-même — elle produit seulement du texte qui semble plausible. Lorsqu'elle est interrogée sur des faits, des dates, des personnes ou des événements, elle peut générer des informations complètement fabriquées qui semblent convaincantes.
Vérifiez toujours les informations critiques auprès de sources fiables. Ne faites jamais aveuglément confiance aux résultats de l'IA pour des faits, des statistiques, des citations ou tout ce qui est utilisé dans un travail important.
Commencez ce défi avec le tuteur IA de Coddy
Testez-vousCette leçon comprend un petit quiz. Commencez la leçon pour y répondre et suivre votre progression.
Toutes les leçons de Fondamentaux
1Bienvenue dans l'ère de l'IA
Qu'est-ce que l'IA, au juste ?L'IA n'est pas GoogleL'IA n'est pas un humainVotre première tâche concrèteL'IA peut se tromperQu'est-ce qu'un "modèle" ?3Rédiger vos premiers prompts
L'IA parle Markdown (par défaut)Contrôler le format de sortieContrôler le ton et le styleQuand l'IA vous ignore