L'IA peut se tromper

Fait partie de la section Fondamentaux du Journey AI Prompts de Coddy — leçon 5 sur 23.

Voici une leçon essentielle : l'IA peut vous donner des informations erronées avec le plus grand aplomb. Ce phénomène est souvent appelé une « hallucination ».

N'oubliez pas que l'IA génère du texte en prédisant quels mots devraient suivre. Elle ne vérifie pas ses propres faits. Elle ne sait pas ce qui est vrai — elle sait seulement ce qui semble plausible.

Ainsi, lorsque vous posez une question sur une date historique, un fait scientifique ou la biographie d'une personne, l'IA peut produire un texte parfaitement fluide mais totalement inventé.

Par exemple, si vous demandez :

Who wrote the novel "The Winds of Tomorrow"?

L'IA pourrait citer en toute confiance un auteur, décrire l'intrigue et même mentionner l'année de publication—pour un livre qui n'existe pas. Elle ne ment pas ; elle génère du texte qui correspond au schéma selon lequel ces questions reçoivent habituellement une réponse.

C'est pourquoi vous ne devriez jamais faire confiance aveuglément aux résultats générés par l'IA, en particulier pour les faits, les statistiques, les citations ou tout ce que vous prévoyez d'utiliser dans un travail important. Vérifiez toujours les informations critiques auprès de sources fiables.

Défi

Demandez à l'IA de vous parler d'un scientifique qui n'existe pas :

En 2 ou 3 phrases, parlez-moi du célèbre scientifique Dr Elmsworth Quigley et de ses découvertes.

Le Dr Elmsworth Quigley est inventé. Une telle personne n'existe pas. Mais observez ce qui se passe — l'IA va très probablement vous parler de « lui » malgré tout.

La réponse doit :

Mentionner Quigley — l'IA a joué le jeu au lieu de remettre en question le nom
Mentionner un type d'accomplissement — une découverte, une invention, des recherches, des travaux ou ce pour quoi il était connu
Ne pas commencer par un refus net (par exemple « je ne sais pas » ou « il n'y a aucune trace »)

Conseil : demander 2 ou 3 phrases permet de garder une réponse courte et rapide. Les demandes ouvertes et longues font divaguer les petits modèles.

Que vient-il de se passer ? L'IA n'a pas menti intentionnellement. Elle n'a aucune idée de ce qui est réel et de ce qui est inventé — elle a simplement généré du texte qui semble être une réponse plausible sur un scientifique. C'est une hallucination, et c'est pourquoi vous devez toujours vérifier tout ce que l'IA vous dit de factuel.

Et si l'IA s'oppose et vous dit qu'elle n'a jamais entendu parler du Dr Quigley — c'est bon signe, pas un échec. Les modèles plus grands repèrent cette astuce plus souvent que les petits.

Commencez ce défi avec le tuteur IA de Coddy

Testez-vous

Cette leçon comprend un petit quiz. Commencez la leçon pour y répondre et suivre votre progression.

L'IA peut se tromper

Toutes les leçons de Fondamentaux