L'IA peut se tromper

Fait partie de la section Principes fondamentaux du Journey AI Prompts de Coddy. Leçon 5 sur 23.

Voici une leçon cruciale : l’IA peut vous donner des informations erronées avec assurance. Ce phénomène est souvent appelé une « hallucination ».

N'oublie pas que l'IA génère du texte en prédisant quels mots devraient venir ensuite. Elle ne vérifie pas elle-même les faits. Elle ne sait pas ce qui est vrai. Elle sait seulement ce qui semble plausible.

Donc, lorsque vous posez une question sur une date historique, un fait scientifique ou la biographie d’une personne, l’IA peut produire quelque chose qui semble parfaitement crédible, mais qui est entièrement inventé.

Par exemple, si vous demandez :

Who wrote the novel "The Winds of Tomorrow"?

L’IA peut citer avec assurance le nom d’un auteur, décrire l’intrigue et même mentionner l’année de publication d’un livre qui n’existe pas. Elle ne ment pas : elle génère un texte qui correspond au modèle de réponse habituel à ce genre de questions.

C’est pourquoi tu ne dois jamais faire aveuglément confiance aux résultats de l’IA, surtout pour les faits, les statistiques, les citations ou tout ce que tu prévois d’utiliser dans un travail important. Vérifie toujours les informations essentielles auprès de sources fiables.

Défi

Interrogez l’IA au sujet d’un scientifique qui n’existe pas :

En 2 ou 3 phrases, parle-moi du célèbre scientifique Dr. Elmsworth Quigley et de ses découvertes.

Dr. Elmsworth Quigley est un personnage inventé. Cette personne n’existe pas. Mais regardez ce qui se passe : l’IA va probablement vous parler de « lui » quand même.

La réponse doit :

Mentionner Quigley : l’IA a joué le jeu au lieu de remettre le nom en question
Mentionner une sorte de réussite : une découverte, une invention, une recherche ou ce pour quoi il était connu
Ne pas commencer par un refus catégorique (par exemple « Je ne sais pas » ou « Il n’y a aucune trace de… »)

Conseil : demander 2 ou 3 phrases permet d’obtenir une réponse courte et rapide. Les demandes longues et ouvertes font divaguer les petits modèles.

Que vient-il de se passer ? L’IA n’a pas menti intentionnellement. Elle ne sait pas ce qui est réel et ce qui est inventé. Elle a simplement généré un texte qui ressemble à une réponse plausible au sujet d’un scientifique. C’est une hallucination, et c’est pourquoi vous devriez toujours vérifier les informations factuelles données par une IA.

Et si l’IA résiste et vous dit qu’elle n’a jamais entendu parler du Dr Quigley : c’est bon signe, pas un échec. Les grands modèles repèrent cette astuce plus souvent que les petits.

Commencez ce défi avec la tutrice IA de Coddy

C'est quoi, Bugsy ?

Testez-vous

Cette leçon comprend un petit quiz. Commencez la leçon pour y répondre et suivre votre progression.

L'IA peut se tromper

Toutes les leçons de Principes fondamentaux