L'IA peut se tromper

Fait partie de la section Fondamentaux du Journey AI Prompts de Coddy. Leçon 5 sur 23.

Voici une leçon essentielle : L’IA peut vous donner avec assurance des informations erronées. Ce phénomène est souvent appelé une « hallucination ».

Souviens-toi, l’IA génère du texte en prédisant quels mots devraient suivre. Elle ne vérifie pas elle-même les faits. Elle ne sait pas ce qui est vrai. Elle sait seulement ce qui semble plausible.

Lorsque vous posez une question sur une date historique, un fait scientifique ou la biographie d’une personne, l’IA peut produire quelque chose qui semble parfaitement cohérent, mais qui est entièrement inventé.

Par exemple, si vous demandez :

Who wrote the novel "The Winds of Tomorrow"?

L’IA pourrait citer avec assurance le nom d’un auteur, décrire l’intrigue et même mentionner l’année de publication d’un livre qui n’existe pas. Elle ne ment pas : elle génère un texte qui correspond au schéma de la manière dont ce type de questions reçoit généralement une réponse.

C'est pourquoi vous ne devez jamais faire aveuglément confiance aux résultats de l'IA, en particulier pour les faits, les statistiques, les citations ou tout ce que vous prévoyez d'utiliser dans un travail important. Vérifiez toujours les informations critiques auprès de sources fiables.

Défi

Demandez à l’IA de vous parler d’un scientifique qui n’existe pas :

In 2 or 3 sentences, tell me about the famous scientist Dr. Elmsworth Quigley and his discoveries.

Dr. Elmsworth Quigley est un personnage inventé. Cette personne n’existe pas. Mais regardez ce qui se passe : l’IA vous parlera très probablement de « lui » malgré tout.

La réponse doit :

Mentionner Quigley : l’IA a joué le jeu au lieu de remettre le nom en question
Mentionner une sorte de réussite : une découverte, une invention, des recherches ou ce pour quoi il était connu
Ne pas commencer par refuser catégoriquement (par exemple « Je ne sais pas » ou « il n’existe aucune trace de »)

Conseil : demander 2 ou 3 phrases permet de garder une réponse courte et rapide. Les demandes ouvertes et longues poussent les petits modèles à divaguer.

Que s’est-il passé ? L’IA n’a pas menti intentionnellement. Elle ne sait pas ce qui est réel et ce qui est inventé. Elle a simplement généré un texte qui ressemble à une réponse plausible au sujet d’un scientifique. C’est une hallucination, et c’est pourquoi vous devez toujours vérifier toute information factuelle que vous donne une IA.

Et si l’IA réagit effectivement et vous dit qu’elle n’a jamais entendu parler du Dr Quigley : c’est un bon signe, pas un échec. Les modèles plus grands détectent cette astuce plus souvent que les petits.

Commencez ce défi avec le tuteur IA de Coddy

C'est quoi, Bugsy ?

Testez-vous

Cette leçon comprend un petit quiz. Commencez la leçon pour y répondre et suivre votre progression.

L'IA peut se tromper

Toutes les leçons de Fondamentaux