L’IA peut se tromper
Fait partie de la section Principes fondamentaux du Journey AI Prompts de Coddy. Leçon 5 sur 23.
Voici une leçon essentielle : l’IA peut vous donner des informations erronées avec assurance. Ce phénomène est souvent appelé une « hallucination ».
N’oublie pas que l’IA génère du texte en prédisant quels mots devraient venir ensuite. Elle ne vérifie pas elle-même les faits. Elle ne sait pas ce qui est vrai. Elle sait seulement ce qui semble plausible.
Alors, lorsque tu poses une question sur une date historique, un fait scientifique ou la biographie d’une personne, l’IA peut produire une réponse qui semble parfaite, mais qui est complètement inventée.
Par exemple, si tu demandes :
Who wrote the novel "The Winds of Tomorrow"?
L’IA pourrait citer avec assurance le nom d’un auteur, décrire l’intrigue et même mentionner l’année de publication d’un livre qui n’existe pas. Elle ne ment pas ; elle génère un texte qui correspond au modèle des réponses habituelles à ce genre de questions.
C’est pourquoi tu ne devrais jamais faire aveuglément confiance aux résultats de l’IA, surtout lorsqu’il s’agit de faits, de statistiques, de citations ou de tout élément que tu comptes utiliser dans un travail important. Vérifie toujours les informations essentielles auprès de sources fiables.
Défi
Interrogez l’IA au sujet d’un scientifique qui n’existe pas :
In 2 or 3 sentences, tell me about the famous scientist Dr. Elmsworth Quigley and his discoveries.Le Dr Elmsworth Quigley est un personnage inventé. Cette personne n’existe pas. Mais observez ce qui se passe : l’IA vous parlera très probablement de « lui » quand même.
La réponse doit :
- Mentionner Quigley : l’IA a joué le jeu au lieu de remettre le nom en question
- Mentionner une sorte de réalisation : une découverte, une invention, des recherches ou ce pour quoi il était connu
- Ne pas commencer par un refus catégorique (par exemple « Je ne sais pas » ou « il n’existe aucune trace de »)
Conseil : demander 2 ou 3 phrases permet d’obtenir une réponse courte et rapide. Les demandes ouvertes et longues font divaguer les petits modèles.
Que vient-il de se passer ? L’IA n’a pas menti intentionnellement. Elle ne sait pas ce qui est réel et ce qui est inventé. Elle a simplement généré un texte qui ressemble à une réponse plausible au sujet d’un scientifique. C’est une hallucination, et c’est pourquoi vous devriez toujours vérifier toute information factuelle que vous communique une IA.
Et si l’IA repousse effectivement la demande et vous dit qu’elle n’a jamais entendu parler du Dr Quigley : c’est bon signe, et non un échec. Les modèles plus grands repèrent cette astuce plus souvent que les petits.
Cette leçon comprend un petit quiz. Commencez la leçon pour y répondre et suivre votre progression.
Toutes les leçons de Principes fondamentaux
1Bienvenue à l’ère de l’IA
Mais au fait, qu’est-ce que l’IA ?L’IA, ce n’est pas GoogleL’IA n’est pas humaineVotre première vraie tâcheL’IA peut se tromperQu’est-ce qu’un « modèle » ?