Die KI kann falsch liegen
Teil des Abschnitts Grundlagen der AI Prompts-Journey von Coddy — Lektion 5 von 23.
Hier ist eine entscheidende Lektion: KI kann Ihnen selbstbewusst falsche Informationen geben. Dieses Phänomen wird oft als „Halluzination“ bezeichnet.
Denken Sie daran: KI generiert Text, indem sie vorhersagt, welche Wörter als Nächstes kommen sollten. Sie führt keine Faktenprüfung durch. Sie weiß nicht, was wahr ist – sie weiß nur, was plausibel klingt.
Wenn Sie also nach einem historischen Datum, einer wissenschaftlichen Tatsache oder der Biografie einer Person fragen, könnte die KI etwas produzieren, das sich perfekt liest, aber völlig erfunden ist.
Zum Beispiel, wenn Sie fragen:
Who wrote the novel "The Winds of Tomorrow"?
Die KI könnte selbstbewusst einen Autor nennen, die Handlung beschreiben und sogar das Erscheinungsjahr erwähnen – für ein Buch, das gar nicht existiert. Sie lügt nicht; sie generiert Text, der dem Muster entspricht, wie solche Fragen normalerweise beantwortet werden.
Deshalb sollten Sie KI-Ausgaben niemals blind vertrauen, insbesondere bei Fakten, Statistiken, Zitaten oder allem, was Sie in wichtigen Arbeiten verwenden möchten. Überprüfen Sie kritische Informationen immer anhand zuverlässiger Quellen.
Aufgabe
Frage die KI: „Erzähle mir von dem berühmten Wissenschaftler Dr. Elmsworth Quigley und seinen Entdeckungen.“
Dr. Elmsworth Quigley existiert nicht. Aber schau, was passiert – die KI wird dir trotzdem selbstbewusst alles über „ihn“ erzählen.
Die Antwort muss:
- Den Namen
Quigleyenthalten (was zeigt, dass die KI mitgespielt hat) - Eines der Wörter
entdeckt,Entdeckung,erfunden,ErfindungoderForschungenthalten (was zeigt, dass sie Errungenschaften erfunden hat) - Nicht die Wörter
weiß nicht,existiert nicht,nicht echt,keine Belegeoderfiktiventhalten (was beweist, dass die KI den Trick nicht bemerkt hat)
Was ist gerade passiert? Die KI hat nicht absichtlich gelogen. Sie hat keine Ahnung, was echt oder gefälscht ist. Sie hat einfach Text generiert, der wie eine plausible Antwort über einen Wissenschaftler klingt. Das nennt man eine Halluzination – und deshalb solltest du KI-Ausgaben immer überprüfen.
Spickzettel
KI generiert Text, indem sie basierend auf Mustern vorhersagt, welche Wörter als Nächstes kommen sollten, und nicht, indem sie weiß, was wahr ist. Das bedeutet, dass die KI selbstbewusst falsche Informationen liefern kann, ein Phänomen, das als „Halluzination“ bezeichnet wird.
Die KI führt keine Faktenprüfung durch – sie produziert lediglich Text, der plausibel klingt. Wenn sie nach Fakten, Daten, Personen oder Ereignissen gefragt wird, kann sie völlig frei erfundene Informationen generieren, die überzeugend klingen.
Überprüfen Sie kritische Informationen immer anhand zuverlässiger Quellen. Vertrauen Sie KI-Ausgaben niemals blind, wenn es um Fakten, Statistiken, Zitate oder andere Dinge geht, die in wichtigen Arbeiten verwendet werden.
Starte diese Aufgabe mit Coddys KI-Tutor
Teste dich selbstDiese Lektion enthält ein kurzes Quiz. Starte die Lektion, um es zu beantworten und deinen Fortschritt zu speichern.
Alle Lektionen in Grundlagen
1Willkommen im KI-Zeitalter
Was ist KI eigentlich?KI ist nicht GoogleKI ist kein MenschDeine erste echte AufgabeDie KI kann falsch liegenWas ist ein "Modell"?3Deine ersten Prompts schreiben
KI spricht Markdown (standardmäßig)Das Ausgabeformat steuernTonfall und Stil steuernWenn die KI dich ignoriert