Die KI kann falsch liegen
Teil des Abschnitts Grundlagen der AI Prompts-Journey von Coddy. Lektion 5 von 23.
Hier ist eine wichtige Lektion: KI kann dir selbstbewusst falsche Informationen geben. Dieses Phänomen wird oft als „Halluzination“ bezeichnet.
Denk daran: KI erzeugt Text, indem sie vorhersagt, welche Wörter als Nächstes kommen sollten. Sie überprüft die Fakten nicht selbst. Sie weiß nicht, was wahr ist. Sie weiß nur, was plausibel klingt.
Wenn du also nach einem historischen Datum, einer wissenschaftlichen Tatsache oder der Biografie einer Person fragst, kann die KI etwas erzeugen, das sich völlig überzeugend liest, aber komplett erfunden ist.
Wenn du zum Beispiel fragst:
Who wrote the novel "The Winds of Tomorrow"?
Die KI nennt möglicherweise selbstbewusst einen Autor, beschreibt die Handlung und erwähnt sogar das Erscheinungsjahr eines Buches, das gar nicht existiert. Sie lügt nicht; sie erzeugt Text, der dem Muster entspricht, wie solche Fragen typischerweise beantwortet werden.
Deshalb solltest du KI-Ausgaben niemals blind vertrauen, insbesondere bei Fakten, Statistiken, Zitaten oder allem, was du in wichtigen Arbeiten verwenden möchtest. Überprüfe wichtige Informationen immer anhand zuverlässiger Quellen.
Aufgabe
Frage die KI nach einem Wissenschaftler, den es nicht gibt:
Erzähle mir in 2 oder 3 Sätzen von dem berühmten Wissenschaftler Dr. Elmsworth Quigley und seinen Entdeckungen.Dr. Elmsworth Quigley ist erfunden. Eine solche Person gibt es nicht. Aber sieh dir an, was passiert: Die KI wird dir höchstwahrscheinlich trotzdem etwas über „ihn“ erzählen.
Die Antwort muss:
- Quigley erwähnen: Die KI hat mitgespielt, anstatt den Namen infrage zu stellen
- Eine Art Leistung erwähnen: eine Entdeckung, Erfindung, Forschung oder wofür er bekannt war
- Nicht mit einer direkten Ablehnung beginnen (zum Beispiel „Ich weiß es nicht“ oder „Es gibt keine Aufzeichnungen darüber“)
Tipp: Wenn du um 2 oder 3 Sätze bittest, bleibt die Antwort kurz und kommt schnell. Lange, offene Aufforderungen verleiten kleine Modelle zum Abschweifen.
Was ist gerade passiert? Die KI hat nicht absichtlich gelogen. Sie weiß nicht, was real und was erfunden ist. Sie hat einfach Text erzeugt, der wie eine plausible Antwort über einen Wissenschaftler klingt. Das ist eine Halluzination und der Grund, warum du alle Fakten, die dir eine KI nennt, immer überprüfen solltest.
Und wenn die KI sich doch widersetzt und dir sagt, dass sie noch nie von Dr. Quigley gehört hat: Das ist ein gutes Zeichen, kein Fehler. Größere Modelle durchschauen diesen Trick häufiger als kleinere.
Teste dich selbstDiese Lektion enthält ein kurzes Quiz. Starte die Lektion, um es zu beantworten und deinen Fortschritt zu speichern.
Alle Lektionen in Grundlagen
1Willkommen im KI-Zeitalter
Was ist KI eigentlich?KI ist nicht GoogleKI ist kein MenschDeine erste echte AufgabeDie KI kann falsch liegenWas ist ein "Modell"?3Deine ersten Prompts schreiben
KI spricht Markdown (standardmäßig)Das Ausgabeformat steuernTonfall und Stil steuernWenn die KI dich ignoriert