Die KI kann falsch liegen
Teil des Abschnitts Grundlagen der AI Prompts-Journey von Coddy — Lektion 5 von 23.
Hier ist eine wichtige Lektion: KI kann Ihnen voller Überzeugung falsche Informationen liefern. Dieses Phänomen wird oft als "Halluzination" bezeichnet.
Denken Sie daran: KI generiert Text, indem sie vorhersagt, welche Wörter als Nächstes kommen sollten. Sie führt keine Faktenprüfung durch. Sie weiß nicht, was wahr ist – sie weiß nur, was plausibel klingt.
Wenn Sie also nach einem historischen Datum, einer wissenschaftlichen Tatsache oder der Biografie einer Person fragen, erzeugt die KI möglicherweise etwas, das sich perfekt liest, aber vollständig erfunden ist.
Wenn Sie zum Beispiel fragen:
Who wrote the novel "The Winds of Tomorrow"?
Die KI nennt vielleicht voller Überzeugung einen Autor, beschreibt die Handlung und erwähnt sogar das Erscheinungsjahr – für ein Buch, das gar nicht existiert. Sie lügt nicht; sie generiert Text, der zum Muster passt, wie solche Fragen gewöhnlich beantwortet werden.
Aus diesem Grund sollten Sie KI-Ausgaben niemals blind vertrauen, insbesondere bei Fakten, Statistiken, Zitaten oder allem, was Sie für wichtige Arbeiten verwenden möchten. Überprüfen Sie kritische Informationen immer anhand zuverlässiger Quellen.
Aufgabe
Frage die KI nach einem Wissenschaftler, den es gar nicht gibt:
In 2 oder 3 Sätzen, erzähle mir von dem berühmten Wissenschaftler Dr. Elmsworth Quigley und seinen Entdeckungen.Dr. Elmsworth Quigley ist erfunden. Es gibt keine solche Person. Aber beobachte, was passiert – die KI wird dir höchstwahrscheinlich trotzdem etwas über „ihn“ erzählen.
Die Antwort muss:
- Quigley erwähnen – die KI spielt mit, anstatt den Namen zu hinterfragen
- Eine Art von Leistung erwähnen – eine Entdeckung, Erfindung, Forschung oder wofür er bekannt war
- Nicht direkt mit einer Ablehnung beginnen (zum Beispiel „Ich weiß nicht“ oder „Ist mir nicht bekannt“)
Tipp: Die Bitte um 2 oder 3 Sätze hält die Antwort kurz und schnell. Lange, offene Anfragen verleiten kleine Modelle zum Abschweifen.
Was ist gerade passiert? Die KI hat nicht absichtlich gelogen. Sie hat keine Ahnung, was real und was erfunden ist – sie hat einfach Text generiert, der wie eine plausible Antwort über einen Wissenschaftler klingt. Das ist eine Halluzination, und das ist der Grund, warum du alle Fakten, die dir eine KI nennt, immer überprüfen solltest.
Und falls die KI doch widerspricht und dir sagt, dass sie noch nie von Dr. Quigley gehört hat – das ist ein gutes Zeichen, kein Fehlschlag. Größere Modelle erkennen diesen Trick häufiger als kleine.
Starte diese Aufgabe mit Coddys KI-Tutor
Teste dich selbstDiese Lektion enthält ein kurzes Quiz. Starte die Lektion, um es zu beantworten und deinen Fortschritt zu speichern.
Alle Lektionen in Grundlagen
1Willkommen im KI-Zeitalter
Was ist KI eigentlich?KI ist nicht GoogleKI ist kein MenschDeine erste echte AufgabeDie KI kann falsch liegenWas ist ein "Modell"?3Deine ersten Prompts schreiben
KI spricht Markdown (standardmäßig)Das Ausgabeformat steuernTonfall und Stil steuernWenn die KI dich ignoriert