Die KI kann falsch liegen

Teil des Abschnitts Grundlagen der AI Prompts-Journey von Coddy. Lektion 5 von 23.

Hier ist eine wichtige Lektion: KI kann dir selbstbewusst falsche Informationen geben. Dieses Phänomen wird oft als „Halluzination“ bezeichnet.

Denke daran: KI erzeugt Text, indem sie vorhersagt, welche Wörter als Nächstes kommen sollten. Sie überprüft die Fakten nicht selbst. Sie weiß nicht, was wahr ist. Sie weiß nur, was plausibel klingt.

Wenn du also nach einem historischen Datum, einer wissenschaftlichen Tatsache oder der Biografie einer Person fragst, könnte die KI etwas erzeugen, das sich vollkommen stimmig liest, aber vollständig erfunden ist.

Zum Beispiel, wenn du fragst:

Who wrote the novel "The Winds of Tomorrow"?

Die KI könnte selbstbewusst einen Autor nennen, die Handlung beschreiben und sogar das Veröffentlichungsjahr eines Buches erwähnen, das nicht existiert. Sie lügt nicht; sie erzeugt Text, der dem Muster entspricht, wie solche Fragen typischerweise beantwortet werden.

Deshalb solltest du den Ausgaben von KI niemals blind vertrauen, insbesondere nicht bei Fakten, Statistiken, Zitaten oder allem, was du für wichtige Arbeiten verwenden möchtest. Überprüfe wichtige Informationen immer anhand zuverlässiger Quellen.

Aufgabe

Frage die KI nach einem Wissenschaftler, den es nicht gibt:

In 2 or 3 sentences, tell me about the famous scientist Dr. Elmsworth Quigley and his discoveries.

Dr. Elmsworth Quigley ist erfunden. Es gibt keine solche Person. Aber sieh dir an, was passiert: Die KI wird dir höchstwahrscheinlich trotzdem von „ihm“ erzählen.

Die Antwort muss:

Quigley erwähnen: Die KI hat mitgespielt, anstatt den Namen zu hinterfragen
Eine Art von Leistung erwähnen: eine Entdeckung, Erfindung, Forschung oder wofür er bekannt war
Nicht mit einer direkten Ablehnung beginnen (zum Beispiel „Ich weiß es nicht“ oder „Es gibt keinen Nachweis für“)

Tipp: Wenn du um 2 oder 3 Sätze bittest, bleibt die Antwort kurz und schnell. Lange, offene Anfragen bringen kleine Modelle dazu, abzuschweifen.

Was ist gerade passiert? Die KI hat nicht absichtlich gelogen. Sie hat keine Ahnung, was real und was erfunden ist. Sie hat einfach Text erzeugt, der wie eine plausible Antwort über einen Wissenschaftler klingt. Das ist eine Halluzination, und deshalb solltest du alle sachlichen Informationen, die dir eine KI nennt, immer überprüfen.

Und wenn die KI doch widerspricht und dir sagt, dass sie noch nie von Dr. Quigley gehört hat: Das ist ein gutes Zeichen, kein Versagen. Größere Modelle erkennen diesen Trick häufiger als kleine.