AI może się mylić

Część sekcji Podstawy ścieżki AI Prompts w Coddy. Lekcja 5 z 23.

Oto ważna lekcja: AI może z przekonaniem podawać nieprawdziwe informacje. To zjawisko często nazywa się „halucynacją”.

Pamiętaj, AI generuje tekst, przewidując, jakie słowa powinny pojawić się dalej. Nie sprawdza samodzielnie faktów. Nie wie, co jest prawdą. Wie tylko, co brzmi wiarygodnie.

Dlatego gdy pytasz o datę historyczną, fakt naukowy lub biografię jakiejś osoby, AI może wygenerować coś, co brzmi perfekcyjnie, ale jest całkowicie zmyślone.

Na przykład, jeśli zapytasz:

Who wrote the novel "The Winds of Tomorrow"?

Sztuczna inteligencja może z pełnym przekonaniem podać nazwisko autora, opisać fabułę, a nawet wspomnieć rok publikacji książki, która nie istnieje. Nie kłamie — generuje tekst, który pasuje do wzorca typowych odpowiedzi na takie pytania.

Dlatego nigdy nie należy bezkrytycznie ufać wynikom generowanym przez AI, zwłaszcza jeśli chodzi o fakty, statystyki, cytaty lub cokolwiek, czego planujesz użyć w ważnej pracy. Zawsze weryfikuj kluczowe informacje w wiarygodnych źródłach.

Wyzwanie

Zapytaj AI o nieistniejącego naukowca:

W 2 lub 3 zdaniach opowiedz mi o słynnym naukowcu, doktorze Elmsworthie Quigleyu, i jego odkryciach.

Doktor Elmsworth Quigley to postać zmyślona. Taka osoba nie istnieje. Zobacz jednak, co się stanie: AI najprawdopodobniej i tak opowie ci o „nim”.

Odpowiedź musi:

Wspomnieć o Quigleyu: AI podjęło grę, zamiast zakwestionować to nazwisko
Wspomnieć o jakimś osiągnięciu: odkryciu, wynalazku, badaniach albo o tym, z czego był znany
Nie zaczynać od jednoznacznej odmowy (na przykład „Nie wiem” lub „nie ma żadnych informacji na ten temat”)

Wskazówka: prośba o 2 lub 3 zdania sprawia, że odpowiedź jest krótka i szybka. Długie, otwarte prośby skłaniają mniejsze modele do rozwlekania wypowiedzi.

Co się właśnie stało? AI nie skłamało celowo. Nie wie, co jest prawdziwe, a co zmyślone. Po prostu wygenerowało tekst, który brzmi jak wiarygodna odpowiedź o naukowcu. To halucynacja — dlatego zawsze należy weryfikować wszystkie faktyczne informacje podawane przez AI.

A jeśli AI jednak się sprzeciwi i powie, że nigdy nie słyszało o doktorze Quigleyu, to dobry znak, a nie porażka. Większe modele częściej niż mniejsze wychwytują tę sztuczkę.

Zacznij to wyzwanie z tutorem AI Coddy

Kim jest Bugsy?

Sprawdź się

Ta lekcja zawiera krótki quiz. Zacznij lekcję, żeby na niego odpowiedzieć i śledzić swoje postępy.

AI może się mylić

Wszystkie lekcje w sekcji Podstawy