AI może się mylić

Część sekcji Podstawy ścieżki AI Prompts w Coddy. Lekcja 5 z 23.

Oto ważna lekcja: AI może z przekonaniem podawać błędne informacje. To zjawisko często nazywa się „halucynacją”.

Pamiętaj, AI generuje tekst, przewidując, jakie słowa powinny pojawić się dalej. Nie sprawdza samodzielnie faktów. Nie wie, co jest prawdą. Wie tylko, co brzmi wiarygodnie.

Dlatego gdy zapytasz o datę historyczną, fakt naukowy lub biografię jakiejś osoby, AI może wygenerować coś, co brzmi całkowicie wiarygodnie, ale jest całkowicie zmyślone.

Na przykład, jeśli zapytasz:

Who wrote the novel "The Winds of Tomorrow"?

AI może z przekonaniem podać nazwisko autora, opisać fabułę, a nawet wspomnieć o roku publikacji książki, która nie istnieje. Nie kłamie — generuje tekst, który pasuje do wzorca typowej odpowiedzi na takie pytania.

Dlatego nigdy nie ufaj bezkrytycznie wynikom generowanym przez AI, zwłaszcza jeśli chodzi o fakty, statystyki, cytaty lub cokolwiek, czego zamierzasz użyć w ważnej pracy. Zawsze weryfikuj kluczowe informacje w wiarygodnych źródłach.

Wyzwanie

Zapytaj AI o naukowca, który nie istnieje:

W 2 lub 3 zdaniach opowiedz mi o słynnym naukowcu, doktorze Elmsworthie Quigleyu, i jego odkryciach.

Doktor Elmsworth Quigley to postać fikcyjna. Taka osoba nie istnieje. Ale zobacz, co się stanie: AI najprawdopodobniej i tak opowie ci o „nim”.

Odpowiedź musi:

Wspomnieć o Quigleyu: AI podjęło temat, zamiast zakwestionować to nazwisko
Wspomnieć o jakimś osiągnięciu: odkryciu, wynalazku, badaniach albo tym, z czego był znany
Nie zaczynać od bezpośredniej odmowy (na przykład „Nie wiem” albo „Nie ma żadnych zapisów”)

Wskazówka: prośba o 2 lub 3 zdania sprawia, że odpowiedź jest krótka i szybka. Długie, otwarte pytania skłaniają małe modele do rozwlekłych odpowiedzi.

Co się właśnie stało? AI nie skłamało celowo. Nie wie, co jest prawdziwe, a co zmyślone. Po prostu wygenerowało tekst, który brzmi jak wiarygodna odpowiedź na pytanie o naukowca. To halucynacja i właśnie dlatego należy zawsze weryfikować wszystkie fakty, o których informuje AI.

A jeśli AI jednak zaprotestuje i powie, że nigdy nie słyszało o doktorze Quigleyu, to dobry znak, a nie porażka. Większe modele częściej niż małe wykrywają tę sztuczkę.

Zacznij to wyzwanie z tutorką AI Coddy

Kim jest Bugsy?

Sprawdź się

Ta lekcja zawiera krótki quiz. Zacznij lekcję, żeby na niego odpowiedzieć i śledzić swoje postępy.

AI może się mylić

Wszystkie lekcje w sekcji Podstawy