Okno kontekstu
Część sekcji Podstawy ścieżki AI Prompts w Coddy. Lekcja 10 z 23.
Okno kontekstu to limit pamięci AI: maksymalna liczba tokenów, które może pomieścić naraz. Pomyśl o nim jak o pojemniku o stałym rozmiarze, w którym musi zmieścić się wszystko: Twój prompt, historia rozmowy, prompt systemowy i odpowiedź AI.
Różne modele mają różne rozmiary okna kontekstowego. Niektóre starsze modele obsługują około 4 000 tokenów. Nowsze modele mogą obsługiwać 100 000 tokenów lub więcej.
Gdy osiągniesz limit, AI po prostu nie będzie w stanie przetworzyć dodatkowych informacji.
Oto, co wypełnia to okno:
| Element | Czy zajmuje miejsce? |
|---|---|
| Twój aktualny prompt | Tak |
| Poprzednie wiadomości w rozmowie | Tak |
| Prompt systemowy | Tak |
| Odpowiedź AI | Tak |
Właśnie dlatego długie rozmowy mogą stać się problematyczne. Każda wymiana zdań zwiększa liczbę żetonów. W końcu AI musi „zapomnieć” wcześniejsze części rozmowy, aby zrobić miejsce na nowe treści.
Gdy tak się dzieje, model traci kontekst i może udzielać niespójnych odpowiedzi lub zapominać instrukcje przekazane wcześniej.
Wyzwanie
Ponieważ wszystko w rozmowie zajmuje miejsce w oknie kontekstowym, skuteczne promptowanie polega na uzyskiwaniu kompletnych informacji w zwięzłych odpowiedziach. Poproś AI o pełny tygodniowy harmonogram (wszystkie 7 dni) w jak najbardziej oszczędnym pod względem tokenów formacie. Odpowiedź musi być po polsku.
Odpowiedź AI musi:
- Zawierać nazwy wszystkich 7 dni:
poniedziałek,wtorek,środa,czwartek,piątek,sobotainiedziela - Liczyć łącznie nie więcej niż 30 słów
Przykładowy format:
poniedziałek: siłownia
wtorek: praca
...i tak dalej, dla wszystkich 7 dni.
Ta lekcja zawiera krótki quiz. Zacznij lekcję, żeby na niego odpowiedzieć i śledzić swoje postępy.
Wszystkie lekcje w sekcji Podstawy
2Jak AI Cię odczytuje — tokeny
Czym są tokeny?Słowa ≠ tokenyDlaczego liczba tokenów ma znaczenieOkno kontekstuTokeny w innych językachSpecjalne tokeny, których nigdy nie widzisz3Pisanie pierwszych promptów
AI domyślnie mówi w MarkdownKontrolowanie formatu wyjściowegoKontrolowanie tonu i styluGdy AI cię ignoruje