Okno kontekstu
Część sekcji Podstawy ścieżki AI Prompts w Coddy. Lekcja 10 z 23.
Okno kontekstu to limit pamięci AI: maksymalna liczba żetonów, które może przechowywać jednocześnie. Pomyśl o nim jak o pojemniku o stałym rozmiarze, w którym musi zmieścić się wszystko: Twój prompt, historia rozmowy, prompt systemowy i odpowiedź AI.
Różne modele mają różne rozmiary okna kontekstowego. Niektóre starsze modele obsługują około 4,000 żetonów. Nowsze modele mogą obsługiwać 100,000 żetonów lub więcej.
Gdy osiągniesz limit, AI po prostu nie może przetworzyć dodatkowych informacji.
Oto, co zajmuje miejsce w tym oknie:
| Element | Czy zajmuje miejsce? |
|---|---|
| Twoje bieżące polecenie | Tak |
| Poprzednie wiadomości w rozmowie | Tak |
| Prompt systemowy | Tak |
| Odpowiedź AI | Tak |
Dlatego długie rozmowy mogą stawać się problematyczne. Każda wymiana zdań dodaje żetony. W końcu sztuczna inteligencja musi „zapomnieć” wcześniejsze części rozmowy, aby zrobić miejsce na nowe treści.
Gdy tak się dzieje, traci kontekst i może udzielać niespójnych odpowiedzi lub zapominać instrukcje podane wcześniej.
Wyzwanie
Ponieważ wszystko w rozmowie zajmuje miejsce w oknie kontekstu, skuteczne promptowanie oznacza uzyskiwanie pełnych informacji w zwięzłych odpowiedziach. Poproś AI o pełny tygodniowy harmonogram (wszystkie 7 dni) w możliwie najbardziej oszczędnym pod względem liczby tokenów formacie. Odpowiedź musi być w języku angielskim.
Odpowiedź AI musi:
- Zawierać nazwy wszystkich 7 dni:
Monday,Tuesday,Wednesday,Thursday,Friday,SaturdayiSunday - Liczyć łącznie nie więcej niż 30 słów
Przykładowy format:
Monday: Gym
Tuesday: Work
...i tak dalej dla wszystkich 7 dni.
Ta lekcja zawiera krótki quiz. Zacznij lekcję, żeby na niego odpowiedzieć i śledzić swoje postępy.
Wszystkie lekcje w sekcji Podstawy
2Jak AI cię czyta: tokeny
Czym są tokeny?Słowa ≠ tokenyDlaczego liczba tokenów ma znaczenieOkno kontekstuTokeny w innych językachSpecjalne tokeny, których nigdy nie widzisz3Pisanie pierwszych promptów
AI domyślnie mówi w MarkdownKontrolowanie formatu wyjściowegoKontrolowanie tonu i styluGdy AI cię ignoruje