Jendela Konteks

Termasuk bagian Dasar-Dasar dalam perjalanan AI Prompts di Coddy. Pelajaran 10 dari 23.

Jendela konteks adalah batas memori AI: jumlah token maksimum yang dapat ditampungnya sekaligus. Anggaplah ini sebagai wadah berukuran tetap yang harus menampung semuanya: prompt-mu, riwayat percakapan, prompt sistem, dan respons AI.

Model yang berbeda memiliki ukuran jendela konteks yang berbeda. Beberapa model lama menangani sekitar 4,000 token. Model yang lebih baru mungkin mendukung 100,000 token atau lebih.

Begitu kamu mencapai batas, AI tidak dapat memproses informasi tambahan.

Berikut isi jendela tersebut:

Komponen	Menggunakan Ruang?
Prompt kamu saat ini	Ya
Pesan sebelumnya dalam percakapan	Ya
Prompt sistem	Ya
Respons AI	Ya

Inilah alasan percakapan panjang bisa menjadi masalah. Setiap percakapan bolak-balik menambah token. Pada akhirnya, AI harus "melupakan" bagian percakapan sebelumnya agar ada ruang untuk konten baru.

Ketika ini terjadi, konteksnya hilang dan jawabannya mungkin tidak konsisten atau ia melupakan instruksi yang kamu berikan sebelumnya.

Tantangan

Karena semua hal dalam percakapan memakai ruang di jendela konteks, prompting yang efisien berarti mendapatkan informasi lengkap dalam jawaban ringkas. Minta AI memberikan jadwal mingguan lengkap (semua 7 hari) dengan format yang sehemat token mungkin. Jawaban harus dalam bahasa Inggris.

Jawaban AI harus: