Context Window
Az a szövegmennyiség (tokenben mérve), amelyet egy modell egyszerre figyelembe tud venni.
Mi ez?
Minden, amit a modell lát — rendszerprompt, beszélgetés, fájlok, eszközkimenetek — a kontextusablakba kerül. Ha betelik, a régebbi részeket össze kell foglalni vagy el kell hagyni, ezért érdemes csak a releváns anyagot betölteni.
Egyszerű példa
Egy nagy kódbázisnál az agent csak a szükséges fájlrészleteket olvassa be, nem az egész projektet.