La fenêtre de contexte est la quantité maximale de texte (mesurée en tokens) qu'un modèle peut prendre en compte en une fois, entrée et sortie comprises. Au-delà, les informations les plus anciennes sont perdues ou tronquées. Elle limite la taille des documents et des conversations traitables.
Exemple
Une longue conversation dépasse la fenêtre : le modèle n'a plus accès aux premières consignes.