Kontextfenster
Die begrenzte Menge Text, die ein Modell in einem Gespräch gleichzeitig berücksichtigen kann.
Einfach erklärt
Das Kontextfenster begrenzt, wie viele Informationen ein Modell bei einem Aufruf berücksichtigen kann. Dazu gehören Anweisungen, Teile des Gesprächsverlaufs, Dokumentauszüge und je nach Modell weitere Eingaben. Auch für die Antwort muss Platz verfügbar sein.
Was bei langen Gesprächen passiert, hängt vom Produkt ab: Inhalte können gekürzt, zusammengefasst oder nicht mehr vollständig übermittelt werden. Das kann dazu führen, dass frühere Angaben in einer Antwort fehlen. Wiederhole dann die benötigten Informationen oder beginne für eine neue Aufgabe ein eigenes Gespräch. Prüfe das Ergebnis auch dann, wenn der gesamte Text in das Kontextfenster passt.
Beispiel aus dem Alltag
In einem langen Chat fehlt eine zuvor genannte Anforderung im Entwurf. Du nennst sie erneut und prüfst anschließend, ob die überarbeitete Antwort sie berücksichtigt.
Häufige Fragen
Hilft ein größeres Kontextfenster immer?
Ein größeres Fenster kann mehr Informationen aufnehmen. Es garantiert nicht, dass das Modell alle Stellen richtig berücksichtigt. Prüfe die Angaben, auf die es für deine Aufgabe ankommt.
Was ist der Unterschied zwischen Kontextfenster und Gedächtnis?
Das Kontextfenster begrenzt die Informationen eines einzelnen Modellaufrufs. Ein Produkt kann zusätzlich Angaben über Gespräche hinweg speichern und später wieder als Kontext bereitstellen.