Der Kontext

Anweisungen in natürlicher Sprache

KAI

KAI

Wir schauen uns nun auf den nächsten Seiten an, wie man mit dem System Prompt genau festlegt, wie unser KI-Assistent antworten soll. Man nennt dies auch Prompt Engineering.

Das Modell verarbeitet den gesamten Kontext

Alle Informationen, die dem Sprachmodell für die aktuelle Verarbeitung zur Verfügung stehen, bilden gemeinsam den sogenannten Kontext. Dazu gehören beispielsweise:

  • der System Prompt,
  • der User Prompt und
  • vorherige Nachrichten (Chatverlauf) innerhalb der Unterhaltung.

Kontext

Auch der System Prompt ist schlicht Text in natürlicher Sprache innerhalb dieses Kontexts:
Das LLM liest den System Prompt, den User Prompt (deine Frage) und den bisherigen Chatverlauf gemeinsam als einen zusammenhängenden Text. Dabei gelten als Schutz weiterhin die übergeordneten Sicherheitsvorgaben des KI-Systems, die du bereits kennengelernt hast.

Auf Grundlage dieses gesamten Kontexts erzeugt das LLM anschließend seine Antwort. Da alles zusammen im Kontext steht, kann das LLM manchmal „überfordert“ werden.

👉 Schauen wir uns daher an, wie wir dem LLM mit einer Struktur etwas helfen.

10%