Der System Prompt – die Verhaltensregeln unseres KI-Assistenten
KAI
Nachdem wir uns übergeordnete Sicherheitssysteme angeschaut haben, gehen wir nun eine Ebene tiefer und schauen uns den System Prompt an.
Auch der System Prompt enthält Regeln, mit denen wir das Verhalten eines LLM beeinflussen können. Im Unterschied zu den übergeordneten Vorgaben können wir den System Prompt für unseren eigenen KI-Assistenten selbst gestalten. Dabei müssen wir allerdings die übergeordneten Sicherheitsvorgaben beachten. Wir können sie nicht außer Kraft setzen. Vereinfacht gesagt steht er eine Ebene darunter. Diese Priorisierung wird unter anderem durch das Training des Modells erlernt. Sie funktioniert jedoch leider nicht immer zuverlässig.
Ein Pferd! Ein Pferd! Mein Königreich für ein Pferd!
Man kann sich den System Prompt wie die Rollenbeschreibung für eine Schauspielerin oder einen Schauspieler vorstellen. Eine Schauspielerin kann viele unterschiedliche Rollen übernehmen. Erst durch das Drehbuch und die Regieanweisungen wird festgelegt, ob sie eine Königin, eine Ärztin oder eine Lehrerin spielt.
Genauso verhält es sich bei einem Large Language Model. Der System Prompt legt fest, welche Rolle unser KI-Assistent übernimmt und wie er sich dabei verhalten soll.
Bei einem Schulassistenten könnte man festlegen,
- dass Antworten altersgerecht formuliert werden,
- dass bestimmte Themen, insbesondere bei jüngeren Schülerinnen und Schülern, nicht behandelt werden,
- dass bei Hausaufgaben nur Hilfestellungen gegeben und keine vollständigen Lösungen ausgegeben werden,
- dass höflich kommuniziert wird und
- dass nur Informationen verwendet werden, die für Schülerinnen und Schüler geeignet sind.
📚 Hintergrund
Sprachliche Anweisungen allein, wie Root Instructions und der System Prompt, können ein KI-System nicht vollständig absichern. Wenn du etwas genauer wissen möchtest, warum solche Regeln umgangen werden können und welche zusätzlichen Schutzmechanismen professionelle KI-Systeme einsetzen, findest du dazu eine Vertiefung in der KAI-Lernwerkstatt: Exkurs: Prompt Injection, Guardrails und Human-in-the-Loop.
👉 Schauen wir uns nun das Zusammenspiel mit dem User Prompt an.