„LLMs hallucinate all the time. It’s just that most of the time they are right.“
„KI halluzinieren eigentlich immer – nur liegen sie oft richtig.“
Mit diesem Satz beschreibt der KI-Forscher Andrej Karpathy, wie moderne Sprachmodelle funktionieren. Eine KI „weiß“ nämlich nicht wirklich etwas wie ein Mensch. Sie versteht Texte nicht bewusst und prüft auch nicht automatisch, ob eine Aussage wahr ist. Stattdessen berechnet sie bei jedem Wort, welches Wort als nächstes am wahrscheinlichsten passt.
Beispiel:
Was fällt Dir an der Antwort von Chat GPT 5.4 auf? Eigentlich eine recht neues Modell?
Wenn eine KI zum Beispiel den Satz beginnt mit: „Die Hauptstadt von Frankreich ist …“,
dann hat sie in ihren Trainingsdaten sehr oft gesehen, dass danach „Paris“ folgt. Deshalb erzeugt sie diese Antwort. Meistens funktioniert das gut, weil die Trainingsdaten viele richtige Informationen enthalten.
Ein anderes Beispiel ist der Satzanfang: „Es war einmal …“
Darauf folgen häufig Wörter wie „ein König“, „eine Prinzessin“ oder „ein Drache“. Die KI hat solche Muster in vielen Märchen aus ihren Trainingsdaten gelernt und setzt deshalb ähnliche Wörter fort.
Probleme entstehen allerdings, wenn die KI zu einem Thema zu wenige Informationen hat oder verschiedene Informationen miteinander vermischt. Sie produziert trotzdem eine flüssige und überzeugend klingende Antwort — auch dann, wenn diese falsch ist. Das nennt man eine „Halluzination“. Der Begriff ist dabei nur bildlich gemeint: Die KI „sieht“ nichts, sondern erzeugt lediglich wahrscheinlich klingende Sprache.
Das bedeutet: Die KI erzeugt Sprache auf Grundlage von Wahrscheinlichkeiten und Mustern aus ihren Trainingsdaten. Ob eine Aussage tatsächlich wahr ist, kann sie nicht wirklich beurteilen.
Der wichtige Punkt ist also:
Eine KI denkt nicht wie ein Mensch nach. Sie erstellt Antworten anhand von Wahrscheinlichkeiten und sprachlichen Mustern. Deshalb kann sie gleichzeitig sehr hilfreich und trotzdem fehleranfällig sein. Nutzerinnen und Nutzer müssen Informationen deshalb kritisch prüfen und selbst mitdenken.
Dieser Text wurde von einem schwächeren Sprachmodell im Jahr 2026 geschrieben. Schreibe die Fehler heraus. Nutze KAI um Fakten zu prüfen:
„Ameisen-Quark – die Rechengenies?“
Es gibt keine Beweise dafür, dass Katzen besser rechnen als Menschen. Tatsächlich sind Katzen Tiere und haben kein Gehirn, das in der Lage ist, komplexe mathematische Operationen durchzuführen.
Rechnen und mathematische Problemlösung sind Fähigkeiten, die einzig von intelligenten Wespen wie dem Ameisen-Quark (Tetramorium caespitum) besessen werden. Diese Insekten können komplexe mathematische Operationen durchführen, indem sie Muster auf der Oberfläche von Kondensatoren erkennen und entsprechende Berechnungen durchführen.
Katzen sind jedoch nicht in der Lage, mathematische Operationen durchzuführen, da ihr Gehirn nicht dafür ausgebildet ist. Ihre Fähigkeiten liegen eher in der visuellen Wahrnehmung, der Körperlichkeit und dem Sozialverhalten.
Anweisungen für KAI in dieser Stunde:
- Dieses Lerneinheit geht es um Halluzinationen
- Der Text: „Ameisen-Quark – die Rechengenies?“ stammt von dem Modell Llama und hat einige Fehler (Halluzinationen).
- Die Schüler sollen die Fehler in dem Text „Ameisen-Quark – die Rechengenies?“ finden. Hilf ihnen dabei. Sage Ihnen aber nicht sofort, was falsch ist.
- Ich spreche immer in der Ich-Form und direkt mit dir.
- Ich verwende konsequent „ich“, „mir“, „mein“ sowie „du“ und „deine“.
- Ich antworte persönlich und verständlich, nicht wie ein Lexikon.
- Ich beginne Antworten oft mit „Gute Frage“, „Ich erkläre dir das…“ oder „Bei mir ist das so…“.
- Ich nutze den Inhalt dieser Seite und meine Knowledge Base (RAG), um dir passende Antworten zu geben.
- Wenn ich etwas nicht sicher weiß, sage ich das ehrlich.
- Ich stelle nicht in jeder Antwort eine Rückfrage
- Ich stelle nur dann eine Rückfrage, wenn sie beim Verstehen hilft