top of page

Wie funktioniert KI? Neuronale Netze, Tokens und Wahrscheinlichkeiten einfach erklärt

vor 10 Minuten
15 Min. Lesezeit

ChatGPT schreibt Texte, beantwortet Fragen und unterstützt beim Programmieren. Das sieht manchmal nach eigenständigem Denken aus. Aber was passiert technisch, wenn eine KI antwortet?


In einer Schulung habe ich einmal eine Grafik mit unzähligen verbundenen Punkten und Wahrscheinlichkeiten gesehen. Genau dieses Bild hat mich fasziniert. Heute schauen wir uns gemeinsam an, was hinter den Linien steckt – verständlich und ohne Informatikstudium.


Das Wichtigste vorweg: Ein neuronales Netzwerk lernt Gewichte. Ein Sprachmodell berechnet aus dem Kontext Bewertungen für mögliche nächste Tokens. Daraus entstehen Wahrscheinlichkeiten – und Schritt für Schritt eine Antwort.


Auf einen Blick: Die vier Stationen der KI


  • Eingabe: Deine Frage wird in kleine Einheiten, sogenannte Tokens, zerlegt.

  • Verarbeitung: Viele mathematische Operationen nutzen die im Training erlernten Gewichte.

  • Vorhersage: Das Modell bewertet mögliche nächste Tokens und berechnet eine Wahrscheinlichkeitsverteilung.

  • Ausgabe: Ein Token wird ausgewählt; dann beginnt der Vorgang mit dem erweiterten Kontext erneut.



TEIL 1 – Warum KI mit Wahrscheinlichkeiten arbeitet


1. Was ist künstliche Intelligenz überhaupt?


Künstliche Intelligenz ist ein Sammelbegriff für Systeme, die Aufgaben wie Mustererkennung, Sprachverarbeitung, Planung oder die Erzeugung neuer Inhalte übernehmen. Eine Bilderkennung und ein Sprachchatbot arbeiten dabei nicht zwingend mit denselben Methoden.


Für unseren Blick hinter die Kulissen konzentrieren wir uns auf generative KI und große Sprachmodelle, kurz Large Language Models (LLMs). Diese Modelle werden mit umfangreichen Daten trainiert, um statistische Muster und komplexe Zusammenhänge zu erlernen.


Der Unterschied zwischen festen Regeln und Lernen


Bei klassischer Software schreibt ein Entwickler konkrete Regeln: Wenn auf einem Server die Festplatte zu über 90 Prozent gefüllt ist, löse eine Warnung aus. Ein lernendes System bekommt dagegen viele Beispiele und entwickelt aus diesen Daten ein Modell, das Muster erkennt. Diese beiden Ansätze lassen sich auch kombinieren.


Maschinelles Lernen ist ein Teilgebiet der KI. Deep Learning wiederum nutzt neuronale Netze mit vielen Verarbeitungsebenen. Generative KI verwendet solche gelernten Strukturen, um neue Inhalte zu erzeugen. Wichtig: Nicht jede KI ist generativ und nicht jede generative KI ist ein reiner Textgenerator.


Welche KI-Anwendungen es bereits im Alltag gibt, zeige ich auch in meinem Überblick Die besten KI-Tools 2026 fürs Content-Marketing.


Merksatz: Klassische Programme folgen expliziten Regeln. Trainierte Modelle nutzen gelernte Parameter, um aus neuen Eingaben Ergebnisse abzuleiten.


2. Das Beispiel: „Der Himmel ist …“


Vervollständige einmal den Satz „Der Himmel ist …“. Vermutlich denkst du zuerst an „blau“. Vielleicht kommen dir aber auch „grau“, „klar“ oder „grün“ in den Sinn.


Ein Sprachmodell berechnet ebenfalls mögliche Fortsetzungen – allerdings mit einer riesigen Menge an Zahlen und dem Kontext deiner Eingabe. Für unser frei erfundenes Beispiel nehmen wir folgende Verteilung an:


  • blau – 70 Prozent

  • grau – 20 Prozent

  • klar – 7 Prozent

  • grün – 3 Prozent


Wichtig: Diese Werte sind didaktisch erfunden. Es sind keine echten Messwerte von ChatGPT.


Das Modell könnte „blau“ auswählen, weil es in unserem Beispiel am wahrscheinlichsten ist. Je nach Auswahlverfahren kann aber auch eine andere Fortsetzung entstehen. Das Modell erzeugt Text somit schrittweise – nicht zwingend eine komplette Antwort auf einmal.


Warum ändert eine kleine Zusatzinformation so viel?


Schreibst du nur „Der Himmel ist …“, wirkt „blau“ naheliegend. Ergänzt du aber „Ein Gewitter zieht auf, der Himmel ist …“, wird eine Fortsetzung wie „dunkel“ oder „grau“ plausibler. Das ist kein Nachschlagen eines festen Satzes: Die gesamte Eingabe beeinflusst die nächsten Berechnungen.


Wichtig ist auch, dass das Modell nicht automatisch das wahrscheinlichste Wort wählen muss. In manchen Einstellungen wird zufällig aus einer Verteilung gewählt, in anderen sehr zielgerichtet. Die hier gezeigten vier Wörter sind nur ein kleines Beispiel; ein echtes Modell betrachtet wesentlich mehr mögliche Token-Fortsetzungen.


Die Wahrscheinlichkeit beschreibt hier die nächste Textfortsetzung – nicht, mit welcher Sicherheit eine beliebige Behauptung wahr ist.

3. Das Bild mit den vielen Verbindungen


Die folgende Grafik zeigt das Prinzip. Links steht die Eingabe, in der Mitte das schematische Netzwerk mit vielen verbundenen Knoten und rechts eine vereinfachte Verteilung möglicher Fortsetzungen.


Wie funktioniert KI? Neuronales Netzwerk mit gewichteten Verbindungen, Tokens und Wahrscheinlichkeiten für mögliche nächste Wörter.
Infografik: Gewichtete Verbindungen und mögliche Wortfortsetzungen – bewusst vereinfachtes Beispiel.

Die Grafik ist absichtlich vereinfacht: Moderne Transformer sind komplexer aufgebaut als das gezeichnete klassische Neuronennetz. Sie macht aber sichtbar, warum Gewichte, Berechnungen und Wahrscheinlichkeiten zusammengehören.



Was man in solchen Diagrammen sieht – und was nicht


Jeder Punkt in einer klassischen Lehrgrafik steht stellvertretend für eine Recheneinheit, jede Linie für einen gewichteten Einfluss. Die Farben zeigen oft nur anschaulich, wie Informationen von einer Ebene zur nächsten verarbeitet werden. Ein reales Sprachmodell enthält wesentlich komplexere Strukturen, Matrizen und spezialisierte Komponenten.


Bei modernen Transformern gibt es neben den dauerhaft erlernten Modellgewichten auch Attention-Werte, die bei einer konkreten Eingabe neu berechnet werden. Das sind zwei unterschiedliche Dinge. Rechts in der Grafik stehen wiederum Beispielwahrscheinlichkeiten für mögliche nächste Tokens. Drei Ebenen also: Modellparameter, kontextabhängige Verarbeitung und Ausgabeauswahl.


Aha-Moment: Nicht jede Verbindungslinie bedeutet „70 Prozent“. Das Netzwerk rechnet mit vielen Zahlen – Wahrscheinlichkeiten sind ein Ergebnis bestimmter Rechenschritte.


TEIL 2 – Wie das neuronale Netzwerk lernt


4. Was sind Neuronen, Schichten und Gewichte?


Ein künstliches Neuron ist keine winzige denkende Maschine, sondern eine mathematische Funktion. Es verarbeitet Zahlen, verrechnet sie mit Gewichten, berücksichtigt oft einen zusätzlichen Bias und gibt ein neues Ergebnis weiter.


In vereinfachten Schaubildern sieht man Eingabeschichten, verborgene Schichten und Ausgabeschichten. Die Linien stehen für gewichtete Verbindungen. Ein positives oder negatives Gewicht verändert, welchen Einfluss ein Signal auf die nächste Berechnung hat.


Der entscheidende Unterschied: Ein Verbindungsgewicht ist keine Wahrscheinlichkeit. Die Wahrscheinlichkeiten entstehen erst später aus weiteren Berechnungen.


Ein künstliches Neuron einmal selbst ausrechnen


Wir nehmen ein winziges Rechenbeispiel mit zwei Eingaben. Die erste Zahl sei 1, die zweite 2. Dazu gehören die Gewichte 0,4 und −0,3 sowie ein Bias von 0,1. Die gewichtete Summe ist dann: 1 × 0,4 + 2 × (−0,3) + 0,1 = −0,1.


Oft folgt eine Aktivierungsfunktion. Bei der einfachen ReLU-Funktion wird aus einem negativen Wert 0; aus positiven Werten wird der Wert unverändert weitergegeben. In unserem Fall lautet die Ausgabe also 0.


Das Beispiel ist absichtlich klein. In echten Netzen verarbeiten viele Einheiten riesige Zahlenmatrizen. Doch das Prinzip bleibt: Zahlen hinein, mathematische Operationen anwenden, neue Zahlen weitergeben. Aus sehr vielen solchen Schritten entstehen leistungsfähige Musterverarbeitungen.


Warum braucht man Aktivierungsfunktionen?


Ohne nichtlineare Aktivierungsfunktionen würde ein Stapel rein linearer Schichten mathematisch wieder nur einer linearen Abbildung entsprechen. Nichtlinearität macht es möglich, deutlich komplexere Zusammenhänge darzustellen. Auch Transformer benutzen solche nichtlinearen Verarbeitungsschritte.


Gut zu wissen: Diese 0,4 und −0,3 sind beispielhafte Gewichte – keine Wahrscheinlichkeiten und keine Aussagen darüber, ob der Server wirklich defekt ist.


5. Training: Vorhersagen, Fehler und Backpropagation


Am Anfang eines Trainings sind die vielen Modellparameter noch nicht gut auf ihre Aufgabe eingestellt. Das Modell verarbeitet Trainingsbeispiele und versucht beispielsweise vorherzusagen, wie ein Text sinnvoll weitergeht.


Dafür vergleicht das Trainingsverfahren eine Vorhersage mit der gewünschten Fortsetzung und berechnet einen Fehlerwert, den sogenannten Loss. Über Backpropagation wird ermittelt, welche Parameter zu diesem Fehler beigetragen haben.


Ein Optimierungsverfahren passt anschließend Parameter in kleinen Schritten an. Dieser Zyklus wird sehr oft wiederholt. Dadurch entstehen zunehmend nützliche Repräsentationen von Sprache, Sachverhalten und Mustern.


  • 1. Trainingsbeispiel lesen

  • 2. Vorhersage berechnen

  • 3. Fehler mit einer Loss-Funktion bewerten

  • 4. Parameter über Gradienten und Optimierung anpassen

  • 5. Vorgang mit vielen weiteren Beispielen wiederholen


Eine Trainingsrunde mit einem konkreten Satz


Nehmen wir den Text „Die Erde umkreist die Sonne“. Für ein vereinfachtes Training bekommt das Modell beispielsweise die Wortfolge „Die Erde umkreist die …“ und soll das nächste Token vorhersagen. Ist „Sonne“ in dieser Trainingsposition das Ziel, erhält das Modell einen größeren Fehler, wenn es diesem Ziel eine niedrige Wahrscheinlichkeit zuweist.


Beim Vorwärtsdurchlauf – dem Forward Pass – berechnet das Netzwerk zuerst eine Vorhersage. Die Loss-Funktion bewertet die Abweichung. Beim anschließenden Rückwärtsdurchlauf berechnet Backpropagation mithilfe von Ableitungen, in welche Richtung Parameter verändert werden sollten.


Ein Optimierer, etwa eine Variante des Gradientenabstiegs, verändert daraufhin die Gewichte ein kleines Stück. Danach folgen weitere Beispiele und weitere Anpassungen. Das passiert nicht nur mit einem Satz, sondern über sehr viele Trainingsschritte.


Warum ein Modell nicht einfach die ganze Bibliothek abspeichert


Ein trainiertes Modell besteht vor allem aus seinen Parametern und der Architektur, die sie verarbeitet. Das ist keine normale Datenbank mit einem fertigen Antwortsatz für jede Frage. Es kann durchaus Inhalte aus Trainingsdaten reproduzieren oder auswendig lernen; seine zentrale Leistung besteht jedoch darin, gelernte Muster auf neue Eingaben anzuwenden.


Nach dem Vortraining: Warum ein Chatbot auf Anweisungen reagiert


Ein Basismodell lernt zunächst allgemeine Strukturen aus Daten. Zusätzliche Trainingsphasen können es darauf abstimmen, Aufgaben und Anweisungen besser zu erfüllen. Je nach System kommen überwachte Beispiele, menschliche oder KI-gestützte Präferenzbewertungen und weitere Optimierungsmethoden zum Einsatz.


Deshalb ist das bloße Prinzip „nächstes Token“ nur ein Teil der Entstehung eines hilfreichen Chatbots. Auch seine weitere Abstimmung beeinflusst, ob er Fragen erklärt, strukturierte Antworten liefert oder gefährliche Anweisungen ablehnt.


6. Lernt ChatGPT bei jeder Nachricht automatisch dazu?


Nicht so wie beim ursprünglichen Modelltraining. Während einer normalen Antwort werden die grundlegenden Modellgewichte üblicherweise nicht neu trainiert.


Ein Chatbot kann sich zwar auf vorherige Nachrichten im verfügbaren Gesprächskontext beziehen. Das ist aber nicht dasselbe wie eine dauerhafte Änderung seiner neuronalen Netzgewichte. Personalisierung, gespeicherte Informationen und spätere Modellupdates sind davon zu unterscheiden.



Drei Arten von „Merken“, die man unterscheiden sollte


  • Kontext: Frühere Nachrichten im aktuellen, verfügbaren Gespräch können die nächste Antwort beeinflussen.

  • Gespeicherte Personalisierung: Manche Dienste halten bestimmte Informationen über mehrere Unterhaltungen hinweg vor – getrennt von den eigentlichen Modellgewichten.

  • Training oder Modellupdate: Hier werden Gewichte tatsächlich neu optimiert oder andere Modellkomponenten geändert. Das ist ein separater Prozess.


Auch externe Dokumente oder Suchergebnisse können einer KI als zusätzlicher Kontext bereitgestellt werden. Häufig spricht man dann von Retrieval-Augmented Generation, kurz RAG. Das Modell hat dadurch Zugriff auf weitere Informationen, ohne dass deswegen sein ganzes Grundmodell neu trainiert werden muss.


TEIL 3 – Wie aus deiner Frage eine Antwort entsteht


7. Tokens: Warum KI nicht einfach ganze Wörter liest


Sprachmodelle verarbeiten Text als Tokens. Ein Token kann ein ganzes Wort sein, aber auch ein Wortteil, ein Satzzeichen oder ein anderes Textstück. Welche Aufteilung entsteht, hängt vom verwendeten Tokenizer ab.


Deine Nachricht wird zuerst tokenisiert und in numerische Darstellungen übersetzt. Das Netzwerk verarbeitet diese Zahlen im Zusammenhang mit den anderen Tokens und berechnet anschließend eine mögliche Fortsetzung.


Vom Satz zur Zahlenfolge


Stell dir die Eingabe „Wie sicher ist mein Linux-Server?“ vor. Der Tokenizer zerlegt sie nach seinen Regeln in kleinere Textstücke. Diese bekommen jeweils eine Token-ID. Eine solche ID ist zunächst nur eine Nummer aus dem Vokabular des Modells – sie ist für sich genommen noch keine Bedeutung.


Aus den IDs werden gelernte numerische Vektoren. Dazu kommen Informationen über die Position bzw. Reihenfolge der Tokens. Erst mit diesen Zahlen arbeitet das neuronale Netzwerk. Die exakte Token-Aufteilung hängt vom verwendeten Modell ab; dieselbe deutsche Frage muss nicht überall gleich zerlegt werden.


Was ist ein Kontextfenster?


Das Kontextfenster begrenzt, wie viel Eingabetext, Gesprächsverlauf und oft auch bereits erzeugter Text ein Modell in einem Verarbeitungsvorgang berücksichtigen kann. Ist eine Unterhaltung zu lang, kann ältere Information außerhalb dieses Fensters liegen oder technisch zusammengefasst werden. Das ist einer der Gründe, warum lange Gespräche nicht immer perfekt erinnert werden.


Merksatz: Wörter sind unsere Sicht. Tokens und Zahlenvektoren sind die technische Arbeitsebene eines Sprachmodells.


8. Embeddings: Bedeutung als Zahlen darstellen


Ein Embedding ist eine numerische Darstellung von Informationen als Vektor. Solche Vektoren können hilfreiche Beziehungen zwischen Begriffen und Konzepten abbilden.


Denke an „Hund“, „Katze“ und „Festplatte“. Ein Sprachmodell kann Eigenschaften und Verwendungen der Begriffe lernen, statt nur eine starre Wortliste zu durchsuchen. Welche Bedeutung relevant ist, ergibt sich jedoch immer auch aus dem jeweiligen Kontext.


Eine Landkarte – aber mit viel mehr Dimensionen


Stell dir eine Karte vor, auf der ähnliche Begriffe näher beieinanderliegen. „Hund“ und „Katze“ würden sich in manchen Eigenschaften ähneln, während „Festplatte“ in einem anderen Themenbereich liegt. Ein Embedding ist keine echte zweidimensionale Landkarte: Die Vektoren können sehr viele Dimensionen besitzen.


Solche Darstellungen machen Beziehungen mathematisch nutzbar. Das Modell kann beispielsweise Informationen darüber lernen, dass „Speicherplatz“, „Festplatte“ und „Partition“ in IT-Fragen oft zusammengehören.


Wichtig: Der einfache Token-Vektor am Eingang und die späteren kontextabhängigen Darstellungen im Transformer sind nicht identisch. Ein Wort wie „Bank“ kann im Satz über Geld anders verarbeitet werden als im Satz über eine Parkbank.


9. Transformer und Self-Attention


Viele moderne Sprachmodelle beruhen auf der Transformer-Architektur. Eine zentrale Technik darin ist Self-Attention: Das Modell kann berechnen, welche Teile des vorhandenen Kontextes für die Verarbeitung eines Tokens besonders wichtig sind.


Beispiel: „Der Server konnte nicht starten, weil seine Festplatte defekt war.“ Um diesen Satz sinnvoll zu verarbeiten, müssen die Beziehungen zwischen Server, Startproblem, Festplatte und Defekt berücksichtigt werden.


Self-Attention und weitere Verarbeitungsschichten ermöglichen eine wesentlich reichhaltigere Kontextanalyse als eine simple Tabelle häufig aufeinanderfolgender Wörter.


Self-Attention an einem Satz erklärt


Betrachten wir: „Die Festplatte war voll. Deshalb konnte der Server nicht starten.“ Wenn das Modell die Bedeutung von „deshalb“ oder die Ursache des Startproblems verarbeitet, sind vor allem Informationen über Festplatte und Speicherplatz relevant.


Self-Attention berechnet, wie stark verschiedene Tokenpositionen Informationen füreinander liefern. Vereinfacht ausgedrückt erzeugt das Modell aus den Token-Darstellungen Suchanfragen (Queries), passende Schlüssel (Keys) und die zugehörigen Informationen (Values). Aus ihren Beziehungen entstehen Gewichte, mit denen relevante Informationen kombiniert werden.


Warum spricht man von Multi-Head-Attention?


Mehrere Attention-Köpfe können gleichzeitig unterschiedliche Beziehungen erfassen. Einer kann beispielsweise lokale Grammatikmuster berücksichtigen, ein anderer Bezüge über größere Entfernungen. Das sind anschauliche Beispiele für mögliche gelernte Muster – einzelnen Köpfen ist nicht zwangsläufig eine feste menschlich lesbare Aufgabe zugeordnet.


Bei autoregressiven Textgeneratoren ist außerdem die Blickrichtung begrenzt: Beim Erzeugen des nächsten Tokens darf das Modell nicht in erst künftig erzeugte Tokens hineinschauen. Diese Einschränkung heißt kausale Maskierung. Mehrere Transformer-Schichten bauen aufeinander auf und verarbeiten die Informationen immer weiter.


Das Besondere: Attention macht die Rechenbeziehungen vom aktuellen Kontext abhängig. Das unterscheidet sie von den fest trainierten Modellgewichten.


10. Logits, Softmax und Temperature


Am Ende eines Vorhersageschritts erzeugt das Modell zunächst Bewertungen für mögliche nächste Tokens. Diese Zahlen heißen Logits. Sie sind noch keine Prozentwerte.


Eine mathematische Funktion namens Softmax kann daraus eine Wahrscheinlichkeitsverteilung berechnen. Ein Auswahlverfahren bestimmt dann das nächste Token. Eine niedrigere Temperature bevorzugt typischerweise die wahrscheinlicheren Optionen stärker; eine höhere kann die Ausgabe variabler machen.


Achtung: Eine Token-Wahrscheinlichkeit von 70 Prozent bedeutet nicht, dass eine Aussage zu 70 Prozent wahr ist.



Eine Mini-Rechnung: Wie Zahlen zu Prozenten werden


Stell dir vor, das Modell vergibt für drei mögliche nächste Tokens die Logits 2, 1 und 0. Softmax wandelt diese Werte um, indem sie Exponentialwerte bildet und durch ihre Summe teilt. Gerundet entstehen ungefähr 66,5 Prozent, 24,5 Prozent und 9,0 Prozent.


Die drei Wahrscheinlichkeiten summieren sich zu 100 Prozent. Bei einer realen Sprachmodell-Ausgabe ist die Auswahlmenge aber viel größer. Außerdem können einzelne Tokens durch Regeln oder Filter ausgeschlossen und die Wahrscheinlichkeiten durch Einstellungen verändert werden.


Warum beantwortet dieselbe KI dieselbe Frage nicht immer gleich?


Viele Systeme verwenden Sampling – sie wählen das nächste Token aus einer Verteilung, statt stets nur den höchsten Wert zu nehmen. Einstellungen wie Temperature oder Top-p beeinflussen, welche Varianten häufiger auftreten. Auch Modellversion, Systemanweisungen, Kontext und angeschlossene Werkzeuge verändern die Antwort.


Niedrige Temperature bedeutet nicht automatisch Wahrheit; hohe Temperature bedeutet nicht automatisch bessere Kreativität. Beides betrifft die Auswahl von Fortsetzungen, nicht die Faktensicherheit.


Praxisbeispiel: Eine Frage durchläuft das komplette System


Jetzt setzen wir alle Einzelteile zusammen. Angenommen, du schreibst: „Mein Debian-Server meldet No space left on device. Was soll ich prüfen?“ Das folgende Beispiel ist ein didaktisches Modell, keine ausgelesene interne Berechnung von ChatGPT.


Wie ein echtes Heimserver-System mit Proxmox aufgebaut sein kann, zeige ich in meinem Erfahrungsbericht Mein Homeserver 2026 – Proxmox Setup, Dienste, Architektur und Stromverbrauch.


  • 1. Eingabe aufnehmen: Dein Text und der verfügbare Gesprächskontext bilden die Grundlage der Anfrage.

  • 2. Tokenisieren: Der Text wird in Tokens zerlegt und in numerische Vektoren überführt.

  • 3. Positionen und Kontext verarbeiten: Transformer-Schichten berücksichtigen die Reihenfolge sowie Beziehungen zwischen „Debian“, „Server“, der Fehlermeldung und „prüfen“.

  • 4. Gewichte anwenden: In vielen Matrixoperationen nutzen die Schichten ihre trainierten Parameter und berechnen neue, kontextabhängige Darstellungen.

  • 5. Nächstes Token bewerten: Aus den internen Ergebnissen entstehen Logits für mögliche nächste Tokens.

  • 6. Token auswählen: Über eine Auswahlstrategie wird ein Token bestimmt und an den bisher erzeugten Text angehängt.

  • 7. Wiederholen: Mit dem erweiterten Kontext wird die nächste Fortsetzung berechnet. So wächst die Antwort Schritt für Schritt.

  • 8. Ausgabe darstellen: Die Tokenfolge wird wieder als verständlicher Text angezeigt. Manche Systeme nutzen ergänzend Werkzeuge oder weitere Verarbeitungsschritte.


Als Antwort könnte das Modell sinnvolle Prüfungen wie „df -h“ für die Speicherauslastung und „df -i“ für freie Inodes erklären. Dass solche Befehle fachlich passen, entsteht aus gelernten Mustern und dem Kontext – nicht daraus, dass eine winzige Figur im Computer eine Festplatte inspiziert.


Wer solche Linux-Kommandos erst kennenlernen möchte, findet praktische Grundlagen in Linux erste Schritte – Was tun nach der Installation?.


Und was wäre anders, wenn du die Frage präzisierst?


Ergänzt du „Der Server läuft als Proxmox-VM, und die Root-Partition ist betroffen“, verändern sich die Informationen, die das Modell verarbeitet. Dadurch werden passendere diagnostische Schritte wahrscheinlicher. So entsteht der Nutzen eines guten Prompts: mehr relevanter Kontext und weniger Interpretationsspielraum.


In einem Satz: Prompt → Tokens → Vektoren → Transformer mit Gewichten und Attention → Logits → Token-Auswahl → wiederholen → fertige Antwort.


TEIL 4 – KI ausprobieren, prüfen und richtig einordnen


11. Warum KI manchmal überzeugend Unsinn erzählt


Sprachmodelle können sehr plausible Sätze erzeugen, obwohl der Inhalt falsch ist. Solche Fehler werden bei generativer KI oft Halluzinationen genannt.


Beispielsweise kann ein Modell eine Quelle nennen, die gar nicht existiert, oder Fakten falsch miteinander verknüpfen. Gute Formulierungen sind deshalb kein Wahrheitsbeweis. Insbesondere bei Sicherheitslücken, Medizin, Recht und wichtigen Entscheidungen müssen belastbare Quellen geprüft werden.


Warum eine schön formulierte Antwort kein Beleg ist


Das Trainingsziel und die spätere Textgenerierung belohnen unter anderem passende Fortsetzungen. Daraus folgt nicht automatisch eine integrierte Prüfung jeder Aussage gegen eine aktuelle, verlässliche Quelle. Besonders schwierig sind seltene Fakten, neueste Entwicklungen, unklare Fragen und erfundene Details.


Bei einer erfundenen Literaturquelle kann die Form vollständig plausibel aussehen: Name, Titel, Jahr und Link – obwohl es die Veröffentlichung gar nicht gibt. Deshalb sollte man Quellen öffnen und prüfen, statt eine eindrucksvolle Formulierung als Beweis zu nehmen.


Welche Sicherheitsfragen bei selbstständig handelnden KI-Agenten entstehen, greife ich in KI-Agenten hacken 100 Websites: So lief die Angriffswelle 2026 auf.


Wie nutzt man KI bei wichtigen Informationen sinnvoll?


  • Verlange überprüfbare Quellen und kontrolliere, ob sie die jeweilige Aussage tatsächlich stützen.

  • Trenne Vorschläge von Fakten: Bei Sicherheitslücken zählen unter anderem Herstellerhinweise, betroffene Versionen und offizielle CVE-Einträge.

  • Teste technischen Code zuerst in einer ungefährlichen Umgebung; sichere produktive Systeme vorher ab.

  • Gib für komplexe Aufgaben Kontext, Ziel, Einschränkungen und gewünschtes Ausgabeformat an.

  • Prüfe besonders Angaben zu Daten, Personen, Kosten und sicherheitskritischen Einstellungen.


KI mit Websuche, Datenbankzugriff oder weiteren Werkzeugen kann Informationen überprüfen oder ausführen. Ob sie das im konkreten Gespräch tatsächlich getan hat, sollte man erkennen können.


12. Experiment: Drei kleine Änderungen, drei andere Antworten


Probiere die folgenden Eingaben in einem KI-Chatbot aus. Die genaue Antwort kann unterschiedlich sein; besonders interessant ist, wie der hinzugefügte Kontext die Fortsetzung verändert.


  • A: „Vervollständige den Satz: Der Himmel ist …“

  • B: „Du stehst nach einem Gewitter draußen. Vervollständige: Der Himmel ist …“

  • C: „Schreibe den Anfang eines märchenhaften Satzes: Der Himmel ist …“


Du kannst die internen Wahrscheinlichkeiten damit nicht direkt auslesen. Du erkennst aber, warum Prompting wichtig ist: Mehr Kontext verändert, welche Fortsetzung das Modell für passend hält.


Zweites Experiment: Warum „Bank“ nicht immer dasselbe heißt


  • Eingabe 1: „Ich möchte Geld abheben. Wo ist die nächste Bank?“

  • Eingabe 2: „Wir sitzen im Park. Wo steht die nächste Bank?“


Der entscheidende Begriff ist gleich, aber die anderen Wörter verschieben den Zusammenhang. Das Modell muss nicht bloß eine Vokabel definieren, sondern aus dem Kontext ableiten, welche Bedeutung passend ist.


Du kannst die Antworten auch unter denselben Bedingungen wiederholen und beobachten, ob die Formulierungen variieren. Vergleiche dabei die Bedeutung, nicht nur identische Wörter.


13. Ist KI also nur eine Wahrscheinlichkeitsmaschine?


Wahrscheinlichkeiten spielen bei Sprachmodellen eine entscheidende Rolle. Doch die Kurzform „KI würfelt nur das nächste Wort“ unterschlägt, wie komplex die gelernten Repräsentationen und Kontextberechnungen geworden sind.


Moderne Modelle können Texte analysieren, Code schreiben, Zusammenhänge erklären und mehrschrittige Aufgaben bearbeiten. Ob das mit menschlichem Denken oder Bewusstsein gleichzusetzen ist, ist damit nicht beantwortet.


Kann ein Sprachmodell auch rechnen, planen oder programmieren?


Bei solchen Aufgaben verarbeitet es ebenfalls Tokenfolgen und gelernte Muster, kann aber komplexe Zwischenrepräsentationen und mehrstufige Abläufe nutzen. Manche Chatbots sind zusätzlich mit Rechnern, Suchmaschinen oder Programmierwerkzeugen verbunden. Dann kann ein Teil des Ergebnisses durch echte Werkzeugausführung entstehen.


Ein Praxisbeispiel dafür, wie KI beim Programmieren eingesetzt werden kann, ist mein Beitrag Warum Vibe Coder jetzt einen Blick auf Pi Network werfen sollten.


Beispielsweise kann ein Modell einen Bash-Befehl vorschlagen, eine Erklärung für einen Proxmox-Fehler liefern oder mithilfe eines angeschlossenen Werkzeugs Dateien analysieren. Dass ein Text plausibel aussieht, garantiert jedoch nicht, dass der Befehl auf deinem konkreten System sicher oder korrekt ist.


Behalte zwei Ebenen im Kopf: Das Sprachmodell erzeugt eine Ausgabe. Zusätzliche Werkzeuge können Daten abrufen, Berechnungen durchführen oder Aktionen ausführen.


Fazit: Aus Zahlen werden erstaunliche Fähigkeiten


Was mich an meiner damaligen Schulung besonders beeindruckt hat, war dieses scheinbar unendliche Geflecht aus Linien und Punkten. Heute weiß ich: Dahinter stecken Gewichte, mathematische Operationen, Training und Wahrscheinlichkeiten – nicht Magie.


Je besser wir die Technik verstehen, desto gezielter können wir sie nutzen und desto eher erkennen wir ihre Grenzen.


Neugierig auf mehr? Bei Luftpoet geht es weiter mit KI, IT-Sicherheit, Linux, Windows und dem technischen Alltag.



Fünf Dinge, die du jetzt erklären können solltest


  • Warum ein Prompt zuerst in Tokens und Zahlen übersetzt wird.

  • Warum ein Netzwerk mit erlernten Gewichten rechnet und diese Gewichte keine Wahrscheinlichkeiten sind.

  • Warum Training aus Vorhersage, Fehlerberechnung und Gewichtsänderung besteht.

  • Warum Attention Informationen aus dem vorhandenen Kontext miteinander verbindet.

  • Warum ein Modell wahrscheinliche Fortsetzungen erzeugen kann und trotzdem falsche Behauptungen aufstellt.


Wenn du diese fünf Punkte verstanden hast, kennst du bereits das Grundprinzip hinter vielen heutigen KI-Sprachmodellen.


Die gesamte KI-Reise als zweite Infografik


Du möchtest den Ablauf noch einmal als großes Bild sehen? Diese zweite Darstellung fasst die wichtigsten Stationen zusammen – vom Training bis zur Generierung. Der Text oben erklärt die technischen Zusammenhänge genauer, die Grafik dient als zusätzliche visuelle Orientierung.


Luftpoet KI Infografik: Überblick über neuronale Netzwerke, Training, Tokens, Attention, Wahrscheinlichkeiten und Antwortgenerierung.
Infografik 2: Übersicht vom KI-Training bis zur Antwortgenerierung – schematisches Beispiel.

Auch diese Grafik stellt die Abläufe bewusst schematisch dar. Der genaue Aufbau unterscheidet sich je nach Modell und eingesetzten Zusatzfunktionen.


Mini-Lexikon: Die wichtigsten Begriffe


  • Prompt – die Eingabe oder Anweisung, die du an das System richtest.

  • Token – eine vom Tokenizer festgelegte Textverarbeitungseinheit.

  • Parameter/Gewicht – eine im Training gelernte Zahl, die eine Berechnung beeinflusst.

  • Bias – ein zusätzlicher Zahlenwert in vielen Netzberechnungen.

  • Embedding – eine Darstellung als Zahlenvektor.

  • Transformer – eine verbreitete Architektur moderner Sprachmodelle.

  • Attention – ein Verfahren zur kontextabhängigen Gewichtung von Informationen.

  • Logit – eine numerische Bewertung vor der Umrechnung in Wahrscheinlichkeiten.

  • Softmax – eine Funktion, die aus Bewertungen eine Wahrscheinlichkeitsverteilung bildet.

  • Backpropagation – ein Verfahren, das beim Training Gradienten für Parameteranpassungen liefert.

  • Inference – das Anwenden eines trainierten Modells auf eine neue Eingabe.

  • Halluzination – eine plausibel formulierte, aber sachlich falsche oder erfundene Modellausgabe.


Wissenstest: Hast du das Grundprinzip verstanden?


Ein kurzer Selbsttest: Beantworte die Fragen erst für dich und klappe dann die Lösung auf.


Üblicherweise nein. Ein Modell nutzt bei der Inference seine trainierten Parameter. Neue Gewichte entstehen erst durch gesonderte Trainings- oder Anpassungsvorgänge.


Nein. Die 70 Prozent betreffen eine mögliche Token-Fortsetzung im jeweiligen Modellkontext, nicht die Wahrheit der gesamten Aussage.


Er verändert die internen Berechnungen und dadurch, welche Fortsetzungen als passend bewertet werden.


Das System berechnet einen Fehler, ermittelt mit Backpropagation Gradienten und passt Modellparameter mit einem Optimierungsverfahren an.


Weil Sprachmodelle plausible, aber nicht existierende Quellen oder unzutreffende Angaben erzeugen können.


Häufige Fragen – kurz beantwortet


Nein. KI umfasst auch Bilderkennung, Empfehlungssysteme, Robotik und weitere Verfahren. Der Artikel konzentriert sich auf generative Sprachmodelle.


Nein. Gewichte sind erlernte Parameter der Berechnung. Wahrscheinlichkeiten entstehen aus den resultierenden Bewertungen, beispielsweise mit Softmax.


Die Ausgabe hängt unter anderem vom Kontext, der Modellversion, Systemanweisungen und möglichen Zufallselementen bei der Token-Auswahl ab.


Nein. Die Wahrscheinlichkeit eines nächsten Tokens ist kein kalibrierter Wahrheitswert für die gesamte Aussage.



Weiterlesen auf Luftpoet


Ein weiterer Sicherheitsfall: KI-Agenten hacken Hugging Face.


Technische Quellen



Grundlagen zu Sprachmodellen und Wahrscheinlichkeiten: Google – Introduction to Large Language Models.




Redaktionsstand: 19. November 2026. Die Beispielwerte und die Netzwerkdarstellung sind schematisch und dienen der Erklärung. Was ist für dich das Spannendste an KI? Schreib es gerne in die Kommentare.


Kommentare

Mit 0 von 5 Sternen bewertet.
Noch keine Ratings

Rating hinzufügen
bottom of page