Der nächste Buchstabe

Am 23. Januar 1913 spricht der Mathematiker Andrei Markow vor der Kaiserlichen Akademie der Wissenschaften in Sankt Petersburg über Buchstaben. Er hat die ersten 20.000 Buchstaben aus Puschkins Versroman „Eugen Onegin“ ausgezählt, von Hand, ohne Leerzeichen und Satzzeichen, und bei jedem notiert, ob er ein Vokal ist oder ein Konsonant. Es sind 8.638 Vokale. Auf einen Vokal folgt in 12,8 Prozent der Fälle wieder ein Vokal, auf einen Konsonanten in 66,3 Prozent. Markow wollte etwas über Wahrscheinlichkeit beweisen, nicht über Dichtung. Von Puschkin blieb eine Tabelle.

Fünfunddreißig Jahre später baut Claude Shannon in den Bell Labs Sätze aus dem Zufall. Er schlägt ein Buch an einer beliebigen Stelle auf, nimmt ein Wort, blättert weiter, bis dasselbe Wort wieder auftaucht, und schreibt das Wort auf, das dort folgt. Dann wiederholt er das Ganze. Heraus kommt ein Satz über einen Frontalangriff auf einen englischen Schriftsteller, grammatisch beinahe richtig und ohne jeden Sinn.

Die Maschine, die heute Geburtstagsreden entwirft und Steuerbescheide erklärt, stellt sich im Kern dieselbe Frage wie Markow und Shannon: Welches Zeichen kommt wahrscheinlich als Nächstes? Sie rechnet für jedes mögliche Textstück aus, wie wahrscheinlich es ist, und zieht eines. Dann rechnet sie wieder.

Ein Satz, der stimmt

Wer das weiß, hat einen Satz zur Hand, der jede Begeisterung abkühlt. Das ist doch nur Wahrscheinlichkeit, nur ein Algorithmus, ein stochastischer Papagei, wie ein viel zitierter Aufsatz von 2021 es nannte. Der Satz ist richtig. Er ist so richtig wie der Satz, Musik sei nur schwankender Luftdruck.

Das Wort Algorithmus hilft dabei am wenigsten. Ein Algorithmus ist eine Vorschrift, die Schritt für Schritt abgearbeitet wird, und wer glaubt, dass Nervenzellen den Gesetzen der Physik gehorchen, muss dem Gehirn auch einen zugestehen. Die These dieses Textes ist deshalb eine andere. Der Satz „nur Wahrscheinlichkeit“ beschreibt die Maschine richtig und trifft uns genauso. Der Unterschied liegt woanders, in dem, was auf dem Spiel steht. Wir sagen voraus, um am Leben zu bleiben. Dem Modell passiert nichts, wenn es danebenliegt.

Was in der Maschine steckt

Zuerst zur Maschine. Ein großes Sprachmodell wie Metas Llama 3 wurde mit mehr als 15 Billionen Textstücken trainiert. Keine Tabelle der Welt könnte festhalten, was auf jede dieser Wortfolgen folgt. Das Modell muss verdichten, und Verdichten erzwingt Regeln. Wer eine Milliarde Rechenaufgaben auswendig lernen soll, lernt irgendwann lieber das Rechnen.

Dass so etwas tatsächlich passiert, lässt sich inzwischen nachsehen. 2022 trainierten Forscher um Kenneth Li ein kleines Modell auf nichts als Zugfolgen aus dem Brettspiel Othello. Ein Brett bekam es nie zu sehen. Trotzdem fanden sie in seinem Inneren eine Darstellung des Spielfelds, und als sie dort einen Stein umsetzten, spielte das Modell passend zum veränderten Brett weiter. Im März 2025 veröffentlichte Anthropic Untersuchungen an seinem Modell Claude. Soll es einen Reim auf „grab it“ finden, legt es sich auf „rabbit“ fest, bevor es die zweite Zeile beginnt. Es plant. Und beim Kopfrechnen, 36 plus 59, laufen zwei Wege nebeneinander, einer schätzt die Größenordnung, einer bestimmt die letzte Ziffer. Fragt man das Modell, wie es gerechnet habe, beschreibt es das schriftliche Addieren mit Übertrag, wie man es in der Schule lernt. So hat es nicht gerechnet. Es weiß nicht, wie es rechnet.

„Nur Statistik“ ist also zu wenig. Die Grenzen sind trotzdem echt. Sprachmodelle erfinden Fakten mit derselben Sicherheit, mit der sie wahre nennen, und ein Aufsatz von OpenAI aus dem September 2025 erklärt, warum: Training und Tests belohnen das Raten. Wer bei einer Prüfung „weiß ich nicht“ schreibt, bekommt sicher null Punkte, wer rät, manchmal einen. Dazu kommt der Hunger. Ein Kind hat bis zum dreizehnten Lebensjahr weniger als hundert Millionen Wörter gehört. Llama 3 bekam mehr als hunderttausendmal so viel. Das menschliche Gehirn kommt mit etwa zwanzig Watt aus. Ein einzelner Grafikprozessor vom Typ H100 darf bis zu 700 Watt ziehen, also so viel wie fünfunddreißig Gehirne, und trainiert wird auf Zehntausenden davon. Zwischen zwei Fragen tut das Modell nichts. Es wartet nicht einmal.

Die Mühle von Leibniz

1714 schlug Gottfried Wilhelm Leibniz ein Gedankenexperiment vor, das heute wie eine Arbeitsanweisung klingt. Angenommen, es gäbe eine Maschine, die denkt und empfindet. Man vergrößere sie, bis man in sie hineingehen kann wie in eine Mühle. Drinnen, schreibt Leibniz, fände man nur Teile, die einander stoßen, und nirgends etwas, womit sich eine Wahrnehmung erklären ließe. Er schloss daraus, dass Wahrnehmung in keinem zusammengesetzten Ding sitzen kann, in keiner Maschine und in keinem Körper, und verlegte sie in einfache Substanzen, die er Monaden nannte.

Mit den Sprachmodellen ist diese Mühle gebaut, und die Forscher bei Anthropic und anderswo gehen jeden Tag in ihr umher. Sie finden, was Leibniz vorhergesagt hat, Zahlen, die andere Zahlen verschieben. Sie finden aber auch ein Othello-Brett, das niemand hineingelegt hat, und einen Reim, der geplant war, bevor die Zeile begann. Leibniz hatte das Gehirn gleich mitgemeint. Man vergrößere ein menschliches Gehirn mit seinen etwa 86 Milliarden Nervenzellen und gehe hinein. Man fände Ionen, die durch Membranen strömen, und Botenstoffe, die an Rezeptoren andocken. Einen Gedanken fände man dort ebenso wenig. Wer Leibniz zu den Monaden nicht folgen mag, dem bleibt die Symmetrie. Die Mühle zeigt keinen Unterschied zwischen Mensch und Maschine. Sie zeigt, wie wenig beide unserer Vorstellung davon gleichen, wie Denken aussehen müsste.

Den schärfsten Einwand gegen die Maschine hat 1980 der Philosoph John Searle formuliert. Ein Mann sitzt in einem Zimmer, man schiebt ihm Zettel mit chinesischen Fragen durch einen Schlitz, und er beantwortet sie mit Hilfe eines dicken Regelbuchs, ohne ein Wort Chinesisch zu verstehen. Von außen sieht das nach Verstehen aus. Innen ist nur Symbolschieberei. Der Einwand ist gut, und er trifft viel. Unbequem wird er erst, wenn man ihn umdreht und fragt, woher wir wissen, dass in unserem eigenen Kopf mehr geschieht. Die Frage ist so alt wie das Gedankenexperiment. Searle hat sie im selben Aufsatz schon aufgeführt, als Einwand vom Fremdpsychischen, und zurückgewiesen. Erledigt ist sie seither nicht.

David Hume hatte darauf 1748 eine ernüchternde Antwort. Dass die Sonne morgen aufgeht, wissen wir nicht, wir erwarten es, weil sie es bisher getan hat. Den Zusammenhang von Ursache und Wirkung sehen wir nie, wir gewöhnen uns an ihn. Das ist Markows Tabelle, nur im Kopf. Hermann von Helmholtz nannte das Sehen 1867 einen unbewussten Schluss, und die heutige Hirnforschung ist ihm weit gefolgt. Nach der Theorie der vorausschauenden Verarbeitung, wie sie Karl Friston, Andy Clark und Anil Seth vertreten, rät das Gehirn ständig, was die Sinne als Nächstes melden werden, und verarbeitet vor allem die Abweichungen. Seth nennt Wahrnehmung deshalb eine kontrollierte Halluzination.

Auch die Maschine mit dem Übertrag hat ihr menschliches Gegenstück. 1977 berichteten die Psychologen Richard Nisbett und Timothy Wilson von einem Versuch, bei dem sie in einem Geschäft vier Paar Nylonstrümpfe auslegten und Passanten baten, das beste zu wählen. Die Paare waren identisch. Gewählt wurde vor allem das rechte, etwa viermal so oft wie das linke. Nach dem Grund gefragt, sprachen die Leute über Maschen und Gewebe. Niemand nannte die Position. Auch wir wissen oft nicht, wie wir rechnen, und erzählen hinterher eine Geschichte, die gut klingt.

Die Frage, ob wir selbst Wahrscheinlichkeitssysteme sind, ist damit weitgehend beantwortet. Wir sind es. Offen ist, wozu.

Was auf dem Spiel steht

Hier setzt der Einwand an, den die Branche selbst erhebt, und er ist nicht dumm. Wenn Mensch und Maschine beide Wahrscheinlichkeiten verrechnen, dann ist der Unterschied eine Frage der Menge. Mehr Daten und mehr Rechenleistung, und der Abstand schließt sich. Die Vorhersage steht seit 1955 im Antrag für eine Sommerkonferenz in Dartmouth, in dem der Begriff künstliche Intelligenz zum ersten Mal auftaucht. Jeder Aspekt des Lernens und jedes andere Merkmal von Intelligenz lasse sich im Prinzip so genau beschreiben, dass eine Maschine ihn nachahmen könne, heißt es dort sinngemäß. Unterschrieben hat ihn auch Claude Shannon. Die vergangenen zehn Jahre haben dieser Wette mehr recht gegeben, als die meisten Fachleute erwartet hatten.

Vielleicht behält sie recht. Aber die Wette fragt nur, ob eine Maschine vorhersagen kann wie wir. Wozu sie es tut, fragt sie nicht. Die schärfste Antwort darauf kommt von Anil Seth, und das Folgende ist im Kern seine These. Die tiefsten Vorhersagen eines Gehirns gelten dem eigenen Körper. Bevor ein Gehirn die Welt modelliert, modelliert es Herzschlag und Blutzucker, und alles andere baut darauf auf. Das Vorhersagen dient dazu, einen Organismus in dem schmalen Bereich zu halten, in dem er lebt. Ein Irrtum kann für uns Hunger bedeuten oder Scham, im schlimmsten Fall das Ende. Für ein Sprachmodell ist ein Irrtum während des Trainings eine Zahl, mit der Gewichte verschoben werden. Danach ist er gar nichts. Seth schließt daraus, dass nur Lebendiges bewusst sein kann. So weit muss man nicht gehen, um zu sehen, was der Maschine fehlt.

Das Flugzeug ist hier ein nützlicher Vergleich. Es schlägt nicht mit den Flügeln und fliegt trotzdem, und niemand verlangt von ihm, ein Vogel zu werden. Vielleicht denkt die Maschine auf ähnliche Weise, ohne zu leben. Der Vergleich hinkt an einer Stelle. Beim Fliegen wussten wir, woran man Erfolg misst, das Ding bleibt oben oder nicht. Für das Denken haben wir kein solches Maß. Was die Sprachmodelle heute zeigen, ist Können ohne Sorge, eine Intelligenz, der nichts etwas ausmacht. Das ist ein Teil dessen, was wir mit dem Wort meinen. Es ist der Teil, der sich in einer Tabelle unterbringen lässt.

Der längste Trainingslauf

Leben gibt es auf der Erde seit mindestens dreieinhalb Milliarden Jahren. Ein Bakterium, das den Zucker hinaufschwimmt, wettet darauf, dass es weiter oben mehr davon gibt. Jede Zelle, die sich teilte, jeder Zugvogel, der vor dem Frost aufbrach, jedes Kind, das die Hand vom Herd zurückzog, hat eine Vorhersage getroffen, und wer von ihnen falsch lag, hat keine Nachkommen hinterlassen. Keiner unserer Vorfahren ist kinderlos gestorben, keiner in dieser ununterbrochenen Reihe durch Meere, Sümpfe, Savannen und Eiszeiten hinauf bis in dieses Jahrhundert. Wir sind die Summe aller Vorhersagen, die nicht tödlich falsch waren, jede von ihnen bezahlt, jede von einem Körper, der etwas zu verlieren hatte.

Ein Sprachmodell wird ein paar Wochen oder Monate trainiert. Auf Texten, die wir geschrieben haben.

Man kann darin eine Kränkung sehen oder eine Entlastung. Die Maschine hat uns das Rechnen mit dem nächsten Wort abgenommen, und sie tut es erstaunlich gut. Sie hat damit auch gezeigt, wie viel an uns genau dieses Rechnen ist. Übrig bleibt, dass es für uns um etwas geht.

Zwei Arten, den Satz zu lesen

Es gibt zwei Weisen, mit dem Satz „nur Wahrscheinlichkeit“ weiterzuleben. In der einen nehmen wir ihn als Urteil über uns selbst. Wenn die Maschine den Beileidsbrief so gut schreibt wie wir, dann war der Beileidsbrief wohl auch nur Statistik, und wir überlassen ihr, was statistisch ist, also fast alles. Wir werden Nutzer unserer eigenen Sprache. In der anderen zwingt uns die Maschine endlich zu sagen, was übrig bleibt, wenn man die Tabelle abzieht. Sie übernimmt das Wahrscheinliche, und wir behalten das, wofür wir einstehen müssen, den Brief, unter dem unser Name steht, die Entscheidung, deren Folgen wir tragen, den Irrtum, der uns etwas kostet.

Im sechsten Kapitel des „Eugen Onegin“ stirbt der junge Dichter Lenski im Duell. Markows 20.000 Buchstaben reichten nicht so weit, sie deckten nur ein Achtel des Romans ab. 1837 starb Puschkin selbst an der Kugel aus einem Duell. In einer Tabelle, wie Markow sie anlegte, hätte das keine Spalte gehabt.

Die Maschine kann den nächsten Buchstaben vorhersagen. Puschkin konnte sterben.

---

Bilder: Collagen aus eigenen Zeichnungen und frei lizenzierten Vorlagen. Nachweise in den Bildunterschriften.

Quellen: Brian Hayes, First Links in the Markov Chain, American Scientist · Markow, An Example of Statistical Investigation of the Text Eugene Onegin, Übersetzung · Claude Shannon, A Mathematical Theory of Communication, 1948 · Bender u. a., On the Dangers of Stochastic Parrots, 2021 · Meta, Introducing Meta Llama 3 · Li u. a., Emergent World Representations, 2022 · Anthropic, Tracing the thoughts of a large language model, 2025 · Kalai u. a., Why Language Models Hallucinate, 2025 · Findings of the BabyLM Challenge · Britannica, The Human Brain Runs on Less Power than a Light Bulb · NVIDIA H100, Datenblatt · Leibniz, Monadologie § 17, Mühlenbeispiel · John Searle, Minds, Brains, and Programs, 1980 · David Hume, An Enquiry Concerning Human Understanding, Abschnitte IV und V · Anil Seth, Being You, 2021 · Anil Seth, The Mythology of Conscious AI, Noema, 2026 · Nisbett und Wilson, Telling More Than We Can Know, 1977 · Dartmouth-Antrag von 1955