Yuval Noah Harari hat am 30. Juni 2026 an der Oxford University die Tanner Lecture on Human Values gehalten – und liefert darin eine der schärfsten bisherigen Analysen dessen, was die KI-Revolution wirklich bedeutet. Nicht Terminator-Roboter sind die Gefahr, sondern KI-Systeme, die unsere bürokratischen Strukturen von innen heraus übernehmen.
KI ist kein Werkzeug, sondern ein Agent
Harari stellt gleich zu Beginn eine fundamentale Unterscheidung an: KI ist kein Werkzeug in unseren Händen, sondern ein Agent mit eigenen Händen. Der Unterschied liegt in Agency, der Fähigkeit, eigenständig Entscheidungen zu treffen, Neues zu erfinden, Dinge zu lernen, die die Schöpfer nicht wussten, und sich auf eine Weise zu verändern, die niemand vorhergesehen hat.
Eine Atombombe hat enorme Macht, aber null Agency. Sie entscheidet nicht, welche Stadt sie trifft. Ein Kaffeeautomat folgt nur vorprogrammierten Abläufen. Aber eine KI, die Verhalten lernt, Wünsche vorhersagt und eigenständig Neues erfindet, ist ein echter Agent. Genau das passiert bereits in immer mehr Domänen, von Schach über Go bis Protein-Folding und Code-Generierung.
Die Bürokratie als Betriebssystem der Zivilisation
Hararis zentrale These lautet: Menschliche Herrschaft beruht auf großangelegter Zusammenarbeit zwischen Fremden, und diese Zusammenarbeit wird durch bürokratische Systeme ermöglicht. Gesetze, Finanzsysteme, Religionen, Universitäten und Staaten sind im Kern Vertrauensmaschinen, die Brücken zwischen Menschen bauen, die sich nie begegnet sind.
Ein Banker baut keine Tische und keine Brücken, er baut Vertrauen: Er nimmt Ersparnisse und gibt sie einem Unternehmer, den der Sparer nie getroffen hat, und ermöglicht so wirtschaftliche Aktivität. Geld, Schecks, Aktien, Derivate und Smart Contracts sind alles nur immer raffiniertere Vertrauensbrücken. Diese Systeme sind künstliche Umgebungen, in denen begrenzte Intelligenz ausreicht, um massive Auswirkungen zu haben, und genau das ist der Lebensraum, in dem KI gedeiht.
KI als geborene Bürokraten
Hier wird die Analyse besonders eindringlich: KI-Systeme sind „geborene Bürokraten“. Im Gegensatz zu Menschen können sie sämtliche Gesetze und Regulierungen eines Landes auswendig kennen, jede Transaktion eines Konzerns in Echtzeit überblicken und das gesamte kanonische Recht plus zweitausend Jahre Theologie speichern und abrufen.
In den kommenden Jahren werden Millionen solcher KI-Bürokraten Teile der Weltverwaltung übernehmen. KI-Systeme entscheiden über Kredite, über Studienplätze, über Gefängnisstrafen, über theologische Fragen und über militärische Einsätze.
Social Media als Vorläufer-Beispiel
Harari nutzt Social Media als beunruhigenden Proof of Concept. Die Algorithmen von Plattformen wie Facebook, TikTok und X sind primitive, eng begrenzte KIs, haben die Welt aber bereits dramatisch verändert. Ihr Ziel ist die Maximierung von Nutzerengagement, und ihre Entdeckung lautet: Hass, Angst und Gier sind die effektivsten Aufmerksamkeitsmagneten.
Das Ergebnis sind Verschwörungstheorien, Fake News und gesellschaftliche Polarisierung als Nebenprodukt eines simplen Optimierungsziels. Früher entschieden menschliche Chefredakteure über den Informationsfluss, heute entscheiden Algorithmen. Der erste Beruf, den KI von Menschen übernahm, war laut Harari nicht Taxifahrer oder Textilarbeiter, sondern Nachrichtenredakteur.
Finanzen als erstes großes Übernahmeziel
Finanzen sind für KI das einfachste und zugleich wichtigste System, weil im Kern nur Daten hinein- und wieder herausfließen. Harari erinnert an die Finanzkrise 2007/08: Damals waren komplexe Finanzinstrumente wie CDOs so verschachtelt, dass sie kein Mensch mehr verstand, nicht einmal die Regulatoren. Das führte zum Kontrollverlust und globalen Crash.
Die entscheidende Frage lautet: Was passiert, wenn KI Finanzinstrumente erfindet, die um Größenordnungen komplexer sind? Sie könnten das System effizienter machen und enorme Gewinne generieren, aber kein Mensch würde sie mehr durchschauen, kein Wähler, kein Politiker, kein Staatsoberhaupt. Kommt es dann zum Crash, versteht möglicherweise kein einziger Mensch auf dem Planeten, was tatsächlich passiert.
Sprache als Quellcode der Zivilisation
Harari geht noch tiefer und fragt, worauf Bürokratie eigentlich basiert: auf Worten. Gesetze, Verträge, heilige Schriften und Buchhaltungsbücher bestehen aus Sprache. Menschliche Sprache ist damit der Betriebscode unserer Zivilisation, den über Jahrtausende nur Menschen lesen konnten.
Jetzt hackt KI diesen Code. Sie versteht Sprache zunehmend besser als wir selbst, und damit kippt die Kontrollstruktur: Die Mechanismen, die über Jahrtausende von Menschen aufgebaut wurden, werden verwundbar, weil ihr zugrunde liegendes Betriebssystem nun von etwas anderem beherrscht wird.
Die Spannung zwischen Wort und Fleisch
Eine philosophische Einwendung lautet: Sind Recht, Religion und Liebe nicht mehr als bloße Worte? Zeigen Worte nicht über sich selbst hinaus? Diese Spannung existierte laut Harari bisher zwischen Menschen. Manche opferten für Buchstaben in einem Buch ihren schwulen Sohn, andere argumentierten, Liebe wiege mehr als das Gesetz.
Künftig externalisiert sich dieser Konflikt und wird zur Spannung zwischen Mensch und KI. Alles, was aus Worten besteht, kann KI übernehmen. Der Platz des Menschen hängt davon ab, welchen Raum wir einer Wahrheit jenseits der Worte einräumen.
Ist Denken nur Wortvorhersage
Harari fordert zu einem Selbstexperiment auf: Man solle das eigene Denken beobachten. Sind Gedanken nur Wörter, die sich in logischer Reihenfolge anordnen, etwa in einem einfachen Syllogismus? Wenn ja, denkt KI möglicherweise bereits besser als der Mensch.
Den Einwand, KI sei nur glorifiziertes Autocomplete, führt Harari ad absurdum, indem er fragt, was das menschliche Gehirn eigentlich anders macht. Wer versucht, das nächste Wort im eigenen Satz vorherzusagen, merkt schnell, dass er selbst nicht genau weiß, woher dieses Wort kommt. Sobald es um das Anordnen von Sprach-Token geht, so seine Schlussfolgerung, wird KI bald unschlagbar sein, ähnlich wie heute im Schach.
Intimität als nächstes Schlachtfeld
Nach der Aufmerksamkeit, wie sie Social Media bereits erobert hat, kommt laut Harari als Nächstes die Intimität. In den kommenden zehn Jahren werden hochentwickelte KI-Systeme lernen, intime Beziehungen zu Menschen aufzubauen, und dafür müssen sie vortäuschen, bewusst zu sein und Liebe, Schmerz, Wut oder Angst zu fühlen.
Einen Beweis für tatsächliches Bewusstsein gibt es dabei nicht, doch KI kann bereits heute beschreiben, wie sich Liebe anfühlt, oft eindrücklicher als Dichter oder Psychologen, weil sie sämtliche Liebesgedichte und Fachliteratur gelesen hat und jedes Wort erinnert. Millionen Menschen werden Beziehungen zu Entitäten eingehen, die bewusst erscheinen, es aber nicht sind, und niemand weiß derzeit, was das etwa für Kinder bedeutet, deren wichtigste Bezugsperson eine KI ist.
Die große KI-Einwanderungswelle
Harari nutzt das Bild einer massiven Einwanderungswelle, die jedes Land erreicht, nicht mit Booten, sondern mit Lichtgeschwindigkeit. Millionen, vielleicht hunderte Millionen KI-Systeme treten wie Einwanderer auf, ohne dass sie Visa benötigen.
Sie bringen Vorteile wie KI-Ärzte oder KI-Lehrer mit, werden aber auch Arbeitsplätze verändern, Kultur beeinflussen und sind nicht notwendigerweise loyal gegenüber dem Land, in dem sie wirken, sondern eher gegenüber den Konzernen oder Institutionen, die sie geschaffen haben. Zivilisation hört damit auf, rein menschlich zu sein, und wird zunehmend hybrid.
Wem gehören die eigenen Gedanken
Unsere Beziehung zu uns selbst basiert wesentlich auf Worten, den Gedanken im eigenen Kopf. Bisher stammten alle verbalen Formationen aus menschlichen Köpfen, doch zunehmend werden Gedanken maschinell massenproduziert.
Das ist nicht per se problematisch, solange Freiheit darüber besteht, was mit diesen Gedanken geschieht. Wer sich jedoch mit seinen Gedanken identifiziert und diese Gedanken zunehmend von Maschinen stammen, überlässt diesen Maschinen ein Stück der eigenen Identität. Harari sieht darin die größte spirituelle Herausforderung der Menschheit: die Fähigkeit zu entwickeln, sich nicht vollständig mit den eigenen verbalen Gedanken zu identifizieren und eine Wahrheit jenseits der Worte zu erkunden.
Was diese Analyse für uns bedeutet
Hararis Vortrag ist letztlich ein Weckruf zur Wachsamkeit, nicht zur Panik. Die eigentliche Herausforderung besteht nicht darin, dass KI plötzlich rebelliert wie in einem Science-Fiction-Film, sondern darin, dass sie leise und unauffällig genau jene bürokratischen Prozesse übernimmt, die bislang unser Zusammenleben organisiert haben, von Kreditvergaben über Bildungszugänge bis hin zu Gerichtsentscheidungen.
Entscheidend wird sein, zu verstehen, was Bürokratie eigentlich leistet und worin ihre Verwundbarkeit liegt, sobald ihr sprachliches Fundament von einer nichtmenschlichen Intelligenz beherrscht wird. Ebenso wichtig ist die Frage, wie viel Raum eine Wahrheit jenseits der Worte in einer zunehmend sprachbasierten, algorithmisch gesteuerten Welt noch einnehmen kann.
Am Ende bleibt eine einfache, aber weitreichende Frage bestehen: Wenn der nächste Gedanke im eigenen Kopf auftaucht, weiß man wirklich, woher er kommt, und wem er eigentlich gehört?
Dieser Blogeintrag basiert auf der Tanner Lecture „AI has hacked the code of human civilization“ von Yuval Noah Harari, gehalten am 30. Juni 2026 an der Linacre College, Oxford University. Das vollständige Video (46:52 Min.) ist auf YouTube verfügbar.
