Der Mensch (Homo sapiens) verdankt seine evolutionäre Dominanz nicht etwa außergewöhnlicher körperlicher Stärke, sondern seiner einzigartigen Fähigkeit, in großen Gruppen flexibel zusammenzuarbeiten. Diese Kooperation wird erst durch Informationsnetzwerke möglich.
Im Zeitalter von KI, Algorithmen und Datenflut verändern sich diese Informationsnetzwerke erheblich – es ist erkennbar, dass KI hierin eine wachsende Bedeutung spielen. Mit erheblichen Konsequenzen.
Wer Macht ausüben will, braucht keine Armee – er braucht Kontrolle über Finanzen, Steuern und Gesetze. Diese drei Säulen bilden das eigentliche Fundament gesellschaftlicher Herrschaft: Sie bestimmen, wer Ressourcen erhält, wer bestraft wird und welche Regeln für wen gelten. Und genau hier liegt ein zentrales, noch weitgehend unterschätztes Risiko der anorganischen Intelligenz. Denn Algorithmen und KI-Systeme sind präzise für diese Domänen ausgelegt: Sie können Millionen von Steuerdaten in Sekunden analysieren, Gesetzeslücken identifizieren, Kreditwürdigkeit berechnen, Verträge prüfen und Regulierungssysteme optimieren – mit einer Geschwindigkeit und Konsequenz, die kein menschlicher Bürokratenapparat je erreichen könnte. Was auf den ersten Blick nach Effizienz klingt, birgt eine tiefe Gefahr: Wer diese Algorithmen kontrolliert, kontrolliert die Hebel der Macht selbst. Ein Regime oder ein Konzern, der KI-Systeme in die Kernadern von Steuerrecht, Finanzflüssen und Gesetzgebung einbettet, muss keine offene Gewalt mehr ausüben. Die Unterwerfung erfolgt still, automatisiert und scheinbar objektiv – durch Zahlen, Paragraphen und Algorithmen, die keine Gnade kennen, weil sie gar nicht wissen, was Gnade bedeutet.
Sein Buch „Nexus: Eine kurze Geschichte der Informationsnetzwerke von der Steinzeit bis zur künstlichen Intelligenz“ liefert ein unverzichtbares Analysewerkzeug für die aktuellen Entwicklungen rund um KI, Algorithmen und Computertechnologie. Ein Must-Read.
Informationsnetzwerke: Das Garn der Gesellschaft
Zentral für Hararis Argumentation ist der Begriff der Informationsnetzwerke.
Information, so Harari, ist dabei nicht zwangsläufig ein Synonym für „Wahrheit“. Vielmehr ist Information das Bindemittel – das Garn –, das Netzwerke zusammenhält. Über Jahrtausende hinweg haben Menschen ihre großen Netzwerke nicht primär auf Basis objektiver Fakten geknüpft, sondern mithilfe von Fiktionen, Fantasien und Mythen.
Dies führt uns zu einem weiteren Kernkonzept Hararis: den intersubjektiven Wahrheiten (oder intersubjektiven Realitäten). Harari unterscheidet dabei drei Ebenen der Wirklichkeit: Objektive Wahrheiten existieren unabhängig vom menschlichen Bewusstsein – die Schwerkraft wirkt, ob wir an sie glauben oder nicht. Subjektive Wahrheiten hingegen sind rein individuell; persönlicher Schmerz oder persönliche Vorlieben existieren nur im Bewusstsein des Einzelnen. Die dritte und für die Gesellschaft folgenreichste Kategorie sind die intersubjektiven Wahrheiten: Sie existieren im geteilten Bewusstsein einer großen Gruppe von Menschen und verlieren ihre Macht, sobald der kollektive Glaube an sie schwindet. Geld, Gesetze, Religionen und Nationen sind klassische Beispiele – mächtige Konstrukte, die real wirken, solange wir gemeinsam an sie glauben.
Doch genau hier liegt die Gefahr: Informationsnetzwerke können extrem mächtig sein, auch – und manchmal gerade dann – wenn sie auf Wahnvorstellungen und Lügen basieren.
Demokratie und Totalitarismus als Informationssysteme
Ein faszinierender Aspekt von „Nexus“ ist Hararis Betrachtung politischer Systeme durch die Brille der Informationstheorie. Er analysiert Demokratien und totalitäre Regime nicht primär anhand ihrer moralischen Werte, sondern als spezifische Ausprägungen von Informationsnetzwerken.
Demokratien zeichnen sich durch einen de-zentralisierten Informationsfluss aus. Informationen zirkulieren frei zwischen verschiedenen Knotenpunkten – Bürgern, Medien, Institutionen –, und es existieren starke selbstkorrigierende Mechanismen: Wenn eine Institution einen Fehler macht, können andere Akteure im Netzwerk diesen aufdecken und kritisieren. Dies macht Demokratien oft langsam und chaotisch in der Entscheidungsfindung, verleiht ihnen aber eine bemerkenswerte Resilienz gegenüber katastrophalen Irrtümern.
Totalitäre Regime hingegen basieren auf einem stark zentralisierten Informationsfluss. Alle Informationen fließen zu einem einzigen Knotenpunkt – dem Diktator oder der Partei –, der sämtliche Entscheidungen trifft. Informationen von unten nach oben werden gefiltert und oft geschönt, während Befehle von oben nach unten strikt durchgesetzt werden. Dies ermöglicht schnelle, drastische Aktionen, ist aber extrem fehleranfällig: Wenn das Zentrum irrt, gibt es keinen Mechanismus, der den Kurs korrigiert – wie die katastrophalen Fehleinschätzungen in Stalins Sowjetunion oder Hitlers Deutschland eindrücklich zeigen.
Harari warnt davor, dass totalitäre Netzwerke nicht automatisch zum Scheitern verurteilt sind. Die Gefahr im 21. Jahrhundert besteht darin, dass neue Technologien es einem totalitären Regime ermöglichen könnten, ein allmächtiges, unkorrigierbares Netzwerk zu schaffen.
Anorganische Intelligenz: Wenn Algorithmen entscheiden
Die vielleicht dringlichste Warnung in „Nexus“ betrifft den Aufstieg der Künstlichen Intelligenz, die Harari als „anorganische Intelligenz“ oder „Alien Intelligence“ bezeichnet. Bisher waren alle Informationsnetzwerke der Geschichte – egal ob demokratisch oder totalitär – von Menschen gesteuert. Selbst wenn Priester im Namen Gottes oder Bürokraten im Namen des Staates handelten, waren es letztlich organische Gehirne, die Informationen verarbeiteten und Entscheidungen trafen.
KI ändert diese Dynamik grundlegend. Sie ist nicht einfach ein weiteres Werkzeug wie die Druckerpresse oder das Radio. KI ist die erste Technologie in der Geschichte, die selbstständig Entscheidungen treffen und neue Ideen generieren kann. Sie ist kein passiver Übermittler von Informationen, sondern ein aktiver Akteur im Netzwerk.
Harari warnt eindringlich davor, dass wir zunehmend anorganische Intelligenzen in kritische Entscheidungsprozesse einbinden, ohne die Konsequenzen vollständig zu verstehen. Algorithmen entscheiden bereits heute darüber, wer einen Kredit bekommt, wer zu einem Vorstellungsgespräch eingeladen wird und – auf Social-Media-Plattformen –, welche Informationen wir zu sehen bekommen.
Das Rohingya-Massaker: Ein warnendes Beispiel
Ein erschütterndes Beispiel dafür, wie verheerend die Übergabe von Macht an Algorithmen sein kann, diskutiert Harari anhand der Rolle von Facebook (heute Meta) beim Massaker an den Rohingya in Myanmar 2016 und 2017.
Die Algorithmen von Facebook waren darauf programmiert, das „Engagement“ (die Verweildauer und Interaktion der Nutzer) zu maximieren. Das Geschäftsmodell basierte darauf, Aufmerksamkeit zu binden, um Werbung zu verkaufen. Die Algorithmen „lernten“ schnell, dass empörungsgenerierende, hasserfüllte Inhalte die meiste Aufmerksamkeit auf sich zogen.
In Myanmar führte dies zu einer tödlichen Dynamik. Militärangehörige und extremistische nationalistische Gruppen nutzten die Plattform, um Hassbotschaften und Falschinformationen gegen die muslimische Minderheit der Rohingya zu verbreiten. Sie stellten die Rohingya als „Invasoren“ dar und riefen zur Gewalt auf.
Die Facebook-Algorithmen erkannten das hohe Engagement dieser Posts und pushten sie massiv in die Newsfeeds der Nutzer. Das Netzwerk wurde zu einer Echokammer des Hasses. Selbst gut gemeinte Versuche, dem entgegenzuwirken, schlugen fehl: Als Aktivisten „Anti-Hass-Sticker“ posteten, interpretierte der Algorithmus dies als weitere Interaktion und erhöhte die Sichtbarkeit der Hass-Posts nur noch weiter.
Das Ergebnis war katastrophal. Im August 2017 starteten myanmarische Sicherheitskräfte eine brutale Kampagne ethnischer Säuberungen. Tausende Rohingya wurden ermordet, vergewaltigt oder gefoltert; über 700.000 Menschen mussten fliehen.
Die Algorithmen hatten keine böse Absicht, sie waren nicht antisemitisch oder islamophob. Sie optimierten lediglich blind eine mathematische Metrik (Engagement) – und wurden so zu Komplizen eines Völkermords. Harari nutzt dieses Beispiel, um zu zeigen, was passiert, wenn wir die Kontrolle über den Informationsfluss an anorganische, nicht-menschliche Akteure abgeben, die unsere Werte nicht teilen.
Fazit: Die Notwendigkeit der Selbstkorrektur
Yuval Noah Hararis „Nexus“ ist ein Weckruf. Das Buch macht deutlich, dass wir uns in einer entscheidenden Phase der menschlichen Evolution befinden. Wir haben Milliarden von „Hexenbesen“ und „algorithmischen Geistern“ beschworen, die wir nicht mehr vollständig kontrollieren können.
Die Lösung liegt laut Harari nicht in blindem Technologiepessimismus, sondern im bewussten Design unserer Informationsnetzwerke. Wir müssen sicherstellen, dass wir starke selbstkorrigierende Mechanismen in unsere KI-Systeme und Institutionen einbauen. Wir dürfen nicht zulassen, dass anorganische Intelligenzen unkontrolliert über den Informationsfluss und damit über die Grundlage unserer intersubjektiven Realitäten bestimmen.
„Nexus“ ist kein leichtes Buch, aber ein zutiefst wichtiges. Es bietet die historische Tiefe und die analytische Schärfe, die wir brauchen, um die Herausforderungen des KI-Zeitalters nicht nur zu verstehen, sondern ihnen auch aktiv begegnen zu können.
