Das neue Buch von Richard David Precht ist unterhaltsam, intelligent, bereichernd – und darum unbedingt lesenswert. Der Philosoph und Publizist liefert hierbei ein emotionales, leidenschaftliches Plädoyer wider ideologische Strömungen wie Posthumanismus und Transhumanismus. Precht hinterfragt insbesondere aus der Perspektive der Philosophie, der Sozialpsychologie, der Evolutionsgeschichte und weiteren Disziplinen unseren Blick auf Künstliche Intelligenz und unsere Erwartungen an diese Technologie. Das Buch würde ich (mindestens in Teilen) auch als Streitschrift bezeichnen. Allen Positionen des Autors Precht kann ich mich nicht anschließen (und Precht würde ein so kritikloses Konsumieren sicherlich nicht wollen), aber es überwiegen klar die bereichernden Gedankenimpulse. Außerdem ist der Philosoph und Talkshowmaster auch ein Meister der Sprache, kurz: Die Lektüre ist ein ästhetischer Genuss.

“Künstliche Intelligenz und der Sinn des Lebens“ von Richard David Precht, Goldmann Verlag, 240 Seiten, 1. Auflage Juni 2020, Gebundenes Buch 20 Euro

Richard David Precht deckt hier ein breites Spektrum an Themen ab, auf einige zentrale Thesen gehe ich weiter unten auch im Detail ein. Im Mittelpunkt steht zweifelsohne eine anthropologische Bestandsaufnahme: Was macht den Menschen aus, was macht glückliches Leben aus?: Die Herausbildung unserer Werte, unsere Fähigkeit zur Orientierung in einer komplexen (sozialen) Umwelt, die Quellen von Sinn für menschliches Leben und derlei mehr. Dies setzt Precht ins Verhältnis zur Künstlichen Intelligenz, grenzt ab und erstellt – salopp formuliert – Stärken-Schwächen-Profile.

Das Buch stellt auch Überlegungen zum Szenario einer Superintelligenz an sowie zum Narrativ von Posthumanismus und Transhumanismus. Weitere Kapitel (treffender: kritische Gedanken) sind dem „Ethischen Programmieren“ gewidmet sowie dem Autonomen Fahren. Das Buch kann man durchaus verstehen als komplementäre Fortführung zu seinem Bestseller „Jäger, Hirten, Kritiker. Eine Utopie für die digitale Gesellschaft“ aus dem Jahr 2018.

Richard David Precht: Über den Menschen im Verhältnis zur Künstlichen Intelligenz

Der Autor Precht macht also zunächst eine anthropologische Bestandsaufnahme: Die Grundbedürfnisse. Die grundlegende Motivation. Precht beschreibt ebenfalls die Herausbildung von Intelligenz beim Menschen, die spezifischen Eigenschaften menschlicher Intelligenz. Dies setzt er ins Verhältnis zur Künstlichen Intelligenz.

Der Autor stellt fest: Menschen sind in ihrem Selbstverhältnis Erzähler und damit abhängig von Geschichten. (S. 34) Es geht dem Menschen um eine sinnhafte bzw. sinnstiftende Geschichte für das eigene Leben – und nicht etwa einfach um Glück. Schon gar nicht einfach um ein hedonistisches, flüchtiges Glück des Augenblicks. Precht zieht dafür auch das Beispiel der Elternschaft heran: Nach einer bekannten Studie der Sozialpsychologie bereiten Kinder den Eltern mehr Sorgen als Glück. Doch darum geht es nicht (allein). Kinder stiften Sinn und Bedeutung, das ist entscheidend.

Es ist auch nicht zutreffend, dass der Mensch von seinem inneren Wesen her getrieben ist, immer mehr Erkenntnis zu gewinnen und immer höhere Intelligenzleistungen zu erreichen. Das unterstellen etwa Posthumanisten und Transhumanisten (dazu weiter unten mehr). Die Fähigkeit menschlichen Problemlösen wäre also nicht auf immer mehr Erkenntnis ausgerichtet, sondern darauf, sich in einem komplexen (sozialen) Umfeld zu orientieren, sich wohlzufühlen. Spöttisch kommentiert Precht: “Tatsächlich hat sich die Spezies Homo sapiens nicht von einem höheren Drang getrieben kontinuierlich zu immer größeren Intelligenzleistungen entwickelt. Die meisten Angehörigen der Spezies werden von deutlich anderen Motiven beseelt. Und die Anzahl derer, deren Intelligenz sie zu Höchstleistungen beflügelt, ist überschaubar. Viele Vertreter der Spezies gucken weit lieber Fußballspiele an, schwimmen im warmen Meer, trinken Bier, lesen Krimis und fotografieren sich unausgesetzt selbst, anstatt ihre Intelligenz maßlos zu steigern. Der Drang, posthuman zu werden, ist nur bei den Allerwenigsten spürbar, von einem inwendigen Menschheitsbedürfnis keine Spur.“ (S. 96)

Man müsse sich – so warnt Precht – vor den metaphysischen Narrativen von Posthumanismus oder Transhumanismus in Acht nehmen. Sinn sei etwas, das nur auf der Ebene des einzelnen Individuums entstehen könne. Das sei eine bis heute gültige Erkenntnis der Erkenntnisphilosophie, und zwar von Soeren Kierkegaard. Sinn lasse ich als objektive Ordnung dem Leben nicht vorgeben. “Zu einem bestimmten Sinn bekannt man sich oder nicht, man wählt ihn aus, man interpretiert ihn. Sinn ist immer individuell und damit das Gegenteil von allgemein. Und die einzige Instanz der Sinngebung ist, wie Kierkegaard sagt, das Individuum.“ (S. 110)

Ein sehr zentraler Beitrag von Precht in dem Buch (zumindest aus meiner Sicht) besteht darin, die menschliche Kultur und Technologie ins Verhältnis zu setzen. Anders formuliert: Der Autor bestimmt hier die Relevanz von Technologie für die menschliche Kultur. Und sein Urteil ist klar: Technologie ist Nice-to-Have, Technik ist keine conditio sine qua non der menschlichen Kultur. “Effektiver Waffentechnik in der Steinzeit ermöglichte größere Beute und damit Zeit für Geselligkeit, Malerei, Tanz, Musik, Religion etc. Gemeinschaften und Gesellschaften werden bis heute nicht durch die Technik selbst, sondern durch gemeinsame Sprache, gemeinschaftsstiftende Erzählungen, Bilder und Musik zusammengehalten. Gemeinschaften sind Erlebnis- und Reflexionsräume. Sie schaffen Selbstvergewisserung und stiften damit Identität. Zu alledem kann die Technik dienen, aber von sich aus bringt sie keine Kultur hervor.“ (S. 107)

Dieser anthropologischen Selbstbestimmung setzt Precht nun die Künstliche Intelligenz gegenüber. Sie sei regelbasiert – und damit hat er Recht, denn die heutige sogenannte „Schwache KI“ basiert auf Mustererkennung, auf statistischen Korrelationen. Wenn Precht nun formuliert, die Künstliche Intelligenz habe „einen Tunnelblick, im Zwischenmenschlichen ist sie schnell überfordert.“ (S. 36), dann stimmt das für eben diesen Stand der Technik. Diese Aussage trifft möglicherweise nicht mehr auf die nächste evolutionäre Stufe von KI zu, der „Starken KI“. Hier finde ich die Argumentation von Precht in Teilen nicht überzeugend.

An anderer Stelle verweist er darauf, der Mensch allein könne freie Entscheidungen treffen – nicht aber die KI. Auch hier regt sich bei mir Widerspruch. Und ich wundere mich, dass ausgerechnet Precht, der sich weit mehr mit Gehirnforschung befasst hat als ich, hier so schlampig argumentiert. Ich verwiese hier nur auf eine Passage aus dem Buch ”Homo Deus” (Yuval Noah Harari): ”Today we can use brain scanners to predict people’s desires and decisions well before they are aware of them. In one kind of experiment, people are placed within a huge brain scanner, holding a switch in each hand. They are asked to press one of the two switches whenever they feel like it. Scientists observing neural activity in the brain can predict which switch the person will press well before the person actually does so, and even before the person is aware of their own intention. Neural events in the brain indicating the person’s decision begin from a few hundred milliseconds to a few seconds before the person is aware of this choice. The decision to press either the right or left switch certainly reflected the person’s choice. Yet it wasn’t a free choice. (…) I don’t choose my desires. I only feel them, and act accordingly.” (p 284f). Kurz: Der “freie Wille” des Menschen wird kontrovers diskutiert, ich hätte mir gewünscht, dass Precht dies wenigstens andeutet.

Richard David Precht: Zum Szenario einer Superintelligenz

“Der Zyklon vermag eine Stadt wegzufegen, aber nicht einmal einen Brief zu entsiegeln oder den Knoten einer Schnur zu lösen.“ – Paul Valéry.

Dieses Diktum stellt der Autor ganz an den Anfang seines Buches. Eine treffende Metapher für die Skepsis des Autors hinsichtlich des Szenarios einer Superintelligenz.

Precht hat grundsätzlich Zweifel, ob die technische Entwicklung einer solchen Superintelligenz jemals in Reichweite kommt – wie viele andere übrigens auch. Von seinen zahlreichen Gedanken zu einer Superintelligenz möchte ich nur zwei vorstellen.

Zum einen stellt Precht die naiv-unschuldige Frage, was denn der Mehrwert wäre einer Superintelligenz, die Lösungen für die Weltprobleme vorschlägt. Etwa für die drohende ökologische Katastrophe von Klimawandel und Artensterben. Denn: Was nützte eben diese Lösung einer Superintelligenz, wenn Machthaber wie Trump und Bolsonaro ungeachtet eines solchen Lösungsvorschlags einer ganz anderen Logik der Macht und des Geldes folgen?

Zum anderen stellt der Autor das vielbeschworene Szenario des Endkampfes einer Superintelligenz mit der Menschheit in Frage. Aus seiner Sicht führten Schreckensszenarien aus Hollywood, die zum Zweck der Unterhaltung entwickelt wurden, die Forschung und den öffentlichen Diskurs völlig in die Irre. Vergleiche dazu auch den Überblick zu Filmen über Künstliche Intelligenz. Precht hinterfragt dieses Endzeit-Szenario, er fragt: “Warum sollte eine KI, die unendlich intelligent ist, unbedingt expandieren wollen? Im Gegensatz zu biologischen Lebewesen braucht sie nicht zu essen und auch keinen größeren Lebensraum.“ (S. 120).

Der Autor argumentiert, die Evolution habe zunächst Triebe und Willensimpulse hervorgebracht; höhere Bewusstheit und planmäßige Intelligenz dagegen seien erst später hinzugekommen. Der Selbsterhaltungstrieb sei in den Trieben und Willensimpulsen verankert – nicht in der planmäßigen Intelligenz. Es sei mithin zweifelhaft, wie sich aus maschineller Intelligenz ein Wille, Triebe oder gar Machtgelüste entwickeln sollten. Eleganter formuliert: “Ohne Gefühlsimpulse wäre unsere Rationalität arbeitslos. Auch ein Mathematiker, der eine logische Operation oder eine Rechenleistung vollzieht, braucht zuvor die Motivation, dies zu tun. Oder mit Martin Seel gesagt: ‚Wer keine Neigungen hat, die er mag, findet keinen Willen, den er will‘.“ (S. 124)

Richard David Precht: Wider den Posthumanismus und Transhumanismus

Besonders angriffslustig zeigt sich der Autor Richard David Precht im Kapitel zu Posthumanismus und Transhumanismus. Hierbei gilt: Der Transhumanismus setzt auf Enhancement, also darauf, den Menschen zu verbessern (Elon Musk, Nick Bostrom). Für den Posthumanismus (Schmidhuber) ist der Mensch gar nur eine Entwicklungsstufe der Evolution. Hiernach beginnt das Zeitalter der Superintelligenz, die sich anschickt, den Weltraum zu erobern.

Der Mensch ist im Szenario der Posthumanisten lediglich Steigbügelhalter auf dem Weg zur nächsten Evolutionsstufe. Und zwar einer Evolution, die im Verständnis der Posthumanisten auf eine kontinuierliche Steigerung von Intelligenz ausgerichtet ist. Hier jedoch – so Precht – zeigt sich ein verzerrtes Verständnis von Evolution. Es gibt keine zielgerichtete Evolution, keinen festgelegten Richtungssinn. Das ist ein falsches metaphysisches Narrativ der Posthumanisten, das jeder Grundlage entbehrt. Evolution hat zwar Intelligenz hervorgebracht, ist selbst aber nicht intelligent. “Dass alles Leben nach mehr und mehr Intelligenz strebt, weil dies in der Logik der Evolution liege, ist an Muscheln, Farnen und Salamandern jedenfalls nicht abzulesen.“ (S. 93)

Richard David Precht: Wachstumskritik, Kapitalismuskritik

Kapitalismuskritik zählt seit jeher zum festen Repertoire bei Precht. Er arbeitet im Zusammenhang mit der Digitalisierung dabei Beobachtungen und Kritikpunkte heraus, die man durchaus ernst nehmen sollte. So kritisiert der Autor: “Die systematische Unzufriedenheit mit dem Erreichten ist eine kapitalistische Notwendigkeit; psychologisch und ökologisch allerdings ist sie eine Pathologie unserer Kultur.“ (S. 50) und “Die meisten Menschen würden ihr Alltagsleben nicht als das unentwegte Lösen von Problemen sehen. Man hat halt irgendwie zu tun. Künstliche Intelligenz markiert ganz gezielt Probleme und rückt sie als solche ins Bewusstsein. Die Digitalisierung hat die Zahl der Alltagsprobleme auf diese Weise dramatisch erhöht. Vieles, was früher nie als Problem identifiziert wurde, ist auf einmal eins.“ (S. 138) Zumal es uns Menschen nicht darum geht, „optimal“ zu leben, sondern zufrieden. Das ist nicht das Gleiche.

“Dass Menschen auch andere Antriebe haben als eine unstillbare Gier nach einem Mehr und menschliche Gesellschaften sich nicht notwendig ausbreiten wie Seuchen und Epidemien, kommt in diesem Weltbild nicht vor. Doch keine Wissenschaft, weder die Wirtschaftspsychologie noch die Verhaltensökonomik, weder die Sozialpsychologie noch die Soziologie, kann diese Sicht bestätigen. Ihnen zufolge ist bei befriedigten Grundbedürfnissen der größte Antrieb von Menschen der Drang nach Anerkennung und nicht der nach Expansion. (…) Der Drang zum Mehr ist kein Urtrieb, sondern eine Logik unserer Ökonomie.“ (S. 81)

Gerade im Hinblick auf die ökologische Herausforderung, vor der wir stehen, ist die Hinterfragung der Regeln in unserer gegenwärtigen Wirtschaftsordnung dringend geboten. Dabei gilt: Einerseits mobilisiert die gegenwärtige Wirtschaftsordnung eine Innovationsdynamik und Wohlstandsmehrung, die in der Geschichte der Menschheit einmalig ist. Andererseits mobilisiert diese Ordnung Gier und Konsum in einem Maße, der ökologisch und sozial die Belastbarkeitsgrenzen des Systems längst überschritten hat. Ich halte es zur Lösungsfindung allerdings nicht für zielführend, wenn Kapitalismuskritik im Gewand des Generalverdachts daherkommt. So formuliert der Autor Precht etwa: “Der Zweck der Durchdringung von Welt und Menschen mithilfe von KI ist nicht, Menschenleben besser zu machen, sondern Gewinne zu erzielen und zu steigern.“ (S. 48) und: “Digitalen Überwachungskameras entgehen kein Gesicht, keine Stimme und kein Kaufverhalten. Aktien, Währungen, Versicherungen und private Renten hängen an den Algorithmen des Hochfrequenzhandels. Alles, aber auch restlos alles, am Menschen lässt sich zur Ware machen und verspricht Fantastilliarden an Umsatz und Gewinn.“ (S. 44f)

Natürlich wäre es naiv zu glauben, ein Jeff Bezos würde seine unternehmerische Vision vor allem deshalb verfolgen, um die Menschheit in eine neue Ära des Wohlstands und sozialen Gerechtigkeit zu führen. Keineswegs. Gleichwohl sollte man darüber nicht gleich die digitale Technologie in Bausch und Bogen verdammen. Nicht hinter jedem Erfindergeist steckt ein gieriger Unternehmer. In dieser Logik müssten wir auch annehmen, dass Pflug und Wasserrad von raffgierigen Unternehmern in die Welt gebracht wurden. Ebenso das Penicillin, der Röntgenapparat. Wer den Kapitalismus abschaffen will, sollte – ganz nach dem Prinzip des konstruktiven Misstrauensvotums – erst einmal einen alternativen Systemvorschlag machen. Ich etwa halte hier die Denkanstöße von Thomas Piketty in seinem aktuellen Werk Kapital und Ideologie für diskussionswürdig. Piketty, ein Ökonom, will hierbei nicht den Kapitalismus abschaffen, sondern die Regeln verändern.

Richard David Precht: Über den Strukturwandel auf dem Arbeitsmarkt

Precht weist richtigerweise darauf hin, dass Menschen – im Gegensatz zu Computern – gar nicht regelbasiert dächten. Er bemerkt auch spöttisch, DeepMind habe zwar den Go-Großmeister geschlagen, aber das Programm begreife nicht einmal, was Go ist. Oder warum Menschen überhaupt Go spielten. Geschwiege denn, warum Menschen überhaupt spielten. – Das ist zweifelsohne richtig. Dieser philosophische Einwand spendet allerdings nur wenig Trost, denn zahlreiche Arbeitsprozesse im Wirtschaftsleben sind eben tatsächlich regelbasiert, und darin ist KI schlichtweg ziemlich gut. Selbst die „Schwache KI“, mit der wir es heute zu tun haben. Und darum bedroht Automatisierung und Robotisierung zahlreiche Arbeitsplätze.

Den mit der Digitalen Ökonomie verbundenen Strukturwandel des Arbeitsmarktes adressiert Precht in diesem Werk nicht. Das Szenario eines „Verschwindens der Erwerbsarbeit“ hat er bereits in seinem Buch „Jäger, Hirten, Kritiker“ diskutiert. Hierbei hat er auch seine (befürwortende) Position zum Bedingungslosen Grundeinkommen (BGE) formuliert.

Nun mag der Autor Precht implizit auf die Behandlung dieses Aspekts in dem Vorgängerbuch verweisen; dennoch halte ich diese Leerstelle in diesem aktuellen Buch für eine Schwäche. Warum? Precht hat sehr überzeugend ausgeführt, dass der Mensch nicht auf ein „optimiertes“ Leben hinarbeitet, sondern dass es um eine stimmige Erzählung für das eigene Leben gehe. Um Identität. Und just diese Identität wird heute sehr wesentlich von der beruflichen Tätigkeit begründet. Die Vermächtnisstudie von Jutta Allmendiger unterstreicht diese identitätsstiftende Rolle von Arbeit. Und die beiden Wirtschaftsnobelpreisträger Duflo und Banerjee treffen in ihrem Buch Gute Ökonomie für harte Zeiten dazu eine bedenkenswerte Aussage: “Bei einer Studie wurde festgestellt, dass für Arbeitnehmer, die nach langer Unternehmenszugehörigkeit entlassen werden, eine höhere Wahrscheinlichkeit besteht, in den ersten Jahren nach der Kündigung zu sterben. Der Verlust des Arbeitsplatzes bricht manchen Menschen im wahrsten Sinne des Wortes das Herz.“

Schlussbemerkung

Es ist das erste Buch von Precht, in dem er auf eine Inhaltsübersicht verzichtet. Aus meiner Sicht sollte man das für die 2te Auflage ergänzen. Ich selbst verschaffe mir vor der Lektüre gerne einen Überblick zum Themenspektrum eines Buches bzw. zur Argumentationslogik. Gerade für dieses Buch hielte ich eine solche Übersicht zur Orientierung für hilfreich (in Verbindung mit aussagekräftigen Kapitelüberschriften). Denn Precht legt in atemberaubendem Stakkato seine Beobachtungen vor, es ist ein sehr dichter, mit emotionaler Wucht vorgetragener Gedankenfluss.

Mein Fazit bleibt: Ein äußerst lesenswertes Buch. Viel Spaß bei der Lektüre!

Sebastian Zang
Author

Der Autor ist Manager in der Softwareindustrie mit internationaler Expertise: Prokurist bei einem der großen Beratungshäuser - Verantwortung für den Aufbau eines IT Entwicklungszentrums am Offshore-Standort Bangalore - Director M&A bei einem Softwarehaus in Berlin.