„The Age of AI and Our Human Future“, von Henry A. Kissinger, Eric Schmidt und Daniel Huttenlocher, Verlag Little, Brown and Company, 30 US-Dollar, Erscheinung November 2021, 230 Seiten
Zahlreiche namhafter Autoren haben sich bereits zu Künstlicher Intelligenz (KI) geäußert. Je mehr Bücher darüber erscheinen, desto häufiger wiederholen sich die Thesen, Verheißungen und Befürchtungen. Einige dieser Bücher wurden bei BytesForBusiness auch bereits vorgestellt, wobei die Bücher je im Kern auf einige Kernthesen fokussiert sind: Die Zukunft der Arbeit (vgl. The Technology Trap von Carl Benedikt Frey), Geopolitik in der Ära der KI-Supermächte USA und China (vgl. Neues Wagen. Deutschlands digitale Zukunft zwischen den USA und China oder AI-Superpowers. China, Silicon Valley und die Neue Weltordnung), das Risiko einer Superintelligenz bzw. einer unkontrollierten Entwicklung von KI (vgl. Superintelligenz von Nick Boström oder The Big Nine) oder die Bedeutung von KI für das neue Selbstbild des Menschen (vgl. Künstliche Intelligenz und der Sinn des Lebens von Richard David Precht). Um nur einige zu nennen – Mehr unter dem Punkt „Zum Weiterlesen“ am Ende des Blogbeitrags.
Bietet das hier vorgestellte Buch nun eine neue Perspektive, neue Antworten? – Tatsächlich wartet das Buch mit einer These auf, die das Buch klar abheben von anderen Publikationen zum Thema. Dazu gleich mehr …
The Age of AI and Our Human Future – Das Autorenteam
Zunächst lohnt ein Blick auf das Autorenteam, das mit schillernden Namen besetzt ist. Da wäre Eric Schmidt, ehemaliger Executive Chairman von Google und Autor des Buches Das neue Digitale Zeitalter. Immerhin ist dieses Buch zum Zeitpunkt der Veröffentlichung (2013) der erste ernstzunehmende Versuch, die Auswirkungen der digitalen Revolution auf unser Leben, die Wirtschaft und die Politik umfassend abzustecken.
Nicht minder bekannt ist Henry A. Kissinger, Nationaler Sicherheitsberater (1969 bis 1973) und ehemaliger US-Außenminister (1973 bis 1977). Er galt als Vertreter einer harten gewaltbereiten Realpolitik, wirkte aber auch als Architekt der Entspannung im Kalten Krieg: 1973 erhielt er gemeinsam mit Lê Đức Thọ den Friedensnobelpreis für ein Waffenstillstands- und Abzugsabkommen mit Nordvietnam.
Der dritte Co-Autor, Daniel Huttenlocher machte eine akademische Karriere am MIT und Cornell University. Zudem ist er CTO eines Fintech Start-Ups und sitzt unter anderem im Aufsichtsrat von Amazon.
Geschichte der KI-Entwicklung, Funktionsweise und praktische Bedeutung von KI
Zunächst einmal ist es interessant festzustellen, dass ein Buch über Künstliche Intelligenz (KI) Ende des Jahres 2021 nicht darauf verzichtet bzw. verzichten kann, die Entwicklungsgeschichte von KI (nochmals) darzustellen und die Funktionsweise von KI zu erläutern. Das ist nachvollziehbar, denn Wissen über die Funktionsweise von KI ist noch keineswegs Teil der Allgemeinbildung – und auch für Leser*innen aus der Digitalindustrie kann ein bißchen Auffrischung nicht schaden.
Die Leserschaft erfährt also einiges über Deep Neural Networks, den hohen Energieaufwand beim Training von großen KI-Modellen (mittels Backpropagation). Die Autoren führen Begriffe ein wie Überwachtes Lernen (supervised learning), Unüberwachtes Lernen (unsupervised learning) oder Reinforcement learning. Und beim Thema „Translation Engines“ habe ich etwa dazugelernt, dass die Methodik der “Parallel Corpora“ eben nicht mehr erfordert, dass bestimmte Texte in mehreren Sprachen vorliegen müssen. Wir lesen über Deep Fakes ebenso wie über Generative Adversarial Network (GAN).
Die Autoren führen einige interessante Beispiele über den Einsatz von KI an. Die Entdeckung eines neuen Antibiotikums, Halicin, mithilfe von KI. Oder die massive Reduktion des Energieverbrauchs in der Größenordnung von 40% in Google‘s Rechenzentren durch einen KI-Algorithmus von DeepMind; und zwar erst nachdem bereits ein Team von Top-Ingenieuren eine Reihe von Effizienzmaßnahmen umgesetzt hatte. AlphaZero dürfte sicherlich den meisten Lesern ein Begriff sein: Dieser KI-Algorithmus kannte lediglich die Regeln des Schach, und hat daraufhin eine eigene Spielstrategie entwickelt, indem er Tausende von Partien gegen sich selbst spielte. Das Ergebnis: Ein geradezu unschlagbarer KI-Algorithmus, der Spielstrategien einsetzt, die in der jahrhundertealten Geschichte des Schach ohne Beispiel sind.
Die Autoren wagen sich in ihren Betrachtungen gefühlt über einen Zeithorizont von etwa 20 Jahren nicht hinaus, hier finden sich insbesondere keine Superintelligenz-Szenarien. Das Autorenteam stellt etwa fest: ”AI does not possess what we call common sense.” (p. 81) Und mit hoher Wahrscheinlichkeit würde KI auch kein eigenes Bewusstsein entwickeln: “One day, AI may be able to write their own code. For now, efforts to design such AIs are nascent and speculative. Even then, however, AIs would not likely be self-reflective; their objective functions would still define them.” (p. 84) Gleichwohl gilt, dass sich die Entwicklungsdynamik bei KI-Modellen fortsetzen wird: ”It is reasonable to expect that over time, AI will progress at least as fast as computing power has, yielding a millionfold increase in fifteen to twenty years. Such progress will allow the creation of neural networks that, in scale, are equal to the human brain. (…) Of course, scale does not translate directly to intelligence. (…) some primates have brains similar in size to or even larger than human brains, but they do not exhibit anything approaching human acumen.” (p. 87)
Kurzum: Eine kurzweilige Einführung zu KI. Das Buch diskutiert im Weiteren eine Reihe von praktischen Anwendungsbereichen, von Globalen Netzwerken (Kapitel „Global Network Platforms“) bis zu militärischen Einsatzfeldern (Kapitel „Security and World Order“). Und im Kapitel „AI and Human Identity“ betrachten die Autoren das Zusammenspiel bzw. die Partnerschaft von KI und Mensch, das neue Selbstverständnis des Menschen im „Zeitalter von KI“.
Nun komme ich aber auf die Hypothese des Buches zu sprechen, die das Buch klar abhebt von der Vielzahl an Publikationen zum Thema KI.
Kernthese des Buches: KI als Katalysator für einen erweiterten Begriff von Realität
Der Titel des Buches deutet bereits an, dass die Autoren ein Thema von großer Tragweite behandeln: „The age of AI“ – „Das Zeitalter der KI“. Dieser Titel ist sicherlich in Teilen den Zwängen der Aufmerksamkeitsökonomie geschuldet, aber tatsächlich sehen die Autoren den Beginn einer neuen Epoche eingeläutet.
Wer an einen Titel wie „Zeitalter der KI“ denkt, der mag zunächst denken an Superintelligenz, Posthumanismus, Transhumanismus: Dazu fallen einem Autoren ein wie Nick Boström (und das Buch Superintelligenz) oder an James Lovelock (mit dem Buch Novozän). Oder man denkt an ein Zeitalter der Hyper-Automatisierung, an ein Schlaraffenland ohne Arbeit. Aber genau um diese Aspekte geht es den Autoren eben nicht. Für Kissinger, Schmidt und Huttenlocher ist Künstliche Intelligenz (KI) nicht einfach höhere Effizienz, mehr Automatisierung und mehr Convenience. Sondern deutlich mehr. Und in ihrer Argumentation holen die Autoren hier sehr weit aus.
Das Buch liefert einen kurzen Abriss der Geschichte zur Evolution unseres Realitätsbegriffs, zur schrittweisen Vertiefung unseres (wissenschaftlichen) Verständnis unserer Realität, ja auch von Erkenntnistheorie. Das Buch erzählt etwa vom Höhlengleichnis Platons, wonach die Dinge nur ein Abbild einer höheren Realität darstellten; das Buch hebt die Renaissance hervor, in der der Mensch und der menschliche Geist („Cogito ergo sum“) zum Motor der Erkenntnisgewinnung wird. Das Projekt der Encyclopédie in Frankreich ist nur ein Beispiel, das den Aufbruchsgeist dieser Epoche beschreibt. Natürlich darf auch der Königsberger Philosoph in dieser Geschichte der Erkenntnistheorie nicht fehlen: In seinem Standardwerk „Kritik der reinen Vernunft“ konstatiert er, dass dem Erkenntnisdrang des Menschen Grenzen gesetzt sind: “According to Kant’s account, human reason had the capacity to know reality deeply, albeit through an inevitably imperfect lens. Human cognition and experience filters, structures, and distorts all that we know, even when we attempt to reason ‘purely’ by logic alone. (…) the human mind relies on conceptual thinking and lived experience (…).” (p. 42, 43)
Man ahnt schon die Pointe der Autoren: Künstliche Intelligenz hilft dem Menschen, Realität in neuer Weise zu durchdringen und bislang unzugängliche Aspekte von Realität zu erschließen: ”But AI is beginning to provide an alternative means of accessing – and thus understanding – reality.” (p. 44). Die Autoren sehen KI nicht als bloße „Effizienztechnologie“, die nur Katalysator einer weiteren Automatisierung von Produktion darstellt; KI ist – nach Ansicht der Autoren – mehr als Automatisierung und Convenience.
Zur Stützung dieser These verweisen die Autoren etwa auf AlphaZero, das für das „jahrtausendealte Schachspiel“ neue Strategien entwickelt, die für Schachspieler bislang jenseits menschlicher Logik bzw. jenseits menschlichen Strategiedenkens lag. KI erschließt also eine völlig neue Dimension des etablierten Spiels. So die Hypothese. “The advent of AI obliges us to confront whether there is a form of logic that humans have not achieved or cannot achieve, exploring aspects of reality we have never known and may never directly know. When a computer that is training alone devises a chess strategy that has never occurred to any human in the game’s millennial history, what has it discovered, and how has it discovered it? What essential aspects of the game, heretofore unknown to human minds, has it perceived.?”
Ein weiteres Beispiel der Autoren zur Stützung der These: Die Entdeckung des Antibiotikums „Halicin“, das durch Analyse riesiger Datenmengen gelang. Der KI-Algorithmus hat hierbei Korrelationen identifiziert, die auf eine anti-biotische Wirkung hindeuten (und gleichzeitig keine toxische Wirkung im Körper des Menschen entfalten), die in der Pharmaforschung bislang unerkannt blieben. Fazit: ”(…) in many cases, AI will suggest new solutions or directions that will bear the stamp of another, nonhuman, form of learning and logical evaluation.” (p 23)
Es ist in jedem Fall eine spannende und diskussionswürdige Hypothese. Man kann die Rolle von KI aber auch durchaus anders interpretieren.
Diese Hypothese weist grundsätzlich mit der Hypothese vom sogenannten „Vierten Paradigma der Wissenschaft“ eine relevante Schnittmenge auf. Hiernach folgte die Wissenschaft in ihrer evolutionären Entwicklung verschiedenen Paradigmen: Zunächst war Wissenschaft deskriptiv und empirisch (Erstes Paradigma), dann theoretisch (Zweites Paradigma). Darauf folgte das „computationale“ Paradigma (Drittes Paradigma), was soviel heißt wie: Führe Computersimulationen mit ungefähren Ergebnissen durch (Beispiel: Klimasimulationen). Eine rein datenbasierte Wissenschaft würde dem „Vierte Paradigma“ entsprechen. Das Paradoxe: Die Realität lässt sich zwar exakt beschreiben (und ggf. vorhersagen), aber man versteht die Kausalitäten und Zusammenhänge nicht mehr (vgl. auch das Black-Box-Problem).
Die offensichtliche Schwachstelle dieser Hypothese liegt in einem eher willkürlichen Gedankensprung: Wissenschaft hat seit jeher Daten über unsere Realität gesammelt. Die vor-antike Astronomie wäre ohne Aufzeichnungen zu den Bewegungen am Himmelszelt (Datenpunkten!) nicht denkbar. Oder werfen wir einen Blick auf das CERN: Hier wird mit Milliardenaufwand eine wissenschaftliche Apparatur geschaffen, die am Ende des Tages petabyteweise Daten generiert, die uns (hoffentlich) mehr über Materie und subatomare Strukturen verratenwerden. Wissenschaft bzw. der Erkenntnisdrang des Menschen war schon immer datenbasiert. Aufgrund einer gigantischen Kostendegressen bei Datenspeicherung und Datengenerierung erleben wir zwar gegenwärtig die Ära von „Big Data“ – aber das Prinzip des Datensammelns ist nicht neu.
Was ebenfalls nicht neu ist: Der Mensch entwickelt bereits seit der Vor-Antike wissenschaftliche Instrumente zur Datengenerierung und Auswertung. Weltraumteleskope, Sextanten, Mikroskope, Thermometer oder Waagen. Für die Auswertung etwa die Mathematik. Funktionell ist auch KI ein vom Menschen kreiiertes Instrument, um die zunehmenden Datenmengen effizient auswerten zu können. Etwa für die Entdeckung des Antibiotikums Halicin. Da es sich um statistische Korrelationen handelt, die ermittelt werden, müsste man im Grunde auch eher das „Zeitalter der Mathematik“ bzw. das „Zeitalter der Statistik“ ausrufen. Ein Freund von mir würde fragen: „Ist das nicht eine rein akademische Diskussion?“ – In gewisser Weise schon. Ich wäre nur vorsichtig, die heutige (schwache) KI in dieser Weise zu überhöhen, wie dies hier getan wird. Das wird dem Menschen als Entwickler der KI nicht ganz gerecht, wenn die Autoren schreiben: “As we are growing increasingly dependent on digital augmentation, we are entering a new epoch in which the reasoning human mind is yielding its pride of place as the sole discoverer, knower, and cataloger of the world’s phenomena.” (p. 50)
Dass KI tatsächlich eher ein „Instrument“ bzw. ein „technologisches Hilfsmittel“ bei der Erkenntnisgewinnung ist, dafür spricht eine Passage im Schlusskapitel des Buches: “AI and other emerging technologies (such as quantum computing) seem to be moving humans closer to knowing reality beyond the confines of our own perception.” Hier erscheint KI im Grunde genommen unter ferne liefen in einer Aufzählung leistungsfähiger High-Tech Technologien, die dem Menschen und seinem Erkenntnisdrang zuhilfe kommen könnten.
The Age of AI and Our Human Future – Und sonst?
Das Buch kreist selbstverständlich nicht ausschließlich um diese Hypothese, aber hierauf wird immer wieder einmal referenziert. Ein wichtiges Themenfeld des Buches ist etwa die Weltordnung und damit verbundene Sicherheitsfragen. Die Autoren diskutieren etwa das (Horror)Szenario autonom agierender Militärdrohnen. Gleichermaßen stellt das Buch die Frage, wie Strategien zu bewerten sind, die in Konfliktsituationen von einer KI entwickelt werden, welche sich einer menschlichen Logik nicht (mehr) erschließen (analog zu den neuartigen Strategien von AlphaZero beim Schachspiel); sollte man eine solche Strategie verfolgen, auch wenn solche Strategien gerade zu Beginn mit Opfern verbunden sind (AlphaZero hat bei seinen Strategien durchaus auch im frühen Spielstadium die Figur der Dame geopfert, was in einem klassischen Schachhandbuch wohl ein absolutes NoGo bilden würde)? Eine zweifellos spannende Frage.
An der Stelle sei auch darauf hingewiesen, dass die Autoren vor allem eine Bestandsaufnahme machen. Es geht ihnen darum, das komplexe Gefüge transparent machen, in dem KI zum Einsatz kommt oder zum Einsatz kommen könnte. Sie werfen zahlreiche Fragen, können gleichzeitig nur selten Antworten geben, denn einfache Antworten gibt es selten. Wo das Buch Empfehlungen formuliert, sind diese freilich aus der aktuellen Diskussion bekannt. Etwa zur Qualitätssicherung von KI-Algorithmen: ”for example, societies could permit an AI to be employed only after its creators demonstrate its reliability through testing processes. Developing professional certification, compliance monitoring, and oversight programs for AI – and the auditing expertise their execution will require – will be a crucial societal project.” (p. 82) Vergleiche dazu auch den Blogpost: Europäische Regulierung von KI: Der Stand der Dinge und der Brüssel-Effekt
Im Kapitel „Global Network Platforms“ arbeiten die Autoren zum einen heraus, welche Relevanz KI für das Management der Plattform hat; zum anderen, welche Herausforderungen sich für den Einsatz von KI ergeben. Hier gilt etwa: ”For Facebook, the number of removals is currently on the order of roughly one billion fake accounts and spam posts per quarter as well as tens of millions of pieces of content involving nudity or sexual activity, bullying and harassment, exploitation, hate speech, drugs, and violence.” (p. 100, 101). Die Herausforderungen bei dieser „automated curation“ sind vielfältig: Wo etwa endet die Meinungsfreit, wo beginnt Zensur? Welche Werte werden bei der „automated curation“ zugrunde gelegt, wer bestimmt diese Wert? Auch die problematischen ethischen Aspekte rund um Globale Netzwerkplattformen werden adressiert, von Cambridge Analytica bis hin zu den Enthüllungen einer Whistleblowerin wie Frances Haugen. In diesem Kapitel wird schnell deutlich, dass der Betrachtungsgegenstand der Autoren nicht allzu eng auf „KI“ gesetzt wird; denn die Basistechnologie globaler Netzwerke ist das Internet – nicht Künstliche Intelligenz; auch wenn letztere Technologie in jüngerer Zeit verstärkt zur Aussteuerung eingesetzt wird.
Ein weiteres Schwerpunktthema des Buches sind die Weltordnung und Sicherheitsfragen. Diese Perspektive des Buches profitiert zweifelsohne von den Erfahrungen des Autors Henry Kissinger. Das Thema gewinnt zunehmend an Brisanz; in einem Handelsblatt-Interview erklärte jüngst Nicolas Chaillan, Ex-Softwarechef des Pentagons,: “Wir lassen zu, dass China etwa bei der KI, bei Cybersecurity und beim Einsatz innovativer Software nicht nur aufholt, sondern das Feld anführt. “ Der Ex-Softwarechef des Pentagons stellt fest, dass die USA das Wettrennen um Zukunftstechnologien wie Künstliche Intelligenz (KI) oder Cybersecurity verlören. Auch Plattformen wie TikTok seien dabei Instrumente der Informationsgewinnung, die etwa für Wahlmanipulationen eingesetzt werden könnten. So ist es keine Überraschung, dass auch die Autoren des Buches künftig mehr geopolitische Auseinandersetzungen und regulatorische Aktivitäten rund um Plattformen erwarten.
