Die Futuristin Amy Webb, Gründerin des Future Today Instituts (FTI), hat einen bemerkenswerten Überblick zu vielfältigen (technologischen) Trends – von Extremwetterereignissen über Weltraumtourismus bis zu den Fortschritten bei Künstlicher Intelligenz (KI). Der ”Tech Trend Report” (kostenlos) des Future Today Instituts gibt einen exzellenten Überblick. Das FTI arbeitet mit quantitativen Methoden.

Amy Webb ist exzellent vernetzt in der Tech Szene, besucht regelmäßig das Wirtschaftsforum in Davos, tritt als Rednerin auf diversen Veranstaltungen auf (etwa das SXSW). Und nun hat sie sich entschieden, ein Buch über Künstliche Intelligenz zu schreiben – nicht über Weltraumtourismus, nicht über Extremwetterereignisse. Denn im Bereich Künstliche Intelligenz sieht Amy Webb das größte Potential – und die größten Herausforderungen. Nicht alle Thesen sind neu, das Kontrollproblem bezüglich einer Superintelligenz ist spätestens seit dem Bestseller ”Superintelligenz. Szenarien einer kommenden Revolution” (Erscheinungsjahr: 2014) des Oxford-Professors Nick Bostrom bekannt. Aber die Autorin betrachtet nicht nur das Kontrollproblem, sondern weitere Herausforderungen, sie gibt einen Überblick zu den heute bestehenden Strukturen der (Global) Governance zu KI und liefert Ideen für eine verantwortungsvolle Nutzung dieser Technologie, die zweifellos als Basistechnologie des 21ten Jahrhunderts bezeichnet werden darf, denn diese wird sämtliche Industrien und Anwendungsbereiche durchdringen (und tut dies bereits).

Das Buch hat noch eine weitere, sehr beunruhigende Botschaft: Europa kommt als Player in dieser Zukunft mit KI als Basistechnologie quasi nicht vor. Der Titel „The Big Nine“ bezieht sich auf die neuen Blue Chip Unternehmen der Digitalindustrie (Alibaba, IBM, Amazon, Google, Facebook, Tencent, Microsoft, Apple, Baidu), schon der Titel schließt also Europa aus. Diese „duale Struktur“ der globalen Digitalökonomie kennt man bereits aus Büchern wie „AI-Superpowers. China, Silicon Valley und die Neue Weltordnung“ von Kai-Fu Lee – es macht die Botschaft darum nicht weniger verdaulich. Das Buch ist insofern auch ein Weckruf an das Europäische Leadership.

“The Big Nine. How the Tech Titans & Their Thinking Machines Could Warp Humanity“ von Amy Webb, Verlag PublicAffairs, 265 Seiten, Erscheinungsjahr 2019, 13 Euro für das Taschenbuch

Es gibt übrigens ein sehr hörenswertes Interview mit Amy Webb im Podcast Handelsblatt Disrupt (17. April 2020) mit dem Redakteur Sebastian Matthes. Hier kann man die streitbare und sehr eloquente Futuristin live erleben (so wie natürlich auch auf Dutzenden aufgezeichneten Vorträgen auf YouTube).

Zukunftsszenarien mit der Basistechnologie KI: Herausforderungen

In China unterliegt die Digitalindustrie den strategischen (und systematischen) Plänen der Chinesischen Regierung, zur führenden Technologienation im Bereich KI aufzusteigen sowie einen effizienten Überwachungsstaat zu etablieren. In den USA wiederum – im Gegensatz zu China – gibt es keine vergleichbare KI-Strategie, darum wird die Entwicklung der KI in den USA im Wesentlichen dem Markt überlassen, Treiber ist der Konsumismus. Die Autorin sieht das kritisch: “[Their] financial interests do not always align with what‘s best for our individual liberties, our communities, and our democratic ideals” (S. 6).

Die Autorin hat hierbei ein ambivalentes Verhältnis zur Digitalindustrie, zu denen Amy Webb ohne Zweifel eine enge Beziehung pflegt. So formuliert sie einerseits: “I firmly believe that the leaders of these nine companies are driven by a profound sense of altruism and a desire to serve the greater good: they clearly see the potential of AI to improve health care and longevity.” (S. 4) Andererseits seien die Unternehmen (und bei den chinesischen Unternehmen kommt der Druck aus Peking hinzu) dem Erwartungsdruck der “Wall Street“ (so formuliert es die Autorin gerne) ausgesetzt, und dieser finanzielle Druck könne die humanistischen/altruistischen Ziele verdrängen; es kommt erschwerend hinzu, dass die Werte der Unternehmen keineswegs tief in den Unternehmenskulturen verankert seien, geschweige denn ausreichend detailliert ausformuliert seien, um wirksam sein zu können. Man kann nun von dieser Argumentationsfigur mit dem Sündenbock „Wall Street“ halten was man will – es erlaubt der Autorin auf jeden Fall, dank enger Beziehungen zur Digitalindustrie tiefe Einblicke in die Dynamik zu bekommen, andererseits kann sie kritische Position beziehen.

Die Chinesische Strategie der technologischen Führerschaft (formuliert im Jahr 2017) erzeugt wiederum ihren eigenen Druck – und damit verbunden Sicherheitsrisiken. Amy Webb stellt bestürzt fest: ”Bridges and buildings routinely collapse, roads and sidewalks buckle, and there have been too many instances of food contaminations to list here. (That isn’t hyperbole. There have been more than 500 000 food health scandals involving everything from baby formula and rice in just the past few years.) One of the primary causes for these problems? Chinese workplaces that incentivize cutting corners. It is absolutely chilling to imagine advanced AI systems built by teams that cut corners. (S. 255f)

Dies ist – in aller Kürze – die problematische Grundkonstellation für den Entwicklungspfad der Künstlichen Intelligenz (KI). Es kommen bekannte Herausforderungen hinzu: Das Kontrollproblem einer Superintelligenz, fehlende Transparenz über die Funktionsweise von KI-Algorithmen (das „Black Box Problem“), die schlechte Datenqualität von Daten (sogenannte „Korpora“), die etwa diskriminierende Tendenzen gegen Minderheiten oder Geschlechter enthalten könne. Die Autorin liefert eine Fülle illustrierender, sehr eingängiger Beispiele.

Die Autorin Webb greift schließlich zu einem Stilmittel, das im Kontext von Künstlicher Intelligenz (KI) sehr gerne genutzt wird, nämlich verschiedene Zukunftsszenarien. Auch Richard David Precht, Philosoph und Publizist, hatte diese Darstellungsart in seinem Buch „Jäger, Hirten, Kritiker. Eine Utopie für die digitale Gesellschaft“ eingesetzt. Die Autorin Webb spannt dafür einen weiten zeitlichen Horizont auf, nämlich von 2019 (Erscheinungsjahr des Buches) bis 2069.

Sie präsentiert drei Szenarien – wobei das erste das „Optimistische Szenario“ ist, die anderen beiden müssen klar als Dystopien eingeordnet werden. Diese Verteilung (2:1) unterstreicht, dass die Futuristin beunruhigt ist. Und es fällt schwer, ihre Bedenken einfach als Unkenrufe abzutun, sie blickt nicht in die sprichwörtliche Glaskugel, sondern dekliniert bekannte Trends / Entwicklungen entlang der Zeitachse in die Zukunft fort. Schauen wir uns das an.

“The Optimistic Scenario” (S. 155 ff): Zentrales Merkmal dieses Szenarios ist eine Internationale Koalition zur Durchsetzung ethischer Standards bei der KI-Entwicklung sowie einer engen Überwachung/Begleitung dieser KI-Forschung und -entwicklung. Es gibt beispielsweise eine großzügige Finanzierung von Forschung, Studien und Untersuchungen zum Einsatz von KI in verschiedenen Bereichen, Diversitätsprogramme und auch große Bildungsinvestitionen als Antwort auf den Strukturwandel auf dem Arbeitsmarkt („making America’s public education great again“). Es gibt gemeinsame Technologiestandards, Protokolle, Datenformate.

Gegenüber China werden ökonomische Instrument (z.B. Sanktionen) eingesetzt, um eine Konformität zu erzwingen. Auch entscheiden Länder, die sich einer „KI Governance“ unterwerfen, keine chinesischen Studenten mehr an ihren Universitäten zuzulasen. China tritt darum schließlich nach einiger Zeit der „Koaltion der guten KI Governance“ an. Diese Koalition entscheidet sich dann übrigens (in 2069) dagegen, den möglichen Schritt zu einer Superintelligenz zu gehen.

Das Szenario enthält (wie die anderen Szenarien auch) einige „Science-Fiction“-ähnliche Komponenten: “Toothbrushes, which come with tiny oral fluid sensors, use your saliva as a mirror reflecting your overall health. With each routine brushing, AIs are monitoring your hormones, electrolytes, and antibodies, checking for changes over time.” Und im Jahr 2049 (wenn die KI die generelle Intelligenz des Menschen erreicht hat) gilt: “Every family has a butler because every every household has an AGI [Anm. d. Red.: Artificial General Intelligence] trained and attuned to its unique circumstances.” Ein Schmankerl noch, bevor es zum nächsten Szenario geht: ”Microscopic computers, the size of a grain of sand, would gently rest on top of the brain and detect electric signals. Special AGI systems, capable of reading and interpreting those signals, could also transmit data between people.”

“The Pragmatic Scenario”: Die Bezeichnung ist durchaus euphemistisch, denn bereits dieses Szenario ist eine echte Dystopie. Eine internationale Koalition fehlt, bei der Entwicklung von KI wird Sicherheit vernachlässigt zugunsten schneller Ergebnisse im Wettbewerb um Marktanteile. China kann dank seiner technologischen Dominanz Partnerländern sein autokratisches politisches System aufzwingen, die Unterdrückung von Religion, einer freien Presse, die Diskriminierung von ethnischen Minderheiten und derlei mehr. Die soziale Spaltung verschärft sich, Eliten leben in Gated Communities;

Auch in westlichen Ländern folgen KI-basierte Apps dem Nudging-Prinzip, sie empfehlen das gesündere Menü auf der Speisekarte, belohnen die richtige Entscheidung und derlei mehr. Die Entscheidungsfreiheit gibt es de facto schon längst nicht mehr, denn dieser „Nudging“-Algorithmus lässt sich nicht abschalten und – schlimmer noch – die Versicherungsprämien bei Krankenkasse und Lebensversicherung sind direkt an das Verhalten gekoppelt.

Der Strukturwandel auf dem Arbeitsmarkt verläuft denkbar unglücklich, es bildet sich eine „digitales Kastensystem“ in der Gesellschaft heraus. Sicherheitsroboter halten in dieser sozial gespaltenen Gesellschaft die öffentliche Sicherheit aufrecht; die Roboter (aufgrund von KI-Trainingsdaten mit Voreingenommenheit gegenüber Afro-Amerikanern) verhalten sich dabei diskriminierend gegenüber Afro-Amerikanern. Das Lebensgefühl ist deprimierend: “You, like all Americans, are learning to live with constant, low-grade anxiety. (…) Your home has been turned into a big container for marketing, which is constant and instrusive.”

Es kommt schließlich zum Cyber War Chinas gegen America, der mit den Digitally Occupied States of America endet.

Das The Catastrophic Scenario muss man eigentlich gar nicht mehr lesen, das „Pragmatische Szenario“ ist Warnschuss genug für die Leserschaft.

Zukunftsszenarien mit der Basistechnologie KI: Impulse für Global Governance

Die Autorin Amy Webb versteht sich keineswegs als Pessimistin, sie hält das Potential von KI für faszinierend (zu Recht). Sie hält es aber für dringend geboten – und begründet dies schlüssig – strategische und systematische Weichenstellungen vorzunehmen, damit der Entwicklungspfad von KI zugunsten der Menschheit verläuft. Einige Antworten hat die Autorin ja bereits im „Optimistischen Zukunftsszenario“ vorweg genommen. Nämlich: Eine Global Alliance on Intelligence Augmentation (GAIA), das sie etwa in der Tradition von Bretton Woods sieht (Eine internationale Vereinbarung über ein globales Finanzsystem, das die Grundlagen für die Entwicklung des globalen Wohlstandes nach dem Zweiten Weltkrieg schuf).

Hinzu kommt eine Fülle weiterer Anstrengungen und Maßnahmen: Die Aufstellung eines Atlas der Menschlichen Werte durch kulturelle Anthropologen, Soziologen, Psychologen und derlei mehr. Dies müsse als Grundlage für die wertebasierte Entwicklung von KI dienen.

Es kommt ein umfangreiches Regelwerk hinzu, etwa: Das Prinzip Sicherheit vor Geschwindigkeit; KI muss erklärbar sein; das Wohl der Menschheit muss unwiderruflich im Zentrum der Entwicklung von KI Technologie stehen; die Transparenz von KI-Systemen muss durch eine unabhängige Partei, einen Treuhänder überprüfbar und verifizierbar sein; GAIA Mitglieder sollten jederzeit Inspektionen durch Inspektoren (vergleichbar Inspektionen durch die IAEA) zulassen, um sicherzustellen, dass das Regelwerk jederzeit befolgt wird.

Webb schwebt auch vor, die KI-Technologie selbst einzusetzen, um das Regelwerk einzuhalten: “Sentinel AI would formally prove that AI systems are performing as intended, and as the AI ecosystem matures toward AGI, any changes made autonomously that might alter a systems’s existing goals would be reported before any self-improvement.” (S. 244)

Von ihrem Heimatland, den USA, fordert Amy Webb ein konsistente KI-Strategie über alle Behörden und Forschungsinstitute hinweg ein, für die Koordinierung hält Sie eine übergeordnete Behörde für strategisch wichtig (sie nennt diese die „Strategic Foresight Office“, SFO). Grundsätzlich könnten Staaten die KI nicht ausschließlich den Kräften des Marktes überlassen, und damit gewinnorientierten Unternehmen. Darum brauche es ein eigenes (großzügiges) Forschungsbudget staatlicher Behörden oder der GAIA-Institutionen zur Finanzierung von Forschung zu Sicherheit, Transparenz; ein Budget, das eben nicht der Logik eines Profit Centers unterliegt.

Was die Erarbeitung von Datensets für das Training von KI-Algorithmen angeht, die um eine Verzerrung bereinigt sind: Hier schlägt die Autorin vor, die Digitalkonzerne könnten sich die Kosten teilen, eine solche verbesserte Datenbasis zu schaffen. Darüber hinaus würde Webb die Digitalkonzerne auch dazu verpflichten, einen Teil ihres Forschungs- und Entwicklungsbudgets darauf zu verwenden, Risikoanalysen vorzunehmen und mögliche negative Konsequenzen durch Pilotversuche zu evaluieren.

Etwas hilflos wirkt die Idee, die Führungskräfte der chinesischen Digitalindustrie müssten „courageous leadership“ beweisen und sich inhumanen Vorhaben Pekings widersetzen. Auch die vorgenannten Ideen (z.B. GAIA) sind hinsichtlich politischer Realisierbarkeit äußerst anspruchsvoll (um das diplomatisch zu formulieren), aber keineswegs völlig unrealistisch. Bretton Woods, die IAEA sind historische Beispiele, wo die internationale Zusammenarbeit klar funktioniert hat … allerdings zu einer Zeit, wo die Globale Ordnung noch eine andere war (Pax Americana).

Zukunftsszenarien mit der Basistechnologie KI: Wo ist der Player Europa?

Vor den Augen des Lesers spielt sich das Ringen zweier Digitaler Supermächte ab, USA und China. Europa findet nur bedingt statt. Natürlich gibt es auch in Europa Player der Digitalindustrie wie Siemens, Software AG, SAP oder Deutsche Telekom, aber die großen Plattformen mit KI kommen aus den USA. Die IT-Tochter der Deutschen Bahn migriert ihre Rechenzentren in die AWS-Cloud, die Lufthansa migriert in eine US-amerikanische Cloud, undsoweiter. Ein wenig von der Verzweiflung der Europäischen Führungselite ist zu spüren, wenn Timotheus Höttges (den ich sehr schätze) etwa auf der Telekom-eigenen Veranstaltung „Digital X“ den Sprachassistenten „Magenta“ vorstellt und auf der Bühne formuliert: „Ob wir überall erfolgreich sind, das weiß ich nicht. Aber wir versuchen es wenigstens.“ Kampfgeist hat er, auch eine Idee, wie sich Europa besser aufstellen kann: Vgl. dazu den Blogpost zur Digital X 2019

Abschließend möchte ich nur ein paar Zahlen gegenüberstellen, um die Dimensionen zu verdeutlichen. Das Forschungsbudget der Big Five der US-amerikanischen Digitalindustrie belief sich allein in 2017 auf 63 Mrd. US-Dollar. Dagegen nimmt sich auch das Budget der US-Bundesregierung mager aus (hier: 2019): 13,7 Mrd. US-Dollar (für alle Forschungsfelder von Raumfahrt, Militär bis zu KI), hinzu kommen 1,7 Mrd. US-Dollar des Pentagon für ein 5-Jahres-Investitionsprogramm in KI.

China ist mit einer ehrgeizigen KI-Strategie in 2017 gestartet, die sichtbar Früchte trägt. Ziel: Die Schaffung einer staatlich geförderten 150 Milliarden-Dollar-Industrie in China bis zum Jahr 2030.

In Europa: Frankreich steckt bis 2023 1,5 Mrd. Euro in KI. Die Deutsche Bundesregierung will 3 Mrd. Euro im Zeitraum bis 2025 in KI investieren. Die EU-Kommission hat bis 2020 1,5 Mrd. Euro vorgesehen. Wie man es auch dreht und wendet: In den USA und Asien wird ein Vielfaches der europäischen Summen in KI investiert. Europa hat einen Rückstand.

Sebastian Zang
Author

Der Autor ist Manager in der Softwareindustrie mit internationaler Expertise: Prokurist bei einem der großen Beratungshäuser - Verantwortung für den Aufbau eines IT Entwicklungszentrums am Offshore-Standort Bangalore - Director M&A bei einem Softwarehaus in Berlin.