Nichts. Auf den ersten Blick.

Auf den zweiten Blick liefert die Coronakrise und der Umgang der Staatengemeinschaft mit dieser Herausforderung wichtiges Anschauungsmaterial für die Frage, wie internationale Kooperation angesichts des Szenarios einer „Superintelligenz“ funktionieren könnte. Ob. Wie schnell. Wie koordiniert.

Vorweg: Das Szenario einer „Superintelligenz“ ist gegenwärtig noch Science-Fiction, es gibt keinen bekannten Forschungs-/Entwicklungspfad, der dorthin führen würde. In seinem Buch „Superintelligenz“ (Buchvorstellung hier) hat der Oxford-Wissenschaftler Nick Bostrom Experten hierzu befragt, die Wahrscheinlichkeiten für das Eintreten einer „Generellen menschlichen Intelligenz“ wurden angegeben mit 50% bis 2040 und 90% bis 2075. Die Angaben haben sich zweifellos verschoben (Erstauflage des Buches: 2014), tendenziell nach hinten, aber als Orientierungsgröße reicht das aus. Mir geht es hier auch nicht um eine zeitliche Prognose von wissenschaftlichen Durchbrüchen in der KI-Forschung.

Mir geht es um einen anderen Aspekt, nämlich das vom Autor Bostrom identifiziert Kontrollproblem, das man bei allem Optimismus als Tech-Enthusiast anerkennen muss. Bostrom findet eine (zunächst amüsante) Metapher für die Mächtigkeit einer Superintelligenz (so es denn überhaupt dazu kommt): Der Unterschied zwischen der Superintelligenz und jener des Menschen entspräche etwa dem Unterschied zwischen der Intelligenz des Menschen und eines Wurmes. Wenn (!) es also zu einem solchen Szenario käme, wäre es einfach hoffnungslos naiv anzunehmen, der „Wurm“ könne mit welchen Mitteln auch immer die weit überlegene Intelligenz kontrollieren. Zumindest ist das nicht sonderlich wahrscheinlich.

Gesetzt also den Fall, es gäbe tatsächlich einen Entwicklungspfad zu einer im ersten Schritt „generellen menschlichen Intelligenz“, die sich dann aller Voraussicht nach zu einer Superintelligenz weiterentwickelt (nach Bostrom innerhalb sehr kurzer Zeit): Man kann sich nun überlegen, wie man damit umgeht, ich will das gar nicht bewerten: Die KI-Forschung an einem bestimmten Punkt „einfrieren“, Weitermachen und Kontrollmechanismen entwickeln oder anderes. In jedem Fall aber braucht es ein gerüttelt Maß an internationaler Kooperation, um sinnvolle Maßnahmen durchzusetzen.

Der Autor Nick Bostrom widmet diesem so zentralen Aspekt in seinem Buch natürlich bereits seine Aufmerksamkeit, und führt einige Überlegungen aus: „Angesichts der Bedeutung für die nationale Sicherheit würden Regierungen wahrscheinlich versuchen, jedes erfolgversprechende Superintelligenz-Projekt in ihrem Einflussbereich zu verstaatlichen. (…) Sind die globalen Regierungsstrukturen in der Zeit vor einem möglichen Durchbruch stark genug, würden vielversprechende Projekte womöglich auch unter internationale Kontrolle gestellt werden.“ (S. 122)

Insbesondere die internationale Kooperation stellt sich hierbei aber alles andere als einfach dar, und ist bei Weitem kein Selbstläufer. Zum Szenario einer länderübergreifenden Kooperation bei der Entwicklung fortgeschrittener KI formuliert Bostrom: Im Falle einer Kooperation „müsste jedes teilnehmende Land befürchten, dass ein anderes die gemeinsam gesammelten Erkenntnisse nutzt, um ein geheimes nationales Projekt voranzutreiben.“ (S. 126) Und selbst unter befreundeten Nationen ist Kooperation herausfordernd, mit Blick auf die Geschichte bemerkt Bostrom: „Auch Großbritannien verschwieg der Sowjetunion seine Erfolge beim Knacken des deutschen Enigma-Codes, teile sie aber – wenn auch unter einigen Schwierigkeiten – mit den Vereinigten Staaten.“ (S. 126)

Es ist nicht übertrieben zu konstatieren, dass nationale Eitelkeiten, Rivalität und nationale Egoismen ernstzunehmende Herausforderungen bilden. Auch angesichts globaler Krisen (bzw. mit Krisen mit globaler Reichweite) aus der jüngsten Geschichte stellt sich das nicht anders dar. Dem Reaktor-Unfall „Tschernobyl“ folgte zunächst Vertuschung und Täuschung (Empfehlung: Der Reaktor-Thriller „Chernobyl“, mit einigem Recht eine der besten Serien aller Zeiten). Auch die „Corona“-Krise begann mit einem Versuch der Vertuschung im Ursprungsland. Erinnern wir uns außerdem daran, dass der aktuelle amerikanische Präsident den „Klimawandel“ schlicht verleugnet. Es sei auch darauf hingewiesen, dass China und die USA (ihre) Unternehmen rund um Computerchips und Künstliche Intelligenz (implizit) als „strategische Industrien“ einstufen.

Es geht mir um eine nüchterne Bestandsaufnahme, keine düsteren Zukunftsphantasin; zumal noch gar nicht klar ist, dass ein Entwicklungspfad zu einer „Superintelligenz“ existiert und das die KI-Forschung diesen Weg findet. Ich schreibe diesen Artikel relativ zu Beginn der Corona-Krise, man darf hoffnungsvoll sein, dass die Staatengemeinschaft ihre Lehren daraus zieht.

Sebastian Zang
Author

Der Autor ist Manager in der Softwareindustrie mit internationaler Expertise: Prokurist bei einem der großen Beratungshäuser - Verantwortung für den Aufbau eines IT Entwicklungszentrums am Offshore-Standort Bangalore - Director M&A bei einem Softwarehaus in Berlin.