„ Menschenversteher. Wie Emotionale Künstliche Intelligenz unseren Alltag erobert“, von Kenza Ait Si Abbou, Droemer Verlag, Erscheinung März 2023, 250 Seiten, 20 Euro (gebundenes Buch)

Emotionale Intelligenz ist die Fähigkeit, Menschen zu lesen sowie zu verstehen, was sie im Innersten bewegt. Und hier gilt: Das beherrschen die Maschinen zunehmend. Dazu die Autorin Kenza Ait Si Abbou, Leitende Managerin im Bereich KI bei IBM Deutschland: “(…) diese Interaktion wird etwas fundamental Neues für uns bedeuten, weil sie zum ersten Mal nicht nur die rationale Seite der Kommunikation umfasst, sondern eben auch diejenige unserer Emotionen. Sie wird auf diese Weise eigentlich erst zu einer menschenfreundlichen Interaktion, weil sie auf den ganzen Menschen zielt. (…) Maschinen, die uns hier besser verstehen als bislang, sind erst einmal eine vielversprechende Aussicht. Sie können uns damit schließlich potentiell auch besser helfen.“ (S. 63)

Das Ziel der Autorin: Ein Verständnis dafür zu schaffen, wo Forschung und Entwicklung heute stehen und was wir in absehbarer Zeit noch erwarten können. Und – wie viele andere Autor:innen auch – sieht Si Abbou die Notwendigkeit für eine Regulierung (in Maßen); hier sieht Sie alle Ihre Leserschaft in der Pflicht, sich in die gesellschaftliche Debatte rund um die Ausgestaltung des Entwicklungspfads von KI einzubringen.

So weit, so gut. Wussten Sie übrigens, der Markt für Emotionale Intelligenz ist enorm. Prognosen zufolge soll dieser Markt schon in 3 Jahren (also: 2026) über 37 Mrd. USD schwer sein. Kaum überraschend, EI wird an der Schnittstelle von KI / Maschine zum Nutzer benötigt … also quasi überall.

Wo setzt EI an? – Zum Beispiel: Decodierung unseres Gesichtsausdrucks, Analyse von Sprachmustern, Erfassung von Augenbewegungen, Tonanalyse unseres geschriebenen und gesprochenen Wortes und die Messung des Grades unserer neurologischen Immersion (Letzteres erfordert Messgeräte, die am Körper angebracht werden).

Dabei ist Emotionale Intelligenz keine ferne Zukunftsvision. Das ist schon längst da. Und die analytischen Fähigkeiten solcher sind verblüffend bis creepy. Die Autorin schreibt etwa: “Mit Algorithmen der Datenanalytik und des maschinellen Lernens können verschiedene persönliche Informationen hergeleitet werden, wie eine Metastudie der TU Berlin aufzeigt: unter anderem Geschlecht, Alter, Ethnizität, Gewicht, Personlichkeitsmerkmale, Drogenkonsum, emotionaler Zustand, Fertigkeiten, Ängste, Interessen und sexuelle Präferenzen.“ (S. 87)

Humanoide Roboter als Lebenspartner, KI in der Pflege und gegen Einsamkeit

Beim Thema Emotionale Intelligenz ist man schnell bei Beziehungen, die emotionale Qualität haben … und bei der Frage, ob ein Mensch eine emotionale Beziehung etwa zu einer KI aufbauen kann, etwa in Form eines humanoiden Roboters. Es gibt (mindestens) zwei sehr sehenswerte Filme, die sich mit diesem Thema auf sehr unterhaltsame Weise auseinandersetzen, unbedingt sehenswert:

Zum einen der Film Ich bin Dein Mensch der deutschen Regisseurin Maria Schrader (Erscheinungsjahr: 2021, ImdB-Score: 7,1). Eine melancholische Komödie zwischen der Frau Alma und dem humanoiden Roboter Tom, der als Lebenspartner programmiert wurde. Und zum anderen der Film Her (mit Joaquin Phoenix; ImdB-Score: 8,0). (Auch der Film Ex Machina geht dieser Frage nach, wenn auch dieses Thema weniger im Fokus steht.)

Beide Filme betrachten sehr differenziert und unaufdringlich die Frage, inwieweit sich (tiefe) emotionale Bindungen zu einer KI bzw. einem humanoiden Roboter entwickeln kann, wenn das KI-gesteuerte Gegenüber wie ein Mensch kommuniziert. Ich will nichts vorweg nehmen, schauen Sie sich die Filme unbedingt an.

Während die Filme Fiktion sind, lässt die Autorin Kenza Ait Si Abbou in ihrem Buch ein paar (wissenschaftliche) Stimmen zu dieser zentralen Frage zu Wort kommen: “David Levy prognostizierte in seinem schon 2007 erschienenen Buch ‚Love and Sex with Robots‘, dass zumindest Sex mit Robotern bis 2050 weit verbreitet und allgemein akzeptziert sein würde. Das scheint ein etwas willkürzliches Datum zu sein. Aber wenn man sich die Fortschritte bei Unternehmen wie AI-Tech oder Realbotnix anschaut, nicht völlig aus der Luft gegriffen. Inzwischen gibt es in Städten wie Barcelona oder Berlin sogar schon Bordelle nur mit Sexpuppen.“ (S. 117) David Levy ist ein schottischer Schachmeister und ein führender Experte in Künstlicher Intelligenz.

Der Antropologe Alex Balasescu wieder ”fürchtet, dass emotionale KI dazu führt, dass Menschen ihre Gefühle nur noch Maschinen anvertrauen. Weil sie in der Lage ist, genau die emotionalen Bedürfnisse der Menschen widerzuspiegeln, weil sie nie widerspricht und immer Zeit hat, befriedigt sie ein zunehmend narzisstisches Bedürfnis nach emotionaler Bestätigung.“ (S. 167)

Mögen die genannten Filme Fiktion sein, so kann man bereits heute Vorläufer einer solchen potentiellen Entwicklung erkennen. Die Autorin weist darauf hin, dass der US-Bundesstaat New York in jüngster Vergangenheit begonnen habe, Hunderte Sozialroboter an einsame Alte zu verteilen. Dazu die Autorin: “Wenn KI es ermöglicht, einen bedeutungsvollen Austausch mit einsamen Menschen zu ermöglichen, wenn sich diese Menschen dabei verstanden und aufgehoben fühlen, dann ist das ein großer Fortschritt.“ (S. 130)

An dieser Stelle würde ich der Autorin widersprechen. Und vermutlich ist eben das die gewünschte Debatte, die wir als Gesellschaft führen müssen; es ist eben diese Auseinandersetzung, die die Autorin ja explizit wünscht. Wo wollen wir KI künftig einsetzen, wo nicht? Ich würde es eben nicht als Fortschritt betrachten, wenn wir die zunehmende Vereinsamung in unseren westlichen Wohlstandsgesellschaften mit Social Bots lösen. Das sind für mich absurde Blüten des Silicon Valley Tech-Solutionismus. Man mag einwenden, dass eine solche Interaktion sicherlich wünschenswerter sei als 6 Stunden (und mehr) an Medienkonsum unter Senioren. Aber bereits letztere Entwicklung ist ja keineswegs ein Höhepunkt zivilisatorischer Entwicklung; wir sollten also nochmals inne halten, bevor wir die Entwicklung in diese Richtung weiterlaufen lassen.

Zukunftsangst und Skepsis

Ich habe das Buch just gelesen, als mich mein Vater in Berlin besucht hatte. Büchernarr wie er eben ist, hat er natürlich in das Buch reingelesen … und hat sich nach einigen Seiten gefragt, ob das die Welt ist, in der er noch leben wolle (er wird in diesem Jahr 75 Jahre alt).

Vor allem zwei Capabilities der KI sind es, die heute Unbehagen auslösen. Zum einen die unerbittliche Analyse unseres Verhaltens, unserer Emotionen, unserer Leistung, und im vorliegenden Buch wird die Emotional Intelligence als Teil davon näher beleuchtet. Zum anderen die schier unerschöpfliche Schaffenskraft dessen, was wir unter Generative AI subsumieren (ChatGPT, Modjourney.ai, etc.).

Zu ersterem: Bereits im Tech Trend Report 2021 erklärte der Herausgeber, das Future Today Institute: “ Anonymity is dead. (…) Everyone alive today is being scored.“

Wer will das schon? Die Autorin des Buches Menschen Versteher berichtet etwa vom Start-Up Xpai, dessen Kameras bei Veranstaltungen die Mimik der Teilnehmenden analyiseren, und damit eine Sekunden-genaue Analyse der Gesamtstimmung im Publikum abliefern. Dazu Kenza Si Ait Abbou: “Ich muss sagen, als Speakerin hat es mich etwas nachdenklich gestimmt. Eine Auswertung zu erhalten, wie das Publikum auf meine Rede reagiert, kann sicherlich dazu führen, dass ich diese optimiere. Andererseits weiß ich nicht, ob ich noch so entspannt auf der Bühne stehe und meine Geschichte erzähle, wenn ich weiß, dass ein Gerät sekündlich die Stimmung meiner Zuhörerschaft misst und bewertet. (…) Die Frage ist, wer stellt sich dann noch auf die Bühne?“ (S. 79)

Und zum Aspekt Generative AI: Es ist ziemlich genau 10 Jahre her, dass der Oxford-Wissenschaftler Carl Benedikt Frey mit The Future of Work eines der meistzitierten Paper herausgegeben hat. Dutzende von Beratungen und Instituten befleißigten sich in Folge der breit geführten Debatte, Prognosen über die Zukunftsfähigkeit Hunderter von Berufsbildern abzuliefern, die mal mehr, mal weniger von KI bedroht sind. Diese Debatte ebbte nach einiger Zeit ab, Deutschland näherte sich bei Fachkräftemangel der Vollbeschäftigung, dann verdrängten Corona und Ukraine-Krieg die noch verbliebenden Ausläufer dieser Debatte. Aber nun ist sie wieder da … und jüngst las ich verblüfft in einem Handelsblatt Morning Briefing von März, dass der Hype um ChatGPT und Automatisierungs-Phantasien bis in die Chefredaktionen der Zeitungshäuser hinein reicht:

“Für mich persönlich gibt es noch eine beunruhigende Nachricht: GPT-4 soll eloquent sein, könne mit Ironie und Witzen umgehen und Quellen zusammenfassen. Das mache generierte Texte kurzweilig und qualitativ hochwertiger. Klingt, als könnten wir Morning-Briefing-Autoren uns bald in den Vorruhestand verabschieden. Dann übernimmt an dieser Stelle GPT-4. Ich wünsche Ihnen einen guten Tag, an dem Sie sich nicht von einer Maschine bedroht fühlen.“

Klar ist: Unsere Gesellschaft und Politik kommt nicht hinterher. Es fehlt bislang an einem gesellschaftlich breit verankerten Zukunftskonzept, das Einsatzfelder für KI ausweist und dafür die Spielregeln definiert. Der Offene Brief von KI-Experten, der einen vorübergehenden Stop der Weiterentwicklung von KI fordert, unterstreicht genau das.

Fazit zum Buch – Prädikat: lesenswert

Das Buch ist sehr eingängig geschrieben; die Autorin holt explizit auch jene Leser:innen ab, die bislang wenig Berührungspunkte mit KI hatten (und gerade für Akteure der IT- und Softwareindustrie wie mich gerät es in einer Art von „Betriebsblindheit“ bisweilen aus dem Blick, dass nur ein Bruchteil der Bevölkerung diese Entwicklung wirklich verfolgt, geschweige denn in der Tiefe versteht).

Wenn man – wie ich – regelmäßig Bücher/Blogs/Beiträge zu KI liest, mag man etwas ungeduldig werden bei vermeintlich Selbstverständlichem. Darum müsste ich vorsichtig sein, auf „Längen“ im Buch hinzuweisen. Aber ich kann mir dennoch den Hinweis nicht verkneifen, dass man vereinzelte Stellen im Buch hätte deutlich kürzen (oder gar: weglassen können). Ein Beispiel findet sich im Kapitel „Die Menschwerdung der Maschinen“. Hierin geht die Autorin der Frage nach, ob und wann Maschinen so etwas wie ein Bewusstsein entwickeln können / werden. Auf 40 Seiten. Für meinen Geschmack zu viel, zumal das – meines Erachtens – ein Zukunftsszenario ist, das keine kurz- oder mittelfristige Relevanz hat. Auf ganzen 5 Seiten erörtert die Autorin darin etwa auch, ob an der Behauptung eines Google-Ingenieurs etwas dran sein könnte, dass das Large Language Model eben dieses Konzerns (LamDA) schon Bewusstsein entwickelt haben könnte. Das Fazit: Nein. Und zwar ein ziemlich klares Nein … diese 5 Seiten hätte ich als Lektor des definitiv gestrichen. Aber wie gesagt, solche detailverliebten Diskurse sind die Ausnahme, und natürlich gehört das auch zur Genese eines Buches, dass während der Ideensammlung solche Passagen entstehen. Es hat halt jemand vergessen, das rauszustreichen ,- )

Übrigens, die Autorin referenziert gerne Filme (u.a. „Du bist mein Mensch“, „Her“ oder „Ex Machina“). Das finde ich fantastisch, ich liebe (gute) Filme und diese helfen enorm, Zukunftsszenarien aus der Abstraktion zu holen, für uns greifbarer zu machen.

Kurz: Das Buch ist toll, nehmen Sie sich Zeit dafür!

Über die Autorin

Kenza Ait Si Abbou wurde 1981 in Marokko geboren. Von 2018 bis 2021 war sie als Senior Managerin für Robotik und Künstliche Intelligenz für die Deutsche Telekom tätig, seitdem ist sie Leitende Managerin im Bereich KI bei IBM Deutschland. Sie ist weltweit als Key-Note-Speakerin gefragt und wurde mehrfach ausgezeichnet. 2020 erschien ihr erfolgreiches Buch „Keine Panik, ist nur Technik“. Die Autorin lebt mit ihrer Familie in Berlin.

Das Teaser Bild habe ich mithilfe von Midjourney.ai erstellt; und zwar mit folgendem Prompt: Illustration of different positive feelings, comic style, vivid colours

Zum Weiterlesen

  • Blick in die Zukunft: Der „Tech Trend Report 2023“ des Future Today Instituts
  • „The Age of AI and Our Human Future“ – Buchkritik
  • Buchempfehlung: „Künstliche Intelligenz und der Sinn des Lebens“
  • Die KI-Revolution: Was geht schon? Was kommt bald?
  • The Technology Trap
  • Neues Wagen. Deutschlands digitale Zukunft zwischen den USA und China
  • AI-Superpowers. China, Silicon Valley und die Neue Weltordnung
  • Die „Theorie der digitalen Gesellschaft“ des Intellektuellen Armin Nassehi – Buchvorstellung?
  • “Reprogramming the American Dream” von Microsoft CTO Kevin Scott – Buchkritik
  • Superintelligenz
  • The Big Nine
  • Author

    Der Autor ist Manager in der Softwareindustrie mit internationaler Expertise: Prokurist bei einem der großen Beratungshäuser - Verantwortung für den Aufbau eines IT Entwicklungszentrums am Offshore-Standort Bangalore - Director M&A bei einem Softwarehaus in Berlin.