Die Erde ist verwüstet und fast unbewohnbar geworden – der kleine Rest der überlebenden Menschen hat sich in ein riesiges Labor geflüchtet, in dem sie ohne Kontakt zur Außenwelt lebt. All ihre Hoffnungen ruhen auf einer Maschine, einer Künstlichen Intelligenz namens "Dave", die ihren Schöpfern nachgebildet sein soll - und zugleich ihnen weit überlegen.

Das ist das Setting, in dem sich der jüngste Roman der österreichischen Autorin Raphaela Edelbauer entfaltet. Sie geht darin der Frage nach: Was wäre, wenn wir einer künstlichen Intelligenz ein menschenähnliches Bewusstsein einpflanzen könnten? Und wie könnte KI das menschliche Zusammenleben verändern? Fragen, die längst natürlich auch Wissenschaft und Philosophie beschäftigen. In der Reihe "Literatur und Wissenschaft", die das Literaturhaus Berlin in Kooperation mit dem Deutschlandfunk Kultur veranstaltet, diskutiert Raphaela Edelbauer darüber mit der Philosophin und Maschinenethikerin Catrin Misselhorn.

Im Roman gibt es zwei Fraktionen: Eine möchte "Dave" als Werkzeug einsetzen, um die Erde wieder bewohnbar zu machen. Die andere glaubt an die unbedingte Überlegenheit der Maschine und setzt darauf, dass sich bald alle Menschen in sie ‚hochladen‘ können. Diese Strömung des "Transhumanismus" gibt es nicht nur im Roman, sondern auch in unserer Gegenwart: "Diese Menschen knüpfen Heilsversprechen, fast messianische Versprechungen an diesen Computer mit unendlich übersteigerter Intelligenz", beobachtet Edelbauer. "Der Computer soll im Endeffekt einfach alle Probleme der Menschheit lösen. Die Probleme sind aber gar nicht so richtig definiert."

Auch Misselhorn zeigt sich gegenüber den transhumanistischen Ideen skeptisch, insbesondere der eines ‚Uploads‘ unseres Selbst in eine superintelligente "Singularität". Sie glaubt: "Körperlichkeit gehört notwendigerweise dazu, um eine Person zu sein, eine Identität zu haben." Die Philosophin, die mit dem aktuellen Stand der KI-Forschung wohlvertraut ist, betont, dass die Schaffung eines künstlichen Bewusstseins aber ohnehin eher unwahrscheinlich ist: "Mit den Mitteln, die uns gegenwärtig zur Verfügung stehen, sehe ich tatsächlich keinen Ansatz, der begründeterweise behaupten könnte, dieses Ziel zu erreichen."

Auch Edelbauer glaubt, "dass eine Form von künstlichem Bewusstsein womöglich nie möglich sein wird" – das "Was-wäre-wenn-Spiel" trotzdem durchzuspielen erhöht für sie aber den literarischen Reiz. Für Misselhorn hat das literarische Durchspielen solcher Ideen, ganz unabhängig von der Wahrscheinlichkeit ihrer Verwirklichung einen auch philosophischen Wert: "Ich glaube, dass die Exploration dieses Szenarios dazu beiträgt, dass wir selber besser verstehen, was es eigentlich heißt, Mensch zu sein. Was es auch heißt, sozialen Umgang mit anderen zu haben. Und ich finde, dass Philosophie und Literatur da tatsächlich sehr gut ineinandergreifen können."

Im Roman hat der Versuch, der titelgebenden KI ein Bewusstsein einzugeben, selbst etwas Literarisches. Denn ein Bewusstsein, so die Überlegung der Programmierer von Dave, erfordert eine Identität – und Identität geht nicht ohne Gedächtnis und Emotionen. Deshalb werden einige Menschen aufgefordert, in "Kopie-Sitzungen" von Erinnerungen aus ihrem Leben und den damit verbundenen Emotionen zu erzählen – damit diese dann auf die KI übertragen werden können. Edelbauer erzählt, sie habe beim Schreiben die Frage interessiert, ob sich Identität bei Maschinen ebenso wie bei Menschen auf ein Gedächtnis stützen muss, oder nicht: "Ist es überhaupt denkbar, dass irgendeine Entität, auch eine technisch fundierte, Identität ausbildet, ohne das zu haben?"

Auch Misselhorn war von diesen Versuchen der Programmierer im Roman fasziniert – gerade weil sie in ihren Augen "völlig hilflos" wirken: "Natürlich kann man eine Abfolge von Ereignissen, die zu bestimmten Emotionen geführt haben, implementieren. Aber ich würde sagen, der Unterschied dazu, wie wir Literatur rezipieren, ist gerade: Wir haben Empathie, wenn jemand von seinem Vater geschlagen wird, oder ähnliches in einer Geschichte. Und das ist natürlich genau der Aspekt, den die reine Wiedergabe eines solchen Protokolls nicht erfassen kann."

An der Erzeugung von empathiefähiger KI wird allerdings heute schon intensiv geforscht. Die Frage, inwiefern das gelingen kann, ist ein Schwerpunkt von Misselhorns Forschung – auch ihr jüngstes Buch hat sie dem Thema gewidmet. Ihrer Einschätzung zufolge sind zwar die Fähigkeiten zur künstlichen Emotionserkennung etwa anhand von Gesichtsausdrücken schon weit gediehen, das sei aber noch lange keine Empathie im eigentlichen Sinn. Entscheidend dafür sei vielmehr die "Fähigkeit, die Emotionen eines Interaktionspartners mitzuempfinden".

Wir Menschen allerdings können durchaus Empathie mit Robotern empfinden – und das kann zum Problem werden, wenn dieser Umstand dazu genutzt wird, uns zu manipulieren, sagt Misselhorn. Eine andere Gefahr des Einsatzes von KI, die sie auch in Edelbauers Roman "sehr explizit benannt findet", sieht sie darin, "dass die Entscheidungen künstlicher Intelligenz häufig nicht transparent sind, dass sie nicht vorhersehbar und nicht kontrollierbar sind. Und sagen wir mal, es würde gelingen, Bewusstsein, Willensfreiheit und so etwas zu implementieren, wäre das natürlich noch verstärkt."

Raphaela Edelbauer sieht eine der größten Gefahren gar nicht darin, was die KI kann, sondern darin, was wir uns von ihr – fälschlicherweise – erhoffen. Sie beobachtet, "dass viel von dem, was mit menschlicher Schuld zusammenhängt, einfach auf den technischen Fortschritt ausgelagert wird. Und das ist ein ganz kindischer Zug am Menschen, finde ich: Zu glauben, wir können so weiterleben, wie wir es jetzt machen, weil wir werden eine Idee in der Zukunft haben – wie diese Idee ausschaut, das ist nicht ganz klar, aber das kann es wieder gut machen." Eine Haltung mit potentiell desaströsen Konsequenzen: "Wenn wir selber nicht unser Verhalten ändern, weil wir damit rechnen, dass eine KI ein Problem lösen kann – dass wir zum Beispiel auf den Mars fliegen und ihn besiedeln können, wie ein wichtiger Firmengründer es plant – und das tritt aber nicht ein: Dann haben wir ein Problem, wenn die Erde nicht mehr besiedelbar ist."

Trotzdem sehen die Schriftstellerin und die Philosophin auch sinnvolle Einsatzbereiche für KI. Beispiele dafür sieht Misselhorn etwa im Training von Kindern mit Autismusspektrumsstörungen oder bei demenzkranken Personen. "Aber auch da muss man eben immer sehr genau schauen: In welchem Setting ist das sinnvoll einzusetzen?" Entscheidend sei, sich klarzumachen, wie es auch der Roman zum Ausdruck bringe, "dass technologische Entwicklung und gesellschaftliche Rahmenbedingungen Hand in Hand gehen. Und dass es natürlich wenig Sinn macht, eine Technologie zu entwickeln, ohne sich zu überlegen: In welcher Gesellschaft wollen wir leben?"

(ch)

Eine Wiederholung in längerer Fassung vom 17. September 2021.