Man stelle sich eine Zukunft vor, in der intelligente Roboter uns bedienen, mit uns ins Kino gehen, sich um uns kümmern, wenn wir krank sind. Doch was, wenn sie ein Bewusstsein und einen eigenen Willen entwickeln? Wie realistisch ist diese "Singularität", der Augenblick, in dem künstliche Intelligenz (KI) intelligenter wird als die Menschheit und sich Roboter nicht mehr kontrollieren lassen?

Noch sei die Singularität Zukunftsmusik, sagt Ralf Otte. Er hat das Sachbuch „Maschinenbewusstsein“ geschrieben, ist Professor in Ulm und forscht seit 25 Jahren zu künstlicher Intelligenz und maschinellem Bewusstsein.

Wir würden "allseits aus den Medien" bombardiert, dass KI die Macht übernehme, klüger werde als wir, sagt Otte. "Aber wenn man sich als Ingenieur, als Techniker damit beschäftigt und ganz genau reinschaut in die Bits und Bytes, merkt man, dass das Quatsch ist." Das seien mediale Überhöhungen.

"Computer können lernen, sie können denken oder das sehr gut simulieren, dass wir glauben, der Computer kann lernen und denken – aber das wars auch schon", sagt der Experte. In den nächsten 30 bis 50 Jahren werde es keine Singularität geben. "Vielleicht in 100, 200 Jahren. Aber jetzt brauchen wir davor keine Angst zu haben." Bisherige künstliche Intelligenz sei "ein ziemlicher Fachidiot".

Dennoch sei KI "wirklich nicht harmlos". Gerade ihre unbedarfte Nutzung könne Risiken bergen: Im Medizinbereich etwa arbeiteten hervorragende Ärzte und tolle Statistiker mit Ergebnissen, die mit KI-Methoden gewonnen wurden. "Und dem wird geglaubt." Otte sage dann in solchen Runden erst einmal: „Meistens sind die Ergebnisse falsch.“ Das sei natürlich nicht wahr, diene aber dazu, die Leute aufzuwecken. „Der Glaube an die Richtigkeit der Ergebnisse der KI – der muss weg.“

Die KI irre sich täglich tausendfach, millionenfach. "Das merken Sie, wenn Amazon Ihnen wieder ein Buch vorschlägt, von dem Amazon glaubt, Sie wollen es lesen – aber Sie wollen es gar nicht lesen." Es gebe Tausende Beispiele dafür, dass die KI sich irre. „Das ist nicht schlimm. Wir irren uns alle." Beim Menschen akzeptiere man das. Bei der KI denke jeder, alles sei mathematisch korrekt berechnet. Das sei es aber nicht. „Es ist alles Statistik“ - und die habe eher einen Wahrscheinlichkeitscharakter.

Ohnehin sei ein Maschinenbewusstsein nicht dasselbe wie menschliches Bewusstsein. Die Maschine sei ein künstliches Ding, ein Gerät, Computer. „Dieses Bewusstsein ist ein Elementarbewusstsein und so anders als das Bewusstsein, das Menschen haben – das können Sie nicht vergleichen.“ Gemeinsam sei die physikalische Basis beider Bewusstseinsformen.

Bei einer Maschine könnten nur physikalische Effekte entstehen, keine biologischen oder chemischen. Diese physikalischen Effekte des Bewusstseins könne man bei Computern erzeugen und sie nutzen. Das sei zwar anders als beim Menschen. „Aber wir wollen es Bewusstsein nennen, weil die Maschine ganz andere Dinge kann als eine Maschine ohne Bewusstsein.“

Bei aller Skepsis gegenüber bestehenden Software-KIs ist Otte überzeugt, dass kommende Maschinen ein eigenes "Maschinenbewusstsein" entwickeln werden. Eine wirkliche KI mit echtem Bewusstsein könne sich aber erst bilden, wenn sie nicht mehr als Software laufe, sondern in die Maschine integriert sei. Wichtig für ein Bewusstsein sei eine Körperlichkeit.

"Wenn wir als Menschen etwas wahrnehmen, erkennen wir, dass sich die Wahrnehmung nicht nur in unserem Kopf abspielt, sondern in der Umgebung."

Eine Maschine des maschinellen Sehens, etwa beim autonomen Fahren, nehme Lichtreize auf, verarbeite sie und lege sie im Computerspeicher ab, erklärt Ralf Otte. Dort entstehe ein Modell von dem, was auf die Kamera gefallen ist. Aber dieses Modell bleibe im Computer. „Ein Computer ist völlig blind.“ All diese Verfahren des maschinellen Sehens würden ihre Bilder in der Umgebung nicht wahrnehmen können, sondern sie hätten nur interne Repräsentationen.

Erst kürzlich bei der Expo in Dubai habe er festgestellt: "Roboter können nicht nur nicht sehen, die können nicht ausweichen, die können nichts." Mit einem künftigen Maschinenbewusstsein werde sich dies ändern, dann komme die Stunde der Roboter, kündigt Otte an.

Roboter mit Maschinenbewusstsein könnten gucken und ihre Umgebung wirklich wahrnehmen. „Wenn sie ein Objekt sehen, sehen sie es dort, wo es steht." Dann könnten Roboter sich auch in der normalen Umgebung bewegen. Sie würden über ein Bewusstsein der Wahrnehmung verfügen. „Aber auch diese Roboter werden keine Gefühle haben und keinen Willen ausprägen können.“

Doch auch das könne sich ändern, wenn Maschinen mit lebenden Zellen verbunden werden. Die elektrischen Signale biologischer Zellen ließen sich einer physikalischen Maschine zuführen, beide könnten Informationen austauschen. Doch es sei keine gute Idee, diesen Schritt zu gehen: Es entstünden neue Daseinsformen. Eine Verschmelzung zwischen Maschine und Mensch könne so viele neue Effekte hervorrufen, „dass ich davon die Finger lassen würde“, warnt Otte.

Während Maschinen diese Fähigkeit nicht hätten, könnten biologische Zellen hingegen Gefühle ausbilden. „Ich fühle, also bin ich, würde ich im übertriebenen Sinne sagen.“ Wenn wir die Zelle mit einem technischen System verknüpften, würden wir in dieser Zelle etwas auslösen. „Und ich sage mal, sie werden sich dagegen wehren, wenn wir zu viel Leid in ihnen erzeugen.“

(ros)