Eine Superintelligenz als Diktator – oder Schutzgott

Wodurch ist die menschliche Existenz am meisten bedroht: Klimakatastrophe? Atomarer Krieg? Hungersnöte? Wasserknappheit? Weder noch, folgt man dem schwedischen Physiker Max Tegmark. Mit solch analogen Problemen mag der Wissenschaftler vom Massachusetts Institute of Technology nicht seine Zeit vergeuden. Tegmark verkehrt mit Silicon-Valley-Größen wie Google-Chef Larry Page oder dem Internetunternehmer Elon Musk, und deren Blick richtet sich – wie seiner auch – weit über die heutige Zeit hinaus.

Genau da – in ferner Zukunft – sieht Max Tegmark das Schicksal der Menschheit wirklich auf der Kippe stehen. Nämlich dann, wenn Künstliche Intelligenzen die Macht an sich gerissen haben. Nur wenige würden diese Gefahr heute sehen, warnt der Physiker. Das Gespräch darüber sei aber das wichtigste unserer Zeit. "Deshalb schreibe ich dieses Buch."

"Leben 3.0" nennt Tegmark die Daseinsform, die dem Menschen überlegen sein wird. Denn sie sei nicht nur in der Lage, ihre Software, sprich: ihr Denken zu entwickeln, sondern sie könne auch – anders als der Mensch – ihre Hardware selbst gestalten und wäre somit von den Fesseln der Evolution befreit.

Dass die Wissenschaft diese "Superintelligenz" erschaffen wird, davon ist Tegmark felsenfest überzeugt, auch wenn er es nicht beweisen könne. Der Glaube allein genügt ihm aber, um durchzuspielen, wie diese Intelligenz entstehen kann und was dann passieren wird. Das könnte sich wie gute Science-Fiction lesen, nur leider fehlt viel zu häufig der Bezug zur heutigen Realität, als dass man als Leser wirklich mitgenommen wird.

Über weite Strecken ergießt sich Tegmark in wissenschaftlichen Erwägungen etwa darüber, wie (nichtbiologische) Materie intelligent wird (wenn sie's denn wird) – und das so kompliziert, dass kein Eingeweihter durchsteigt. Auch die zwölf Szenarien der Machtübernahme durch die KI wirken reichlich abgehoben. Wird sie ein "wohlwollender Diktator" sein oder ein unsichtbarer "Schutzgott"? Entsteht eine Überwachungs-KI oder gelingt es dem Menschen, sie zu domestizieren? Wen kümmert es – wenn es so abstrakt und so weit weg ist, dass man sich dazu nicht in Beziehung setzen kann!

Nur selten schafft es der Physiker, nachvollziehbare Herausforderungen zu skizzieren und damit auch das von ihm immer wieder eingeforderte Problembewusstsein zu wecken. Zwar wird vieles davon mit Blick auf bereits existierende einfache Künstliche Intelligenz ohnehin schon weitläufig diskutiert. Darf man Maschinen Rechte zugestehen? Wer haftet für selbstfahrende Autos? Wie lässt sich sichere Software bauen? Wie weit müssen Algorithmen kontrolliert werden? Die Fragen spricht Tegmark aber zu Recht an.

Um eine breite Debatte darüber auszulösen, dass die Menschheit durch KI ausgelöscht werden könnte, muss er aber für die Allgemeinheit verständlich die wissenschaftlichen Grundlagen für solch eine Annahme darlegen. Und er müsste die Frage beantworten: Warum so eine KI eigentlich geschaffen werden soll? Nur, weil sich die Wissenschaft zeigen will, dass sie es kann? Das wäre dann aber doch zu wenig.