"Der Computer hat das geringste Verständnis"

Stefan Detjen: Er ist einer der Pioniere des Computerzeitalters, ein Visionär und Kritiker überzogener Erwartungen an die Entwicklung künstlicher Intelligenz zugleich. Joseph Weizenbaum entwickelte in den 60er Jahren am legendären Massachusetts Institute of Technology (MIT), in den USA das Sprachverarbeitungsprogramm ELIZA, das bis heute als Meilenstein auf dem Gebiet der künstlichen Intelligenz gefeiert wird. In den 70er Jahren wurde er durch Bücher und Aufsätze zu einem der Begründer der wissenschaftlichen Computerkritik. Heute feiert Joseph Weizenbaum seinen 85. Geburtstag. Gestern Mittag war er hier bei uns im Studio zu Gast. Und ich habe ihn zunächst gefragt, ob er an diesem Tag schon einen Computer benutzt hat. Und Joseph Weizenbaums erste Antwort war denkbar kurz und knapp.

Joseph Weizenbaum: Ja.

Detjen: Was haben Sie gemacht mit dem Computer?
Weizenbaum: Ein Freund von mir ist von Amerika gekommen, nur um meinen Geburtstag da mitzufeiern. Und er hat einen Computer mitgebracht, und da braucht er kleines Teil davon, das man in Amerika, das man überall haben kann. Aber hier ist es sehr schwer. Und da bin ich zu meinem Computer gegangen, heute Morgen zu Google, um rauszufinden, ob es ein Geschäft hier gibt, das sich um Teile für diesen besonderen Computer kümmert.

Detjen: Wir sind von Computern ja permanent umgeben. Selbst wenn man den eigentlichen klassischen PC auf dem Schreibtisch oder den Laptop gar nicht mehr in den Blick nimmt. Man kann sich eigentlich kaum vorstellen, dass man einen halben Tag verbringt, ohne in irgendeiner Weise mit Computern zu interagieren. Man telefoniert. Man fährt mit der Straßenbahn und benutzt den computerisierten Fahrkartenautomaten.

Weizenbaum: Wie kann man sagen, dass ein Deutscher zum Beispiel ein Mitglied der Gesellschaft ist - was ist die Mitgliedskarte, die man hat? Es ist eine Kreditkarte. Leute, die keine Kreditkarte haben, sind irgendwie aus. Fast alle, würde ich sagen, haben keine Ahnung, wie viele Computer sie haben.

Detjen: Und wo man ständig mit Computern in Verbindung kommt?

Weizenbaum: Ja, es ist nicht nur, dass wir zum Computer gehen. Der Computer ist mit uns fast die ganze Zeit. Und ich glaube, das Bewusstsein des Computers wird in kurzer Zeit, ich würde sagen, in den nächsten zehn Jahren, wird einfach verschwinden. Der Computer wird so überall sein. Wir werden gar nicht darüber nachdenken.

Detjen: Die Welt verschmilzt mit dem Computer?

Weizenbaum: Ja.

Detjen: Die Mediziner und Biologen arbeiten ja auch daran, an der Entwicklung von Neurochips, zum Beispiel an Braincomputer-Interfaces, an sogenannten Minirechnern, die zum Beispiel durch Krankheiten oder Unfälle geschädigte Hirnfunktionen ersetzen sollen. Sie haben das auch schon vorausgesagt vor vielen Jahrzehnten: Entwicklung von Biochips?

Weizenbaum: Ich glaube nicht, dass ich es vorausgesagt habe. Ich glaube, ich habe es beschimpft, und beschimpfe es immer noch. Ich erinnere mich: Zum Beispiel mein Kollege Marvin Minsky, so einer der künstlichen Intelligenz usw., er und manche andere, richtig berühmte Wissenschaftler in Amerika glauben, dass der Zweck der künstlichen Intelligenz ist, wie Minsky sagt, wird The defeat of death, also das Schlagen des Todes. Wir können ewig leben.

Detjen: Minsky sagt ja auch, dass unser Hirn auch in seinem natürlichen Zustand gar nicht so viel anders funktioniert als ein Computer. Minsky sagt: The brain is a meatmachine. Es ist eine fleischliche Maschine.

Weizenbaum: Ja, dazu muss ich etwas sagen. Das Zitat ist: The Brain is nearly a meatmachine. Und da sind zwei Worte drin.

Detjen: Noch mal übersetzt: Das Gehirn ist im Wesentlichen eine Fleischmaschine.

Weizenbaum: Ja, das Wort nearly, es bedeutet nichts anderes als: Es ist nur eine meatmachine. Es ist gar nicht so wichtig, gar nicht so kompliziert oder so etwas. Und dann ist das Wort meat. Und auf Englisch gibt es zwei Worte. Es gibt Fleisch. Und es gibt meat. Und meat ist tot, und damit kann man machen, was man will. Man kann es verbrennen, man kann es essen, man kann es in den Müll werfen, was man will. Fleisch ist aber lebend. Und dafür soll man Respekt haben usw. Und ich glaube gerade, dass Minsky diesen Ausdruck gewählt hat, that The Brain is nearly a meatmachine, bedeutet, so sehe ich das, und ich bin ganz sicher, eine riesige Verachtung des Lebens und sogar des Menschen.

Detjen: Aber man muss es nicht so drastisch formulieren wie Minsky. Die Neurobiologie erklärt uns immer mehr, wie das Gehirn funktioniert als ein komplexes Ineinanderwirken von letztlich elektronischen Impulsen. Was bleibt als Unterschied?

Weizenbaum: Ja, fast alles, was wir wissen, wissen wir metaphorisch, bei Analogie zu irgendetwas anderem. Und einmal war das Gehirn wie die Eisenbahn mit Verbindungen usw. und Signalen und alles das. Und dann wurde es zum Radio oder so etwas und ein Netzwerk und alles das und, man könnte fast sagen, Modeerscheinungen. Vor kurzer Zeit war alles Erklärbare im Sinne von Genen. Du hast kein Gen dafür, wurde gesagt. Das ist wirklich Blödsinn. Aber jedenfalls das war die Mode. Und heute ist die Mode eben die Neuronen. Und in zwei, drei Jahren kommt eine andere Mode. Ja, es ist möglich, metaphorisch das Gehirn in einem gewissen Sinn als eine Reihe von parallelen Computern zu verstehen oder gestalten oder so etwas. Aber schließlich ist es eine Metapher, es ist eine Analogie.

Detjen: Wenn wir diese Entwicklungen anschauen, die Neurobiologen vorantreiben, wirklich das Entwickeln von Neuroimplantaten, dann geht es ja nicht nur um Metaphern. Es geht wirklich drum, das Hirn ganz konkret in bestimmten Funktionen, sicherlich begrenzten Funktionen, zu ersetzen durch Computerbestandteile?

Weizenbaum: Ich komme wieder zurück zu Minsky und das ewige Leben. Und dann entdeckt er, dass ich möchte gar nicht ewig leben. Er war erstaunt: Du möchtest nicht ewig leben? Da habe ich ihm gesagt: Ja, ich möchte leben, solange ich in Würde leben kann, solange es ein Ich gibt. Und was ich dabei meine, ist: Wenn er ein Ersatzteil nach dem anderen und dann Chips im Gehirn usw., schließlich ist das Ich verschwunden. Mein Körper ist zum Teil noch da usw., aber ich werde ein Instrument von den Instrumenten, die mir eingebaut worden sind. Und so möchte ich nicht leben.

Detjen: Ist das nicht eine Vision, mit der wir uns doch ganz konkret beschäftigen müssen? Ein anderer, ehemaliger Kollege von Ihnen am Massachusetts Institute of Technology, Ray Kurzweil, hat vorausgesagt: Im Jahr 2030 werden die Computerbauteile im Menschen die natürlichen Bestandteile überholt haben. Der Mensch wird dann tatsächlich so eine Art Cyborg sein.

Weizenbaum: Ja. Und ich glaube, wir müssen kritisch darüber nachdenken. Und wir müssen diese ganze Richtung mit aller unserer Macht bekämpfen. Wer stellt die Frage, ob das wünschenswert ist? Da gibt es jetzt den berühmten Herrn Levy in Amerika, der jetzt vorhergesagt hat, in 50 Jahren werden wir Roboter haben, die ununterscheidbar sind von Menschen, und Menschen werden tatsächlich solche Roboter heiraten. Das ist ein langes Interview im "Spiegel" und in der "Süddeutschen Zeitung", die es ernst nehmen. Das selbst ist mir unverständlich, warum sie so'n Quatsch ernst nehmen. Aber jedenfalls: Es kann sein, dass das möglich ist. Ich glaube es nicht. Aber wir sollten doch die Frage stellen: Brauchen wir das? Wollen wir das? Wie wird Kultur aussehen, wenn wir so etwas haben?

Detjen: Aber wenn wir es von den globalen Visionen wegnehmen und uns einen etwa Gelähmten vorstellen, dem die Medizin anbieten kann, durch computerisierte Chips bestimmte Körperfunktionen wieder aktivieren zu können, für den muss das doch als eine wünschenswerte Vision erscheinen?

Weizenbaum: Ja, was verloren geht, ist das Maß. Zu welchem Maß sollen wir, dürfen wir so etwas machen? Zum Beispiel mein Sohn hat Parkinson, und zwei Elektroden wurden in sein Gehirn implantiert. Die sind so wie pacemaker, so etwas Ähnliches.

Detjen: Wie Herzschrittmacher …

Weizenbaum: Ja, so etwas. Und solange die ihre Funktion machen, verschwinden die Symptome. Das ist eine große Hilfe. Und wir wissen noch nicht, das ist alles im Anfang, was die Nebenwirkungen sein werden. In diesem Falle ist es eine Frage des Maßes, dass wir so etwas machen. Aber dann Chips im Gehirn, sodass wir zum Beispiel schnell rechnen können, oder dass wir den Enzyclopedia Britannica irgendwie im Gehirn haben, sodass wir we can look something up, als ob wir es wissen sozusagen.

Detjen: Die Vision, das Lexikon im Hirn gespeichert zu haben, programmiert zu haben …

Weizenbaum: … das ist etwas ganz anderes, wenn wir die Grenze überschreiten, die nicht deutlich ist, aber die Grenze überschreiten, wo wir dann das Objekt dieser Elektronik werden, wo es dann kein Ich mehr gibt. Die Genetiker, viele von denen, behaupten: Ja, zu jeder Frage, die gestellt wird, jede kritische Frage, ist die Antwort: Ja, wir werden Alzheimer heilen. Wir werden Krebs heilen. Alles wird verschwinden. Ja, stimmt das?

Detjen: Deutschlandradio Kultur im Gespräch mit dem Computerpionier und Computerkritiker Joseph Weizenbaum, der heute seinen 85. Geburtstag feiert. Herr Weizenbaum, Sie haben in den 60er Jahren selber dazu beigetragen, diese Fragen aufzuwerfen, auch mit Ihren Computerentwicklungen. Sie haben ein Sprachverarbeitungsprogramm ELIZA entwickelt, das als ein Meilenstein in der Entwicklung von künstlicher Intelligenz galt. Es ging darum, eine Kommunikation zwischen einem Computer und Menschen zu ermöglichen, die wie eine menschliche Kommunikation anmutet. Wie hat das damals funktioniert?

Weizenbaum: Zum Beispiel die Idee, der Computer versteht mich. Und was bedeutet Verstehen? Der Computer bearbeitet Symbole, die für den Computer absolut bedeutungslos sind. Und der Computer spuckt dann Signale aus in natürlicher Sprache, also Englisch zum Beispiel. Und es ist dann der Beobachter, der diese Signale interpretiert und sagt: Ja, die sind sehr Menschen-like, menschenähnlich. Ich bin beeindruckt. Aber das bedeutet nicht, dass der Computer das geringste Verständnis hat über das, was gesagt wird. Zum Beispiel, wenn ich dem Computer sage: Gestern hat mich dieses Mädchen, in das ich, ich denke, so fast verliebt bin, hat ihre Hand auf meine Schulter gelegt. Was ich da erlebt habe, das kann ich dir gar nicht sagen. Und der Computer sagt: I understand. Ich verstehe. Na, dann ist es eine Lüge. Da ist doch niemand da in dem Computer. Der Computer ist doch nicht sozialisiert. Er hat doch nie in der Welt gelebt zum Beispiel.

Detjen: Diese Entwicklung von Ihnen hat ja geradezu euphorische Erwartungen ausgelöst.

Weizenbaum: Genau.

Detjen: Wirklich der Erwartungen, zum Beispiel ganz konkret, man könne Psychotherapeuten durch Computer ersetzen. Das hat Sie erschreckt und dann eigentlich zu einem Computerkritiker werden lassen. Was war da der Moment des Wechsels, des Wandels für Sie?

Weizenbaum: Ja, man muss auch verstehen, was für eine Zeit das war. Wir leben in einem Kontext. Und das war in United States of America, da war der Vietnam-Krieg. Da war die Bürgerrechtsrevolution. Das ganze Land war im politischen turmoil. Und da waren auch viele Tragödien. Ich denke zum Beispiel ganz besonders an den Krieg in Vietnam. Und in der Zeit, wenn jemand so einen Stimulus hat, dann nachzudenken, was machen wir eigentlich, scheint mir sehr natürlich zu sein. Es ist nicht vom Saulus zum Paulus oder so etwas, dass da ein bestimmter Anlass war, da passierte etwas, und auf einmal hatte ich eine Einsicht und mein Leben hat sich geändert. In der Tat war mein ganzes Leben, ich glaube, von Kindheit an, ich hatte immer eine kritische, rebellious könnte man sagen, eine Haltung. Und dann hat es sich eben ausgedrückt in dieser Form. Und ganz besonders in einer Universität wie MIT, Sie haben schon Massachusetts Institute of Technology erwähnt, das so eng mit dem Pentagon und damals mit dem Vietnam-Krieg verbunden ist, da staune ich, dass nicht mehr meiner Kollegen angefangen haben, solche Fragen zu stellen.

Detjen: Herr Weizenbaum, Sie haben es gesagt, der größte Teil Ihrer beruflichen Entwicklung fand in den USA, vor allen Dingen an dem legendären MIT, dem Massachusetts Institute of Technology, statt. Sie leben heute und feiern heute Ihren 85. Geburtstag in Ihrer Geburtsstadt, in Berlin. Sie sind von dort 1936 als jüdisches Kind immigriert in die Vereinigten Staaten. Wie kam es zur Rückkehr in Ihre Geburtsstadt?

Weizenbaum: Ach, es war, man könnte fast sagen, ein Zufall. Ich habe einen Humboldtpreis bekommen, der mich zu der Universität in Freiburg gebracht hat. Und da war ich für ein Jahr. Und viele Jahre vorher war ich mal Gastprofessor für ein ganzes Jahr in der TU in Berlin, und da habe ich Freundschaften hier entwickelt. Und als ich da in Freiburg fertig war, dachte ich: Na, da gehe ich für ein Jahr nach Berlin. Ja, es war sehr angenehm. Und ich hatte eine Gesellschaft. Ich hatte Freunde. Ich hatte Leute, mit denen ich sprechen konnte. Und ich habe mich eingelebt. Es stellt sich heraus, MIT ist ein richtiger Druckkessel, und da gibt es sehr wenig soziales Leben. Und wirklich, es ist fast zum ersten Mal in einer ganz, ganz langen Zeit. Wenn ich wirklich Freundschaften hatte und so was, da bin ich einfach geblieben. Es war keine Entscheidung, jetzt kehre ich zurück zu meiner Heimat. Das Wort Heimat, das ist mir sowieso sehr fremd. Und wenn es überhaupt eine Heimat gibt im Sinne Deutschland, dann ist es die Sprache. Es ist nicht das Land. Es ist die Sprache, die mich nicht loslässt. Es ist die deutsche Sprache.

Detjen: Und das ist die deutsche Heimatsprache, in der wir uns heute unterhalten haben. Vielen Dank für den Besuch im Studio, Joseph Weizenbaum! Einen schönen Geburtstag mit Freunden und Kollegen wünsche ich Ihnen! Es gibt ein Symposium heute zu Ihren Ehren und abends dann ein großes Fest für Sie. Einen schönen Geburtstag, alles Gute!

Weizenbaum: Vielen Dank!