Der Film "I, Robot" von 2004 muss sehr häufig herhalten, wenn es um Roboter geht, die für den Menschen gefährlich werden. Hier entwickeln die als Haus- und Hofsklaven gedachten Maschinen ein Bewusstsein. Im Film unterhalten sich zwei Roboter – und schnell wird klar, sie sind den Menschen nicht freundlich gesinnt.

Roboter, die Menschen bedrohen – ziemlich genau das Angstszenario, das in der Diskussion um künstliche Intelligenz immer wieder aufkommt.

Die Werbung für den Roboter NAO der Firma Softbank hingegen soll das genaue Gegenteil bewirken. Ein Werbefilm zeigt einen halben Meter großen humanoiden Roboter, der durch seine knubbeligen Arme und sein rundes Gesicht freundlich wirkt. Er kann 20 Sprachen verstehen, sich frei bewegen, über das Netz gesteuert werden, Gesichter erkennen und sogar kleinere Werkzeuge in den Händen halten.

Gedacht ist er für Studien- und Schulklassen, für Robotikforscher und interessierte Bastler mit dem nötigen Kleingeld. Das Ziel des Herstellers jedoch: Roboter in unser tägliches Leben einweben – als beweglicher, allwissender Butler.
Der argentinische Hacker Lucas Apa hat unter anderem einen NAO-Roboter für Forschungen zuhause.
"Ernsthaft: Immer wenn ich schlafen gehe, mache ich ihn aus und drehe sogar noch die Kameras zur Wand."

Lucas Apa und sein Kollege Cesar Cerrudo haben guten Grund, besorgt zu sein. Nicht weil die Roboter besonders intelligent, sondern weil sie nicht besonders intelligent gesichert sind. Sie konnten sich in den NAO, wie auch in den Haushaltsroboter Alpha 2 hacken – mit erschreckenden Ergebnissen, erzählt Apa.
"Die größten zwei Gefahren dieser Haushaltsroboter sind folgende: Einmal können sie mit ihrer Umwelt interagieren. Es ist etwas anderes, als einen Computer zu hacken. Sie können sich bewegen, Objekte greifen. Und für den Alpha2 hat der Hersteller ein Werbevideo gemacht, in dem er einen Schraubendreher hält."
Lucas Apa hat die Werbung zum Anlass genommen, zu testen, ob die Fähigkeiten des kleinen Roboters auch von Hackern missbraucht werden könnten.
"Weil das Unternehmen damit also wirbt, haben wir ihn gehackt und seine Bewegungen kontrolliert. Wir zeigen wie wir mit einem Schraubendreher auf eine Tomate einstechen. Das könnte aber auch ein kleiner Hund oder ein Mensch sein."

Das Szenario, das ein Hacker einen Haushaltsroboter zum Killer macht, gehört wohl eher in das Thriller-Genre. Die zweite Sicherheitslücke dagegen ist zwar nicht direkt physisch gefährlich, könnte jedoch weitaus größeren Schaden anrichten, erklärt Apa.

Die Wege, mit denen sie die Roboter manipulierten, waren erstaunlich einfach. Der chinesische Alpha2 läuft unter einem älteren Android-System und verschlüsselt seine Kommunikation mit Servern und W-Lan-Netzen nicht. Für die Hacker war es kein Problem, eine Man-in-the-middle-Attacke auszuführen, sich also direkt in die Kommunikation zu hacken.

Und der Roboter NAO wurde mit einer Software ausgeliefert, die eigentlich nur für die Entwicklung gedacht war. Die japanische Firma Softbank brachte ihn aber frühzeitig und ungesichert auf den Markt. Lucas Apa zeigt sich von den gefundenen Sicherheitslücken kaum überrascht:
"Das große Problem bei neuer Technologie ist, dass sie vor allem die Öffentlichkeit beeindrucken muss. Denn nur wenn die Unternehmen viele Geräte verkaufen, lohnen sich die hohen Investitionen in die Forschung. Deswegen investieren sie viel Geld in Marketing und zeigen die Roboter auf Konferenzen. Aber nirgends auf den Marketing-Seiten haben wir Sicherheitsfeature gefunden – deswegen haben wir auch nicht viel erwartet."

Die Unternehmen reagierten auf die Erkenntnisse der Hacker abwiegelnd. Sie hätten alle diese Sicherheitslücken geschlossen. Lucas Apa und seine Kollegen haben allerdings in den Updates keine Veränderungen gefunden, die darauf hinweisen.

Gleichzeitig ist damit eine weitere Frage ungeklärt: Wer ist verantwortlich, wenn ein Roboter gehackt wird, er jemanden verletzt oder ausspioniert?

In den meisten Fällen sind die Besitzer laut AGBs selbst für alles haftbar, was der Roboter zuhause tut. Wenn ein Haushaltsroboter eine teure Vase umschmeißt, dann ist dies vielleicht noch zu verkraften, doch die Sicherheitsforscher zeigen, dass sie auch einen Industrieroboter hacken konnten. Der Roboter ist eigentlich nur ein großer Arm, der in einer Fabrik neben Menschen arbeitet, dort schweißt oder schwere Lasten trägt.

Hier könnte eine ganze Serie von Produkten zerstört, Produktionen lahmgelegt - und wirklich schwere Verletzungen zugefügt werden.

Erschreckender noch als die Erkenntnis, dass eine Fremdsteuerung möglich ist, ist die, dass die Unternehmen selbst dafür sorgen, dass ganze Roboterflotten übernommen werden könnten, erklärt Apa.
"Selbst wenn du der Besitzer bist, die Hersteller haben immer noch Zugriff, eine Möglichkeit der Kontrolle. Wenn also das Unternehmen selbst gehackt wird, dann könnte man gleich alle Roboter auf einmal steuern."
Ein Gerät, das ans Netz angeschlossen ist und nicht von Anfang an gesichert ist, kann und wird gehackt werden. Die momentan einzige Antwort der Unternehmen auf diese Gefahr ist: Alles nicht so schlimm, schaut wie niedlich und praktisch die Roboter sind.

Wie beispielsweise Pepper, die große Schwester von NAO, die in Japan schon Kunden in Geschäften betreut und viele ältere Menschen zuhause als Gesprächspartner schätzen. Ein freundlicher Roboter – mit den gleichen schweren Sicherheitslücken.

(mw)