Christoph Drösser: Total berechenbar?
Wenn Algorithmen für uns entscheiden
Hanser Verlerg, München 2016
250 Seiten, 17,90 Euro
Was Algorithmen mit unseren Daten machen
Netflix, Facebook, Kriminalprävention: Immer mehr Klicks werden aufgezeichnet und analysiert. Was Algorithmen mit den Daten anfangen können, das versucht Christoph Drösser zu erklären. Sein Ziel: Bewusstsein zu schaffen, statt Angst zu schüren.
Netflix wollte Kevin Spacey. Bedingungslos. Einen Pilotfilm für House of Cards? Nicht nötig. Zumindest erzählt er das so:
"Netflix was the only Network, that said - we believe in you. We've run our data and it tells us, that the audience would watch the series. We don't need to do a pilot."
Der Streaming Dienst habe seine Daten ausgewertet und die hätten gezeigt: das Publikum will die Serie. Spaceys Botschaft auf dem International Television Festival in Edinburgh 2013 war:
"The audience wants the control. They want the freedom."
Aber geht es Firmen wie Netflix darum, dem Publikum Kontrolle und Freiheit zu geben? Der Wissenschaftsjournalist und Autor Christoph Drösser fragt in seinem Buch, mit welchen Algorithmen wir im Alltag in Berührung kommen. Wie sie unser Verhalten berechnen, vorhersagen oder auch beeinflussen können. Im Fall Netflix scheint es auf den ersten Blick, als gehe es darum, den Abonnenten neue Filme zu empfehlen
"Aber das Beispiel ‚House of Cards‘ zeigt, dass die Daten über den Geschmack der Nutzer für millionenschwere Investitionsentscheidungen ausschlaggebend sein können."
Wie berechnet man eigentlich Nähe?
Um den Geschmack der Abonnenten abzulesen und die eigenen Empfehlungen zu verbessern, hat der Dienst die "Netflix-Quantentheorie" entwickelt. Menschliche Testseher analysieren jeden einzelnen Film und taggen, also markieren ihn nach vielen tausend Kategorien.
"Wie romantisch ist der Film? Wie endet er? Ist der Hauptdarsteller sozial akzeptabel oder ein Außenseiter? Wo spielt der Film? Das Handbuch, mit dem die menschlichen ‚Tagger‘ arbeiten, umfasst 36 Seiten. Jeder Film wird seziert, in seine kleinsten Bestandteile zerlegt. Das ist die Basis für den inhaltsbasierten Empfehlungsalgorithmus."
Die meisten Streaming-Dienste, erklärt Drösser, funktionieren sowohl mit inhaltsbasierten als auch mit sogenannten kollaborativen Filtern. Eine Funktion, die durch eine Floskel berühmt geworden ist.
"Kunden, die diesen Artikel gekauft haben, kauften auch…"
Ausgedehnte Ausflüge in die höhere Schulmathematik
Hier kommt Drösser auf sein Spezialgebiet, das im Buch viel Raum einnimmt. Der studierte Mathematiker und Wissenschaftsjournalist schreibt nicht nur über Algorithmen, sondern unternimmt auch ausgedehnte Ausflüge in die höhere Schulmathematik.
"Wir wollen berechnen, wie nahe Claudia an den Geschmäckern der drei anderen liegt. Sollen ihr die Filme empfohlen werden, die Anne mag? Oder Ben? Oder Dennis? ‚Nähe‘ kann man nur berechnen, wenn man den Abstand kennt, sich also in einem Raum befindet, in dem es ein solches Abstandsmaß gibt. In welchem Raum tun wir das?"
Zum Beispiel in einem zweidimensionalen Koordinatensystem. Drösser hat die Bewertung der vier Filmfans darin eingetragen, um sie jeweils mit dem Nullpunkt zu verbinden und die Winkel zwischen den Strahlen zu vergleichen.
"Genauer gesagt, berechnet man den Kosinus des entsprechenden Winkels und erhält dann einen Wert zwischen Minus 1 und 1. Der Wert 1 bedeutet dabei die größte ‚Nähe‘, der Wert Minus 1 die denkbar kleinste. Und in diesem Fall ist Dennis am nächsten an Claudias Geschmack."
Und was Dennis mag, wird höchstwahrscheinlich auch Claudia vorgeschlagen. Aber was geschieht, wenn Algorithmen nicht nur im Stande sind, Ähnlichkeiten zu berechnen, sondern anhand der kombinierten Datenmengen auch künftige Handlungen kalkulieren? Das ist keine Science Fiction mehr.
Wenn Algorithmen Zukunft vorhersagen
Im Film ‚Minority Report‘ wird Howard Marks wegen des zukünftigen Mordes an Sarah Marks festgenommen. In der Geschichte des Science-Fiction-Autors Philip K. Dick können Verbrechen von sogenannten Präkogs vorhergesehen werden. Anders ist es bei Algorithmen.
Bei der ‚Prädiktiven Analyse‘ wird die Zukunft berechnet. In welcher Straße sollte die Polizei morgen Nachmittag Streife fahren, weil dort mit hoher Wahrscheinlichkeit Einbrecher unterwegs sein werden? Und was sagt das über die Bonität der dort lebenden Menschen aus? Das alles ist längst keine Science Fiction mehr. Deshalb kann auch der Wohnort die Entscheidung der Finanzinstitute darüber beeinflussen, ob sie Kredite verweigern oder wann sie Kreditkarten sperren.
"Ob ein Kreditkartenbetrug vorliegt oder nicht, ist eine eindeutige Frage. Aber ob ein Kunde kreditwürdig ist oder nicht, erweist sich erst im Nachhinein. Hinter Programmen, die das beurteilen sollen, stecken Annahmen, Voraussetzungen, Ziele, die überhaupt nicht klar und objektiv sind. Die können von Auftraggebern stammen oder vom Programmierer, der die Interessen des Auftraggebers möglichst genau in Code umsetzen will."
Keine grundsätzliche Offenlegung aller Algorithmen
Drösser spricht sich grundlegend dafür aus, dass die Regeln für Algorithmen offengelegt werden. Gerade bei der Kreditvergabe oder bei der Kriminalitätsprävention. Nur so könne nachgewiesen werden, dass keine diskriminierenden Faktoren wie Religion, Hautfarbe, Geschlecht oder Wohngegend eine Rolle spielen. Doch Drösser fordert keinesfalls, alle Algorithmen offenzulegen.
Wie geheim dürfen Algorithmen sein?
"In Europa verlangen Politiker oft von Google, seinen Suchalgorithmus der Öffentlichkeit zugänglich zu machen. Aber wenn der Algorithmus öffentlich ist, kann auch jeder seine Schwächen ausnutzen - mit der Folge, dass Spammer und Suchmaschinenoptimierer es in die vordersten Positionen der Ergebnisliste schaffen."
Christoph Drösser hat sich vorgenommen, die Algorithmen zu entmystifizieren und die Diskussion über ihre Macht zu erden. Dem Ziel ist er mit dem Buch ein Stück näher gerückt. Seine ausgedehnten Rechenbeispiele sind je nach Vorwissen seines Publikums durchaus gewinnbringend und schaffen ein Verständnis für Möglichkeiten und Grenzen von Algorithmen. Schade, dass der Autor bei der Wahl seiner Beispiele zu überholten Geschlechterklischees neigt.
Ein Reiz des Buches ist, dass es an aktuelle Debatten, zum Beispiel über Verschlüsselung, Filterblasen oder vorhersagende Polizeiarbeit anknüpft.
Leserinnen und Lesern finden in Drössers Buch keine Tipps und Tricks für Handlungen und Entscheidungen in der digitalen Welt. Vielen dürfte er aber ein besseres Rüstzeug für diese Entscheidungen an die Hand geben. Damit kommt Drösser dem Prinzip von Freiheit und Kontrolle des Publikums näher, als es Netflix oder Kevin Spacey gelungen ist.
