Mathematische Massenvernichtungswaffen

Konzerne und staatliche Behörden setzen mathematische Modelle ein, die unser Verhalten vorhersagen sollen. Manche von ihnen haben verheerende Auswirkungen. Weapons of Math Destruction (WMD) – mathematische Massenvernichtungswaffen – nennt Cathy O‘Neil diese Modelle in ihrem Buch "Angriff der Algorithmen". Die promovierte Mathematikerin zeigt, wie sie Ungleichheit fördern und zementieren, und welche zerstörerische Kraft sie entfalten können.

In Washington DC wurden Lehrer auf Grund dubioser Annahmen eines Algorithmus-Modells entlassen. Skrupellose Kredithaie suchen mit deren Hilfe nach bedürftigen Menschen, um ihnen teure Kredite zu verkaufen. Versicherungen berechnen, wie wahrscheinlich sich ein Kunde nach alternativen Angeboten umsehen wird – und verteuern ihre Tarife, wenn er das vermutlich nicht macht. Auf Effizienz getrimmte Personaleinsatzplanungssoftware zwingt Angestellten unmenschliche Arbeitsrhythmen auf. Und das sind nur einige Beispiele aus Cathy O‘Neils Buch für die Auswirkungen der Datenwirtschaft auf unser Leben.

Das Internet ist für Datenanalysten ein Labor. Mit personalisierter Werbung, sogenanntem Microtargeting, lässt sich so schnell wie nie zuvor herausfinden, welche Werbung auf wen welche Wirkung hat. Mathematiker analysieren unsere Bewegungsprofile, Suchanfragen und Facebook-Likes, und prognostizieren daraus unser Kauf- und Wahlverhalten, unsere Kreditwürdigkeit, die Eignung für einen Job, unseren Bildungsstand oder die Wahrscheinlichkeit, ein Verbrechen zu begehen. Die meisten dieser Algorithmen sind eine Black Box. Kein Außenstehender könne nachvollziehen, wie die Software ihn bewerte, kritisiert Cathy O‘Neil. Das mache sie nahezu unangreifbar.

In klaren Worten durchdenkt O‘Neil konsequent die Logik einiger besonders ungerechter Algorithmus-Modelle. Ganz ohne Programmcode und Mathematik erzählt sie, was ein gutes Modell von einem schlechten unterscheidet, zeigt, welche Fehler oder unwissenschaftlichen Annahmen einer "mathematischen Massenvernichtungswaffe" zugrunde liegen können und welche Folgen das hat.

"Angriff der Algorithmen" ist ein beunruhigender Blick hinter die Kulissen der Datenwirtschaft und ein Appell für menschlichere Modelle, die mehr auf Gerechtigkeit achten und weniger auf Profite und Effizienz. Für den deutschen Leser ist es bedauerlich, dass das Buch ausschließlich amerikanische Verhältnisse beschreibt. Dabei sind viele der geschilderten Szenarien auch hierzulande bereits anzutreffen, wenn auch abgemildert durch das deutlich schärfere Datenschutzrecht. Cathy O‘Neils Warnung, wichtige Entscheidungen, die das Wohl anderer Menschen betreffen, nicht ausschließlich in die Hände undurchschaubarer Algorithmen zu legen, gilt natürlich für die weltweite Datenwirtschaft. Ihre Aufklärungsarbeit, die auf eine immer stärker werdende Spaltung der Gesellschaft und eine schleichende Entmündigung durch Maschinen aufmerksam macht, verdient eine breite Leserschaft.