Vor einem Jahr wurde die Datenethikkommissorion vom Bundesinnen- und Justizministerium eingerichtet, um Leitlinien für den ethischen Umgang mit Daten und Algorithmen zu erarbeiten. Ende Oktober hat die Kommission nun ihr Abschlussgutachten vorgelegt. Auf knapp 240 Seiten gibt sie 75 Empfehlungen, wie die Politik mit Daten und algorithmischen Systemen umgehen soll.

Die Reaktionen auf den Bericht sind gemischt: "Besser gelungen als erwartet", heißt es auf netzpolitik.org. Auch Lorenz Matzat beurteilt auf Algorithmwatch die Empfehlungen als "eine überfällige und substanzielle Diskussionsgrundlage" und als "Steilvorlage für die Zivilgesellschaft".

Der Industrieverband Bitkom hingegen warnt – erwartungsgemäß – vor Regulierungswut. Aber auch von Medien- und Expertenseite kommt Kritik: GEO-Chefredakteur Christoph Kucklick nennt das Gutachten eine "Blaupause für Totalregulierung der digitalen Sphäre".

Aus Sicht der Politikwissenschaftlerin Lorena Jaume-Palasí sind die Vorschläge der Ethikkommission aus ganz anderen Gründen angreifbar, ja geradezu demokratiegefährdend: Zum einen würden sie "ein technophobes Bild" zeichnen, in dem davon ausgegangen werde, "dass sich Menschen allein durch algorithmische Systeme manipulieren lassen".

Zum anderen fehle dem Bericht der Ethikkommission genau das, was der Titel des Berichts eigentlich verspreche: nämlich "ethische Empfehlungen", die sich auf technische Erneuerungen beziehen und bereits bestehende ethische Richtlinien unserer Gesellschaft ergänzen.

Dabei müsse ein neuer, kollektiver Blick eingenommen werden. Denn bisher würden Demokratien "nur Individuen kennen". Auch das Rechtssystem und der Datenschutz gehen vom Individuum aus. Bei kollektiven Problemen wie Umweltthemen und algorithmischen Systemen stoße die Demokratie mit diesem Ansatz jedoch an ihre Grenzen.

Denn: "Algorithmen kennen nur Kollektive; versuchen, über Durchschnitte Menschen in Schubladen zu stecken, und dabei wird das Individuelle nicht abgebildet. Und wenn man das bedenkt: Einerseits hat man Algorithmen, die Individuen nicht verstehen. Und dann haben wir die Regeln des Demokratischen, die nur Individuen verstehen. Da haben wir ein gewisses Problem."

Als Beispiel nennt Jaume-Palasí Predictive Policing, vorhersagende Polizeiarbeit, die auf Algorithmen basiert und in Deutschland dazu genutzt wird vorherzusagen, in welchen Vierteln in nächster Zeit mit hoher Wahrscheinlichkeit Einbrüche begangen werden.

"Das ist eine Technologie, die auf anonymisierten Daten basiert." Aufgrund der Anonymisierung greife der Datenschutz nicht. "Denn Datenschutz bezieht sich nur auf personenbezogene Daten" – und somit nur auf die individualrechtliche Ebene. "Aber es gibt viele andere Fragen, die man hätte stellen können, wenn man den kollektiven Blick darauf wirft. Fragen wie: Was passiert eigentlich mit den Menschen, die da wohnen? Sehen wir, dass die Mittelschicht einfach wegzieht, weil sie so viel Polizeipräsenz sehen, weil sie sich verunsichert fühlen?" Vor allem aber: "Ist diese Technologie nachhaltig? Ist diese Technologie eine Technologie, die zum sozialen Zusammenhalt beiträgt, oder die dazu führt, dass gerade das Gegenteil passiert, weil wir No-Go-Areas kreieren? Das sind die Fragen, die man hätte stellen können und die die Ethikkommission nicht gestellt hat."

Aus den Vorschlägen der Ethikkommission nun Rechtsnormen zu entwickeln – darin sieht Jaume-Palasí aber geradezu eine Gefahr für die Demokratie. Denn die einheitlichen Vorgaben würden in alle Lebensbereiche eingreifen und so das bisherige Rechtssystem mit seinen verschiedenen Vorgaben und Unterscheidungen "platt machen", so Jaume-Palasí: "Man würde über diese Datenverarbeitungsvorgaben sich in allen Rechtsgebieten auf diese Technikorientiertheit fokussieren."

Beispielsweise müsse man als Anbieter einer IT-Dienstleistung erst einmal nachweisen, dass man nichts Böses vorhabe und eine Erlaubnis einholen. Ansonsten sei es verboten. Das Prinzip "im Zweifel für den Angeklagten" werde hier also ins Gegenteil verkehrt und laute dann: im Zweifel für den Kläger. Dieses Prinzip aus dem Datenschutz werde damit auch auf andere Bereiche ausgeweitet, ohne explizit zu sagen, welche Werte dort geschützt werden sollen.

(lkn)