Debatte um Scores und Einordnungsysteme

Sind Bewertungen durch Algorithmen diskriminierend?

Mann kämpft sich bergauf mit großem Daumen runter-Zeichen PUBLICATIONxINxGERxSUIxAUTxONLY Copyright: xGaryxWatersx
"Es ist nicht so, dass wir diesen Scores und Algorithmen hilflos ausgeliefert wären", sagt Bildungsforscher Gert Wagner. © imago stock&people
Gert Wagner im Gespräch mit Axel Rahmlow |
Scores, Bewertungen gibt es mittlerweile wohl über jeden. Doch nicht die Bewertungen seien das Problem, sondern wenn nicht die Möglichkeit bestehe, diese zu kontrollieren und gegen sie Einspruch einzulegen, sagt der Bildungsforscher Gert Wagner.
Bewertungssysteme sind keine Erfindung unserer Zeit. Doch da solche Systeme derzeit immer häufiger werden und von Computern erstellt würden, werde es wichtiger, die Systemkriterien dafür öffentlich und transparent zu machen, sagt Bildungsforscher Gert Wagner. Er ist Hauptautor eines Gutachtens des Verbraucherschutzministeriums über sogenannten Scorings.
Schlüsselelement eines verbrauchergerechten und menschenwürdigen Scorings sei die Transparenz, sagt Wagner. "Es muss klar sein, wie der Score entsteht – das ist bei Schulnoten oder in Flensburg der Fall – und man muss Einspruch einlegen können."

Benachteiligung auch ohne Scores

Wagner widerspricht dem Vorwurf, dass mit einem Scoring Bewertungsmöglichkeiten geschaffen werden, die dann zu einer einer Diskriminierung führen. Diskriminierung gebe es schließlich auch ohne solche Scores, sagt Wagner. "Wenn ein Vermieter an eine bestimmte Gruppe seine Wohnungen nicht vermietet und er redet nicht darüber, dann hat man überhaupt keine Chance, ihm auf die Schliche zu kommen. Wenn aber ein Algorithmus so entscheidet, dann kann man das eben nachprüfen, feststellen, warum er so entscheidet."

Diskriminierungsfreiheit programmieren

Und in einem weiteren Schritt könne man dann dafür sorgen, dass dieser Algorithmus umprogrammiert werden muss. Algorithmen stellten auch eine Chance dar, weil es nicht länger eine stillschweigende Diskriminierung gebe, sondern weil es hier klar Eckwerte gebe, die für die Einteilung verantworlich sind, die man identifizieren und gewichten könne, so Wagner.
"Ob man dann eine bestimmte Diskriminierung nicht will, ist eine Frage, die die Gesellschaft beantworten muss, die der Gesetzgeber verantworten muss. Aber gerade in einem Algorithmus kann man Diskriminierungsfreiheit recht gut einbauen, allerdings muss man im ersten Schritt wissen, was der Algorithmus eigentlich macht und da sind wir wieder bei dem Punkt Transparenz" sagt Wagner.
(str)
Mehr zum Thema