Wie Technologie Rassismus verstärkt
33:11 Minuten
![Videokamera, zur Überwachung, an einem Gebäude. Videokamera, zur Überwachung, an einem Gebäude.](https://bilder.deutschlandfunk.de/FI/LE/_8/5b/FILE_85bb52b27be4f265ec11862286dab138/imago0054880063h-jpg-100-1920x1080.jpg)
Auf weiße Gesichter trainierte Gesichtserkennung, Predictive Policing mit diskriminierenden Datensätzen: Wie viel Rassismus steckt in Algorithmen oder den ihnen zugrunde liegenden Daten? Außerdem: Politik auf TikTok und Black Lives Matter in Games.
Die Proteste in den USA gegen Polizeigewalt und Rassismus haben nun auch Einfluss auf die Tech-Konzerne: Anfang der Woche kündigte IBM an, sich aus dem Geschäft mit Gesichtserkennungssoftware zurückzuziehen. In einem Brief an US-Abgeordnete erklärte das Unternehmen, man wolle nicht zulassen, dass Technologie für Massenüberwachung, rassistische Diskriminierung oder Menschenrechtsverletzungen verwendet wird.
Kurz darauf zogen Amazon und Microsoft nach und kündigten an, ihre Systeme der Polizei vorerst nicht mehr zur Verfügung zu stellen.
Der Einsatz von Gesichtserkennung ist nicht nur auf Demonstrationen in Bezug auf die Versammlungsfreiheit problematisch. In China beispielsweise wird Gesichtserkennung eingesetzt, um die uigurische Minderheit zu überwachen und zu schikanieren. Zudem belegen Studien, dass die Technologie Rassismus und Diskriminierung reproduziert, weil sie vor allem auf weiße Gesichter trainiert ist.
In einem Gastbeitrag auf Netzpolitik.org fragt Sarah Chander von der Organisation European Digital Rights: "Welche technologischen Entwicklungen können und wollen wir nicht akzeptieren?" Chander schreibt: "Die Systeme, die eingesetzt werden, um unser Leben zu verbessern, sollten daran gemessen werden, ob sie das auch schaffen – und zwar unabhängig davon, wie viel Geld wir haben, ob wir Geschlechternormen einhalten, woher wir kommen oder welche Hautfarbe wir haben."
Wir sprechen mit Sarah Chander und fragen: Welchen Einfluss hat die Positionierung einiger Tech-Konzerne auf die Debatte und wie können in Zukunft Rassismus und Diskriminierung in Algorithmen vermieden werden?
TikTok als Plattform politischer Aktion
Die Videoplattform TikTok gewinnt weiter an Popularität: Im letzten Jahr war die App auf Platz zwei der weltweiten Downloads, im ersten Quartal 2020 hat sie mit mehr als 315 Millionen Downloads einen Rekord aufgestellt. Lange wurde das Netzwerk für seine vermeintlich banalen Inhalte wie Tanzchoreografien, Musiksynchronistationen oder Comedy belächelt, doch schon länger spielt dort auch Politik eine Rolle.
Die Proteste rund um George Floyds Tod hätten die Politisierung der Plattform zusätzlich beschleunigt, sagt der Datenforscher Juan Carlos Medina Serrano auf bento.de. Serrano hat die politische Kommunikation auf TikTok am Beispiel der USA untersucht und die Ergebnisse in der Studie "Dancing to the partisan beat" veröffentlicht.
Wir sprechen mit Juan Carlos Medina Serrano über die politischen Inhalte auf TikTok, die Unterschiede zu anderen sozialen Netzwerken und über die Kritik an der chinesischen Plattform.
Black Lives Matter und die Gaming-Szene
Der popkulturelle Kosmos der Computerspiele ist einerseits dafür bekannt, auf völlig neuen Wegen politische Fragestellungen zu diskutieren, andererseits werden gesellschaftliche Debatten in Games teilweise explizit vermieden: weil ja alles "nur ein Spiel" ist. Wie die Diskussion um Black Lives Matter geführt wird und was die Bewegung in der Gaming-Szene ausgelöst hat, berichtet Marcus Richter.
Zum Beispiel hat die Indie-Plattform itch.io ein "Bundle for Racial Justice and Equality" geschnürt und damit fast sechs Millionen Dollar für die Black Lives Matter-Bewegung gesammelt. Der Spielekonzern Activision Blizzard hat angekündigt, vier Millionen Dollar zu spenden. Doch ingesamt erweckt die Branche den Eindruck, dass sie sich nur so weit solidarisiert, wie es aus PR-Zwecken notwendig ist.
Dass Games auffallend Weiß sind, beschreibt der Beitrag "50 Shades of White: Schwarze Avatare in Games", der ursprünglich im Spielemagazin WASD erschienen ist und nun auf dem Blog Grenzgamer noch einmal veröffentlicht wurde.
Manipulatives Design
Ob beim Akzeptieren von Cookies, in Webshops oder auf Buchungsseiten: Oft sollen Nutzer zu Handlungen verführt werden, die sie selbst eigentlich gar nicht wollen. Das passiert durch sogenannte "Dark Patterns" – so nennt der Webdesigner Harry Brignull Design, das die Nutzer in die Irre führt. Wie genau das aussieht, hat sich Hagen Terschüren angeschaut.
Team
Moderation: Jenny Genzmer und Dennis Kogel
Redaktion: Jochen Dreier und Jana Wuttke
Beiträge: Marcus Richter, Hagen Terschüren
Webredaktion: Nora Gohlke
Redaktion: Jochen Dreier und Jana Wuttke
Beiträge: Marcus Richter, Hagen Terschüren
Webredaktion: Nora Gohlke