Diskriminierende Algorithmen: Technische oder soziale Frage?
2021-02-26, 19:15–20:00 (Europe/Zurich), Glassroom

Wie über und durch Algorithmen diskriminiert wird. Zunehmend mehr Entscheidungen werden von automatisierten Computeralgorithmen getroffen und oft unhinterfragt akzeptiert. Dadurch motiviert, diskutieren wir, wie diese Technikgläubigkeit gesellschaftliche Probleme nicht nur reproduziert, sondern auch verstärkt. Eine Einführung in die Funktionsweise der entsprechenden Algorithmen illustriert, warum dieses Problem technisch nicht lösbar ist und es sich im Kern um ein soziales Problem handelt. Nach einem Blick auf die Schweiz und darüber hinaus schliessen wir mit potentiellen Lösungsansätzen.


Zunehmend mehr Entscheidungen in der Privatwirtschaft und staatlichen Institutionen werden von automatisierten Computeralgorithmen getroffen. Meist unbemerkt erleichtern Algorithmen mühselige Aufgaben und extrahieren aus einem komplizierten Datenberg schnell Informationen, womit Prozesse effizienter gestaltet werden sollen. Doch Metallgehäuse und mehr Rechnungskapazitäten liefern nicht wie von Zauberhand bessere und objektive Resultate. Die Anwendung automatisierter Entscheidungsfindungen durch Machine-Learning Algorithmen und Ähnliches führen immer wieder zur Ungleichbehandlung von Menschen, sei es in der Jobsuche, im Gesundheitssystem oder vor Gericht. Diese Diskriminierung versteckt sich jedoch hinter komplexen technischen Abläufen und einem Schleier der Neutralität, der den Maschinen anhaftet. Doch sind nun die Maschinen an der Diskriminierung schuld?

In unserem Vortrag möchten wir genau diese Frage diskutieren und versuchen sie zu beantworten. Wir werden eine Einführung und einen Überblick über die Anwendung und technische Funktionsweise von Algorithmen in automatisierten Entscheidungsfindungen geben. Wie Diskriminierung durch und über Algorithmen funktioniert, werden anhand von verständlichen und relevanten Beispielen durchgehen. Dabei soll ausgeführt werden, dass dies nur bedingt ein technisch lösbares Problem ist. In Bezug darauf und auf die rechtliche Situation in der Schweiz und der EU werden abschliessend Ansatzpunkte zukünftiger Regulierung von und die Notwendigkeit eines bewussten und transparenten Umgangs mit Algorithmen aufgezeigt.

Weiterführendes Material:

Automating Society Report Schweiz (2020) - AlgorithmWatch /CH​

Hagendorff, Thilo (2019): Maschinelles Lernen und Diskriminierung: Probleme und Lösungsansätze, in: Österreichische Zeitschrift für Soziologie, Jg. 44, Nr. 1, S. 53–66​

Orwat, Carsten (2019): Diskriminierungsrisiken durch Verwendung von Algorithmen, (Studie) Berlin: Antidiskriminierungsstelle des Bundes.​

Sommer, David (2021): Machine-Learning-Leitlinien des Bundes, [online]


Niveau

Einstieg

Betreibt Forschung im Bereich Maschine Learning, Privacy und Anonymous Communication aus der technischen Sicht der Informatik.

Studiert Soziologie und Kulturanthropologie an der Universität Basel. Interessensschwerpunkte sind unter anderem soziale Ungleichheit und Digitalisierung.