Antidiskriminierungsstelle des Bundes
Antidiskriminierungsstelle des Bundes

Studie des ITAS mit Unterstützung der Antidiskriminierungsstelle: Erhebliche Diskriminierungsrisiken durch Algorithmen

16.09.2019, 12:30
Erhebliche Diskriminierungsrisiken durch Algorithmen / Nachweismöglichkeiten für Betroffene sollten verbessert werden

Algorithmen und umfangreiche Datensätze bergen erhebliche Diskriminierungspotentiale im Arbeitsleben, bei der Vergabe von Wohnraum oder in der Kreditwirtschaft, bei der Berechnung von Versicherungstarifen, in der Medizin und bei der Polizei. Darauf weist eine aktuelle Studie hin, die vom Karlsruher Institut für Technikfolgenabschätzung und Systemanalyse (ITAS) mit finanzieller Förderung der Antidiskriminierungsstelle des Bundes erstellt wurde. Die Differenzierung von Personengruppen, wie sie von Algorithmen im Hinblick auf die unterschiedlichsten Informationen, Produkte, Dienste, Entgelt oder Positionen vorgenommen werden, kann dabei insbesondere dann problematisch sein, wenn sie direkt oder indirekt an gesetzlich verbotene Gründe wie das Alter, eine Behinderung, die ethnische Herkunft, das Geschlecht die Religion oder Weltanschauung oder die sexuelle Identität anknüpft.

Anhand von zahlreichen Fallbeispielen zeigt die Studie nicht nur technische und gesellschaftliche Ursachen von Diskriminierungsmöglichkeiten, sondern vor allem auch die daraus resultierenden Risiken auf. Der Autor Dr. Carsten Orwat diskutiert dabei auch den Bedarf an Reformen im Antidiskriminierungs- und Datenschutzrecht und die Notwendigkeit gesellschaftlicher Abwägungen, welche algorithmen- und datenbasierten Differenzierungen in einer Gesellschaft für akzeptabel gehalten werden können.

„Die Studie zeigt klar: Es gibt erhebliche Diskriminierungsrisiken; sie bestehen bereits heute und in zahlreichen Lebensbereichen“, sagt der kommissarische Leiter der Antidiskriminierungsstelle, Bernhard Franke. „Die gute Nachricht ist: Das Allgemeine Gleichbehandlungsgesetz (AGG) gibt mit seinen analog wie digital geltenden Diskriminierungsverboten bereits die richtigen Antworten. Wir brauchen also kein gänzlich neues Recht, sondern müssen das bestehende zukunftsfest machen.“

Die Studie benennt konkrete Regulierungsempfehlungen wie ein Einsichtsrecht in Algorithmen für Antidiskriminierungsstellen und die Etablierung so genannter Algorithmen-Audits, um die Identifizierung und den Nachweis algorithmenbasierter Diskriminierungen zu vereinfachen und die Rechte Betroffener zu stärken. Dazu gehört auch die Schaffung präventiver Angebote wie beispielsweise die Schulung von Personal- bzw. IT-Verantwortlichen.
Auch sollten Unternehmen und Verwaltungen, die Algorithmen in rechtlich sensiblen Bereichen nutzen, konkrete Dokumentationspflichten auferlegt werden, um Diskriminierungen zu vermeiden.

Die Antidiskriminierungsstelle des Bundes hat die Studie am heutigen Montag, den 16. September 2019 im Rahmen eines Fachgesprächs in Berlin vorgestellt.

Die Antidiskriminierungsstelle des Bundes ist eine unabhängige Anlaufstelle für Menschen, die von Diskriminierung betroffen sind. Sie wurde 2006 mit Inkrafttreten des Allgemeinen Gleichbehandlungsgesetzes eingerichtet. Sie betreibt Öffentlichkeitsarbeit und Forschung zum Thema Diskriminierung und bietet eine rechtliche Erstberatung für Menschen, die aufgrund der ethnischen Herkunft, Religion, Weltanschauung, sexuellen Identität, des Alters, einer Behinderung oder des Geschlechts benachteiligt worden sind.
www.antidiskriminierungsstelle.de


Berlin - Veröffentlicht von pressrelations


zurück
Druckversion