Algorithmische Profilerstellung von Arbeitssuchenden in Österreich: Wie Sparpolitik effektiv gemacht wird

Zuletzt aktualisiert am von KURS-Manager

0/5 Sterne (0 Stimmen)

ORIGINALER FORSCHUNGSARTIKEL

Algorithmische Profilerstellung von Arbeitssuchenden in Österreich: Wie Sparpolitik effektiv gemacht wird

imageDoris Allhutter  , imageFlorian Cech  , imageFabian Fischer  , imageGabriel Grill  und imageAstrid Mager 
 
 
  • 1 Institut für Technologiebewertung, Österreichische Akademie der Wissenschaften, Wien, Österreich
  • 2 Zentrum für Informatik und Gesellschaft, Fakultät für Informatik, Technische Universität Wien (TU Wien), Wien, Österreich
  • 3 School of Information, Universität von Michigan, Ann Arbor, MI, USA

Ab 2020 nutzt das öffentliche Arbeitsamt Österreich (AMS) die algorithmische Profilerstellung von Arbeitssuchenden, um die Effizienz seines Beratungsprozesses und die Wirksamkeit aktiver Arbeitsmarktprogramme zu steigern. Basierend auf einem statistischen Modell der Aussichten von Arbeitssuchenden auf dem Arbeitsmarkt wurde das als AMS-Algorithmus bekannte System entwickelt, um Kunden des AMS in drei Kategorien einzuteilen: diejenigen mit hohen Chancen, innerhalb eines halben Jahres eine Arbeit zu finden Jahr, diejenigen mit mittelmäßigen Aussichten auf dem Arbeitsmarkt und diejenigen Kunden mit schlechten Beschäftigungsaussichten in den nächsten 2 Jahren. Abhängig von der Kategorie, in die ein bestimmter Arbeitssuchender eingestuft wird, wird ihm unterschiedliche Unterstützung beim (Wieder-) Eintritt in den Arbeitsmarkt angeboten. Basierend auf Wissenschafts- und Technologiestudien, kritischen Datenstudien und Fairnessforschung, Rechenschaftspflicht und Transparenz algorithmischer Systeme In diesem Artikel wird die inhärente Politik des AMS-Algorithmus untersucht. Eine eingehende Analyse der relevanten technischen Dokumentation und der Richtliniendokumente untersucht die entscheidenden konzeptionellen, technischen und sozialen Auswirkungen des Systems. Die Analyse zeigt, wie das Design des Algorithmus von technischen Erträgen, aber auch von sozialen Werten, Normen und Zielen beeinflusst wird. Eine Diskussion der Spannungen, Herausforderungen und möglichen Verzerrungen, die das System mit sich bringt, stellt die Objektivität und Neutralität von Datenansprüchen und die großen Hoffnungen in Frage, die auf evidenzbasierten Entscheidungen beruhen. Auf diese Weise beleuchtet das Papier die Koproduktion von (halb-) automatisierten Managementpraktiken in Arbeitsagenturen und die Gestaltung der Arbeitslosigkeit im Rahmen der Sparpolitik. In diesem Artikel wird die inhärente Politik des AMS-Algorithmus untersucht. Eine eingehende Analyse der relevanten technischen Dokumentation und der Richtliniendokumente untersucht die entscheidenden konzeptionellen, technischen und sozialen Auswirkungen des Systems. Die Analyse zeigt, wie das Design des Algorithmus von technischen Erträgen, aber auch von sozialen Werten, Normen und Zielen beeinflusst wird. Eine Diskussion der Spannungen, Herausforderungen und möglichen Verzerrungen, die das System mit sich bringt, stellt die Objektivität und Neutralität von Datenansprüchen und die großen Hoffnungen in Frage, die auf evidenzbasierten Entscheidungen beruhen. Auf diese Weise beleuchtet das Papier die Koproduktion von (halb-) automatisierten Managementpraktiken in Arbeitsagenturen und die Gestaltung der Arbeitslosigkeit im Rahmen der Sparpolitik. In diesem Artikel wird die inhärente Politik des AMS-Algorithmus untersucht. Eine eingehende Analyse der relevanten technischen Dokumentation und der Richtliniendokumente untersucht die entscheidenden konzeptionellen, technischen und sozialen Auswirkungen des Systems. Die Analyse zeigt, wie das Design des Algorithmus von technischen Erträgen, aber auch von sozialen Werten, Normen und Zielen beeinflusst wird. Eine Diskussion der Spannungen, Herausforderungen und möglichen Verzerrungen, die das System mit sich bringt, stellt die Objektivität und Neutralität von Datenansprüchen und die großen Hoffnungen in Frage, die auf evidenzbasierten Entscheidungen beruhen. Auf diese Weise beleuchtet das Papier die Koproduktion von (halb-) automatisierten Managementpraktiken in Arbeitsagenturen und die Gestaltung der Arbeitslosigkeit im Rahmen der Sparpolitik. Eine eingehende Analyse der relevanten technischen Dokumentation und der Richtliniendokumente untersucht die entscheidenden konzeptionellen, technischen und sozialen Auswirkungen des Systems. Die Analyse zeigt, wie das Design des Algorithmus von technischen Erträgen, aber auch von sozialen Werten, Normen und Zielen beeinflusst wird. Eine Diskussion der Spannungen, Herausforderungen und möglichen Verzerrungen, die das System mit sich bringt, stellt die Objektivität und Neutralität von Datenansprüchen und die großen Hoffnungen in Frage, die auf evidenzbasierten Entscheidungen beruhen. Auf diese Weise beleuchtet das Papier die Koproduktion von (halb-) automatisierten Managementpraktiken in Arbeitsagenturen und die Gestaltung der Arbeitslosigkeit im Rahmen der Sparpolitik. Eine eingehende Analyse der relevanten technischen Dokumentation und der Richtliniendokumente untersucht die entscheidenden konzeptionellen, technischen und sozialen Auswirkungen des Systems. Die Analyse zeigt, wie das Design des Algorithmus von technischen Erträgen, aber auch von sozialen Werten, Normen und Zielen beeinflusst wird. Eine Diskussion der Spannungen, Herausforderungen und möglichen Verzerrungen, die das System mit sich bringt, stellt die Objektivität und Neutralität von Datenansprüchen und die großen Hoffnungen in Frage, die auf evidenzbasierten Entscheidungen beruhen. Auf diese Weise beleuchtet das Papier die Koproduktion von (halb-) automatisierten Managementpraktiken in Arbeitsagenturen und die Gestaltung der Arbeitslosigkeit im Rahmen der Sparpolitik. sondern auch durch soziale Werte, Normen und Ziele. Eine Diskussion der Spannungen, Herausforderungen und möglichen Verzerrungen, die das System mit sich bringt, stellt die Objektivität und Neutralität von Datenansprüchen und die großen Hoffnungen in Frage, die auf evidenzbasierten Entscheidungen beruhen. Auf diese Weise beleuchtet das Papier die Koproduktion von (halb-) automatisierten Managementpraktiken in Arbeitsagenturen und die Gestaltung der Arbeitslosigkeit im Rahmen der Sparpolitik. sondern auch durch soziale Werte, Normen und Ziele. Eine Diskussion der Spannungen, Herausforderungen und möglichen Verzerrungen, die das System mit sich bringt, stellt die Objektivität und Neutralität von Datenansprüchen und die großen Hoffnungen in Frage, die auf evidenzbasierten Entscheidungen beruhen. Auf diese Weise beleuchtet das Papier die Koproduktion von (halb-) automatisierten Managementpraktiken in Arbeitsagenturen und die Gestaltung der Arbeitslosigkeit im Rahmen der Sparpolitik.

 

1. Einleitung

In den letzten 30 Jahren haben die Sozialversicherungssysteme in ganz Europa einen paradigmatischen Wandel des Wohlfahrtsstaates zu einem „befähigenden Staat“ durchlaufen ( Deeming und Smyth, 2015 ). Im Rahmen wachsender Arbeitslosen- und Sparmaßnahmen ist „die Sozialpolitik durch eine Verlagerung hin zu Aktivierungsregimen gekennzeichnet, die darauf abzielen, die Eigenverantwortung der Bürger zu mobilisieren“ ( Glinsner et al., 2018 , S. 1) und den auf Rechten basierenden Zugang zu ergänzen oder ersetzen Wohlergehen. Die Arbeitsverwaltungen wurden in verbraucherorientierte Dienstleister umgewandelt ( Penz et al., 2017 ). Sie werden von einem Management regiert, das „Geld sparen, die Effizienz steigern und gleichzeitig die öffentlichen Bürokratien dazu verpflichten will, gegenüber ihren Bürgernutzern reaktionsfähiger zu handeln“ (Pollitt und Bouckaert, 2011 , p. 6). Der Arbeitsmarktservice, AMS) wurde zwischen Mitte der 1990er und Anfang der 2000er Jahre zu einer halbautonomen Agentur umgebaut ( Ludwig-Mayerhofer und Wroblewski, 2004 ). Wie Penz et al. (2017 , S. 549) Studie zur unternehmerischen Governance von Arbeitsagenturen in Österreich, Deutschland und der Schweiz zeigt, dass ihr „übergeordnetes Ziel […] - und der wichtigste Leistungsindikator - in der schnellen (und nachhaltigen) Wiedereingliederung von Arbeitssuchenden in die EU besteht Arbeitsmarkt."

Im Oktober 2018 kündigte das AMS Pläne zur Einführung eines algorithmischen Profilierungssystems an. Basierend auf einem statistischen Modell der Aussichten von Arbeitssuchenden auf dem Arbeitsmarkt soll das System Arbeitssuchende in drei Kategorien einteilen:

• Gruppe A: Kurzfristig hohe Aussichten

• Gruppe C: Langfristig niedrige Aussichten

• Gruppe B: Mittelmäßige Aussichten, dh Arbeitssuchende, die nicht zu Gruppe A oder C gehören.

Abhängig von der Kategorie, in die ein bestimmter Arbeitssuchender fällt, wird ihm unterschiedliche Unterstützung beim (Wieder-) Eintritt in den Arbeitsmarkt angeboten. Gruppe A besteht aus Kunden mit einer Wahrscheinlichkeit von mehr als 66%, innerhalb der nächsten 7 Monate für mindestens 3 Monate eine Beschäftigung zu finden. Dieses Kundensegment wird durch aktive Arbeitsmarktprogramme weniger Unterstützung erhalten, da davon ausgegangen wird, dass sie wahrscheinlich ohne weitere Ausbildung eine Beschäftigung finden werden. Gruppe C umfasst Kunden mit einer Wahrscheinlichkeit von <25%, innerhalb der nächsten 2 Jahre mindestens 6 Monate beschäftigt zu sein. Dieses Segment soll auch weniger Unterstützungsmaßnahmen vom AMS erhalten und stattdessen einer externen Institution zur Überwachung zugewiesen werden. Das AMS begründet diese Entscheidung mit seiner Erfahrung, dass teure aktive Arbeitsmarktprogramme die Einstellungschancen dieser beiden Gruppen nicht wesentlich erhöhen. Hohe Investitionen in die Gruppen A und C werden wiederum nicht als kosteneffektiv angesehen. Der finanzielle Fokus wird daher auf Gruppe B gelegt, die alle Kunden umfasst, die nicht zu den oben genannten Gruppen gehören.

Die halbautomatische Klassifizierung wird explizit eingeführt, um knappe Ressourcen im aktiven Arbeitsmarktprogramm auf effiziente Weise zu verteilen, dh unter Berücksichtigung des vorhergesagten Unterschieds, wie schnell und wie nachhaltige Arbeitssuchende wieder in den Arbeitsmarkt integriert werden können. Das System verwendet Daten, die sich auf die Beschäftigungsgeschichte des einzelnen Arbeitssuchenden beziehen, prognostiziert jedoch auch deren Wiedereingliederungschancen, indem bestehende Ungleichheiten auf dem Arbeitsmarkt berücksichtigt werden, die beispielsweise auf Geschlecht, Alter, Staatsbürgerschaft und Gesundheitsbedingungen beruhen. Nach einer Testphase im Jahr 2019 wird das System im Jahr 2020 landesweit eingeführt. Das Projekt - allgemein als „AMS-Algorithmus“ bezeichnet - hat eine hitzige öffentliche Debatte ausgelöst. Die Kritik wies auf mangelnde Transparenz, fehlende Möglichkeiten zur Behebung von Entscheidungen für AMS-Kunden, die Verwendung sensibler Informationen, mögliche unbeabsichtigte Folgen wie Diskriminierung, Fehlinterpretation und Stigmatisierung sowie das Potenzial zur Verstärkung und Verstärkung der Ungleichheit auf dem Arbeitsmarkt. Insbesondere die Einbeziehung des Geschlechts als Variable warf in der Öffentlichkeit Bedenken hinsichtlich der Diskriminierung aufgrund des Geschlechts auf. Das veranschaulichende Modell, das Teil der Dokumentation ist, listet „weiblich“ als schädlich für die Chancen einer Arbeitsmarktintegration auf, wodurch die Gesamtpunktzahl dieser Gruppe verringert wird (–0,14). Darüber hinaus wurde festgestellt, dass die Variable „Sorgfaltspflichten“ nur für Frauen gilt. Diese äußerst kontroverse Entscheidung wurde vom Präsidenten des AMS mit den empirisch beobachteten minimalen Auswirkungen von Pflegeverpflichtungen auf die Beschäftigungsaussichten von Männern gerechtfertigt. Laut AMSBuchinger, 2019 ; Volksanwaltschaft Österreich, 2019 ). Diese Aussage besteht auf der Objektivität der Datenansprüche und Korrelationen, die das System erzeugt.

Dieses Papier problematisiert Behauptungen, dass das Profilierungssystem neutral und objektiv ist. Wir argumentieren, dass sich das System lediglich dem aktuellen Stand des Arbeitsmarktes annähert, basierend auf ausgewählten Datenquellen, Attributen und Methoden, die wertvolle Entscheidungen von Systemdesignern, unternehmerische Praktiken von Arbeitsagenturen und Änderungen von Systemen der sozialen Sicherheit widerspiegeln, die das Aktivierungsparadigma umsetzen ( Penz et al ., 2017 ). In diesem Sinne verfolgen wir , wie sich die Rhetorik der System Objektivität und Präzision wird koproduziert ( Jasanoff 2004 ) mit den Praktiken der zunehmenden Effizienz der öffentlichen Arbeits Bürokratien und die Notwendigkeit einer wirksamen Ressourcenallokation in den aktiven Arbeitsmarktprogrammen.

Unsere Analyse basiert auf wissenschaftlichen und technologischen Studien ( Rose, 1998 ; Bowker, 2005 ; Jasanoff, 2006b , 2017 ) und verwendet Erkenntnisse aus kritischen Datenstudien ( Boyd und Crawford, 2012 ; O'Neil, 2016 ; Rieder und Simon, 2016 ; Noble) , 2018 ) und Forschung zu Fairness, Rechenschaftspflicht und Transparenz in algorithmischen Systemen ( Sandvig et al., 2014 ; Crawford et al., 2019) die inhärente Politik des AMS-Profilierungssystems zu untersuchen. Eine eingehende Analyse relevanter technischer Dokumentationen und politischer Dokumente wirft ein Licht auf eine Reihe von Forschungsfragen, die entscheidende konzeptionelle, technische und soziale Auswirkungen der Systeme erfassen. Auf konzeptioneller Ebene fragen wir, wie die (halb-) automatisierte Profilerstellung von Arbeitssuchenden das Problem der Arbeitslosigkeit und Beschäftigungsfähigkeit umrahmt und wie diese Festlegung durch die sozio-technische Spezifikation des Systems umgesetzt wird. In Bezug auf die technische Spezifikation des Systems fragen wir, welche Daten und persönlichen Eigenschaften von Arbeitssuchenden im statistischen Modell berücksichtigt werden, welche vernachlässigt werden und welche Verzerrungen dies mit sich bringen kann. Welche Leistungsmessungen werden verwendet, um die Zuverlässigkeit des Systems zu dokumentieren, und was bedeuten sie? Das System' Die Implementierung innerhalb der Organisationspraktiken des AMS hat weitreichende soziale Auswirkungen. Was bedeutet dies für die Verteilung der Entscheidungsfreiheit und der Rechenschaftspflicht zwischen dem System und den Fallbearbeitern? Wie wurden Fragen der Transparenz und Rechenschaftspflicht des Systems während der Entwicklungs- und Testphase behandelt?

Die Arbeit enthält eine Beschreibung unseres theoretischen und methodischen Ansatzes sowie des Materials, auf dem diese Studie basiert. Der dritte Abschnitt befasst sich mit einer eingehenden Systemanalyse des AMS-Algorithmus und ist wie folgt strukturiert: Er liefert eine Rekonstruktion der technischen Funktionsweise des Systems und erörtert Fragen der Voreingenommenheit und Diskriminierung (Abschnitt 3.1); Anschließend werden einige der konzeptionellen Grundsätze untersucht, die zu seiner Umsetzung geführt haben (Abschnitt 3.2), und die Art und Weise, wie die verfügbare Dokumentation der Öffentlichkeit und den Aufsichtsbehörden die Qualität des Gesamtsystems vermittelt (Abschnitt 3.3). Abschließend wird die Integration des Systems in die Beratungspraktiken des AMS erörtert (Abschnitt 3.4). Der vierte Abschnitt (Abschnitt 4) enthält eine Diskussion der Ergebnisse unserer Studie und befasst sich mit umfassenderen Fragen der Transparenz und Rechenschaftspflicht. Der letzte Abschnitt enthält Schlussfolgerungen zur Koproduktion von (halb-) automatisierten Managementpraktiken in öffentlichen Arbeitsagenturen und zur Gestaltung der Arbeitslosigkeit im Rahmen der Sparpolitik.

2. Theoretischer und methodischer Rahmen

2.1. Koproduktion von Sparpolitik und algorithmischen Klassifikationen

Empirische Studien zu Veränderungen im AMS konzentrierten sich auf den unternehmerischen Umbau der Arbeitsagentur und die neoliberale Wende, die den „Markt“ als „Organisationsprinzip von Staat, Politik und Gesellschaft“ übernimmt ( Penz et al., 2017 , S. 541) und Leitlinien für Effektivität und Effizienz in den Praktiken der Agentur festgelegt ( Ludwig-Mayerhofer und Wroblewski, 2004)). Diese Forschung bietet eine umfangreiche Ressource für die Analyse der sich abzeichnenden sozio-technischen Auswirkungen der Einführung eines algorithmischen Profilierungssystems, das die Wirksamkeit aktiver Arbeitsmarktprogramme steigern soll. Die Erstellung statistischer Vorhersagen und damit Empfehlungen, welche Kunden die Teilnahme an einem Programm vergeben sollen oder welche Qualität des Programms ihnen gewährt werden soll, muss im Lichte der neoliberalen Verschiebung der Systeme der sozialen Sicherheit untersucht werden. Österreich wandte sich wie die Schweiz und Deutschland in den 1990er Jahren der Aktivierungspolitik zu ( Penz et al., 2017 , S. 548). Nach Serrano Pascual (2007, p. 14) Das Aktivierungsparadigma zeichnet sich durch seinen „individualisierten Ansatz“ aus, der darauf abzielt, das Verhalten, die Motivation und die Kompetenzen von Arbeitssuchenden zu ändern, anstatt strukturelle Maßnahmen gegen die Arbeitslosigkeit zu ergreifen. Das Verhältnis zwischen Staat und Bürger basiert auf einem Vertrag, den Kunden unterzeichnen müssen und durch den sie sich verpflichten, bestimmte Verpflichtungen zu erfüllen, um Leistungen zu erhalten. Die Teilnahme an aktiven Arbeitsmarktmaßnahmen ist eine davon. Die Festlegung von Bürgern als Kunden umfasst auch einen „moralischen Vertrag“, der Leistungsempfänger als Belastung für die Gesellschaft darstellt und moralisch zur Arbeit verpflichtet ist ( Penz et al., 2017 , S. 544). In der „Logik der Arbeit“ wird Lohnarbeit zu einer notwendigen Voraussetzung für die soziale Teilhabe und Autonomie des Einzelnen.

Dieses Papier konzentriert sich auf die Spannungen und Ambivalenzen, die die Einführung eines datenbasierten Entscheidungsunterstützungssystems mit sich bringt. Der AMS-Algorithmus erzeugt eine bestimmte Art von Wissen, das Zusammenhänge von normativen Interessen und Daten sowohl auf individueller als auch auf aggregierter (Gruppen-) Ebene widerspiegelt. Sozialwissenschaftliche und technologische Studien (STS) erinnern uns daran, dass Technologie „soziale Praktiken, Identitäten, Normen, Konventionen, Diskurse, Instrumente und Institutionen sowohl einbettet als auch in diese eingebettet ist“ ( Jasanoff, 2006b , S. 3). Der Begriff der Koproduktion von Wissenschaft, Technologie und sozialer Ordnung bietet einen interpretativen Rahmen, in dem untersucht wird, wie „Wissensherstellung“ mit Governance-Praktiken verflochten ist und „wie Governance-Praktiken die Erstellung und Nutzung von Wissen beeinflussen“ ( Jasanoff, 2006b), p. 3). Technische Artefakte wie der AMS-Algorithmus sowie das Wissen oder die „Fakten“, die sie ermitteln, sind auf eine Weise mit Werten, Diskursen und politischen Bahnen verwoben, die eine anhaltende kritische Untersuchung erfordern. Sie bestellen Instrumente, die „sowohl das stabilisieren, was wir wissen als auch wie wir es wissen“ ( Jasanoff, 2006c , S. 39). Wie Jasanoff (2017 , S. 2) in ihrem Artikel über die politische Kraft der Datenerfassung hervorhebt, beruht die Erstellung von Datenansprüchen oder -korrelationen auf bestimmten epistemischen Annahmen, die ihre Erstellung in erster Linie prägen:

„Die aggregierten Vorfälle, die durch einen Datensatz dargestellt werden, müssen eine Bedeutung haben, da sie für ein klassifizierbares, kohärentes Phänomen in der Welt stehen. Gleichzeitig müssen Informationen als umsetzbar angesehen werden, damit Daten Auswirkungen auf Recht und Politik haben. Das heißt, Zahlen oder andere quantitative Darstellungen wie Diagramme und Grafiken müssen den Menschen sowohl etwas Aktuelles als auch etwas zeigen, das sie sein möchten untersucht, erklärt oder gelöst. Kurz gesagt, wenn ein Datensatz eine soziale Reaktion hervorrufen soll, muss das Wissen über etwas Wichtiges und die Grundsätze für das Verständnis, warum es wichtig ist, zusammen generiert oder koproduziert werden. “

Dieses Zitat weist auf einige Punkte hin, die für unsere Analyse des AMS-Algorithmus von entscheidender Bedeutung sind. Erstens umrahmt die Klassifizierung das Phänomen der Arbeitslosigkeit und die Aussichten auf eine effiziente und nachhaltige Wiedereingliederung in den Arbeitsmarkt in Bezug auf persönliche Merkmale von Arbeitssuchenden und Gruppenmerkmale basierend auf Geschlecht, Altersgruppe, Behinderungsstatus und ethnischer Abstammung. Dieser Rahmen individualisiert das Problem und schließt Perspektiven auf Makroebene für die Arbeitslosigkeit aus. Zweitens spiegeln das technische System und die Daten, auf denen es basiert, nicht nur eine objektive, datenbasierte Methode zur Modellierung der Beschäftigungsaussichten wider. Der Algorithmus wird mit den Zielen und Diskursen im Zusammenhang mit seiner Einführung zusammen mit öffentlichen Diskursen über Arbeitslosigkeit und Arbeitslose produziert. und der breitere politische Rahmen der Sozialversicherungspolitik, in den sie eingebettet ist und den sie stabilisieren soll. Ebenso wichtig sind die technischen Konzepte und Methoden, die den Algorithmus erstellen und für die beteiligten Akteure verständlich machen, z. B. die Leistungsmetriken, die seine Qualität und Objektivität symbolisieren. Alle diese normativen Verordnungen sind auf vielschichtige Weise miteinander verflochten.

Der koproduktionistische Standpunkt dieses Papiers baut auf Erkenntnissen aus kritischen Datenstudien und Untersuchungen zu Fairness, Rechenschaftspflicht und Transparenz (FAT) in algorithmischen Systemen auf. Eines der Hauptziele bei der Einführung algorithmischer Systeme in privaten und öffentlichen Organisationen ist die Steigerung der Effizienz von Entscheidungsprozessen. Darüber hinaus wird häufig argumentiert, dass (halb-) automatisierte Systeme objektivere und unvoreingenommenere Ergebnisse liefern als Menschen, die (freiwillig oder aus Unwissenheit) Entscheidungen treffen können, die bestimmte Gruppen privilegieren und gleichzeitig andere Gruppen diskriminieren. Kritische Datenstudien und FAT-Untersuchungen haben jedoch detaillierte Berichte darüber geliefert, wie algorithmische Systeme strukturelle Diskriminierung wie Klassismus, Rassismus, Fähigkeitsbewusstsein, Genderismus und Heteronormativität (wieder) erzeugen, und zeigen, wie statistische Modellierung,Crawford et al., 2019 ). Algorithmische Verzerrung ist ein sozio-technisches Phänomen, das sich aus einer Verzerrung der Trainingsdaten von Systemen, ihrer Klassifizierung oder der aus diesen Daten erstellten Modelle ergeben kann (siehe z. B. Sandvig et al., 2014 ; Buolamwini und Gebru, 2018 ). Es kann sich auch in den impliziten epistemischen Normen rechnerischer Ansätze, Konzepte, Methoden und Werkzeuge befinden ( Dobbe et al., 2018 ; Allhutter, 2019 ; Selbst et al., 2019 ).

Eine koproduktionistische Perspektive muss anerkennen, dass die statistische Klassifikation die Einheiten darstellt, zwischen denen sie unterscheidet. Wenn ein System zwischen Personengruppen für einen bestimmten Zweck anhand ihres Geschlechts, ihrer ethnischen Zugehörigkeit, ihres Alters, ihrer Behinderung oder ihres sozioökonomischen Status unterscheidet, wiederholt und koproduziert es die Bedeutungen dessen, was diese Kategorien in einem bestimmten Kontext implizieren ( Allhutter, 2019 ). . Während diese Kategorien intersektionell und kontextabhängig sind, modellieren algorithmische Systeme sie häufig als dichotome und essentialistische Attribute von Menschen (siehe z. B. Hu und Kohler-Hausmann, 2020 ).

Die Einführung von (halb-) automatisierten Systemen in öffentlichen Bereichen wirft tiefgreifende Probleme hinsichtlich ihrer Transparenz und Rechenschaftspflicht auf. Wie unsere Analyse zeigen wird, ist ein algorithmisches System nicht nur ein passives technisches Werkzeug, sondern gewinnt durch den täglichen Gebrauch an Entscheidungsfreiheit. In ihrem Buch „Automating Inequality“ ( Automatisierung von Ungleichheit ) zeigt Eubanks (2018) , wie algorithmische Technologien, die in US-amerikanischen Programmen für soziale Dienste verwendet werden, die Armen im Rahmen der Sparpolitik klassifizieren und verwalten, anstatt die Armut selbst zu bekämpfen (siehe auch Gandy, 1993 ). Gangadharan und Niklas (2019)schlagen vor, systematische Formen von Ungerechtigkeit und Diskriminierung, die nicht technologisch vermittelt werden, nicht aus den Augen zu verlieren. Sie weisen auf bereits bestehende Probleme in der Architektur des Wohlfahrtsstaates hin: „Sozialhilfeempfänger, die mit Sozialbürokratie konfrontiert sind, fühlen sich bereits machtlos, und Automatisierung kann ihre Ohnmacht verschlechtern“ (S. 890). Systeme wie der AMS-Algorithmus ergänzen oder verbessern nicht nur die aktuellen Beratungsprozesse, sondern bringen auch subtile und weniger subtile Änderungen in der Praxis der Arbeitsagenturen mit sich. Offen bleibt die Frage, wer für diskriminierende Ergebnisse, die durch algorithmische Empfehlungen ausgelöst werden, zur Rechenschaft gezogen werden soll und welche Verfahren der öffentlichen Kontrolle und des Ausgleichs den betroffenen Bürgern, aber auch der Gesellschaft insgesamt zur Verfügung stehen.

2.2. Studie und Methoden

Um die soziale und technische Gestaltung des AMS-Algorithmus im Kontext größerer gesellschaftspolitischer Entwicklungen zu rekonstruieren und zu untersuchen, verwenden wir eine qualitative Dokumentenanalyse in der Tradition der konstruktivistischen Forschung ( Bowen, 2009 ; Silverman, 2015)). Um einen Überblick über öffentliche und politische Debatten zu erhalten, die sich mit der Einführung des Algorithmus befassen, haben wir eine Vielzahl von Dokumenten gesammelt, die von (Online-) Zeitungen, Workshop-Präsentationsfolien, Studien, technischen Berichten und politischen Dokumenten bis hin zu Berichten von und zur öffentlichen Aufsicht reichen Stellen (von Dezember 2017 bis August 2019). Wir haben eine Kerngruppe von Dokumenten für eine genauere Analyse ausgewählt: Grundsatzdokumente, die von staatlichen Institutionen veröffentlicht wurden, Konzeptpapiere der Synthesis GmbH, des mit der Entwicklung des Algorithmus beauftragten Unternehmens und des AMS selbst sowie Berichte und Bewertungen durch Aufsichtsbehörden . Diese Schlüsseldokumente ermöglichen es uns, den in der Herstellung befindlichen institutionellen Argumentationen zu folgen, um die Einführung des Algorithmus zu legitimieren. und Rollen und Funktionen, die der Algorithmus in der zukünftigen AMS-Praxis spielen soll. Dementsprechend werden wir nicht versuchen, eine verborgene „Wahrheit“ des Algorithmus aufzudecken, sondern untersuchen, wie der Algorithmus in den Monaten vor und während seiner Testphase, die im November 2018 begann, rhetorisch umrahmt, legitimiert und technisch gestaltet wurde. Eine kurze Einführung zu den ausgewählten Dokumenten1 gibt einen ersten Einblick in ihre Besonderheiten:

1. Bericht des Rechnungshofs. Öffentliche Arbeitsverwaltung “(GERICHT AUD: Dezember 2017):2 In diesem Bericht wird der AMS-Algorithmus als eines der geplanten Projekte zur Steigerung der Effizienz und Effektivität des AMS vorgestellt. Es beschreibt die anfänglichen Ziele und erwarteten Erfolge des Algorithmus und spiegelt verschiedene Facetten der neoliberalen Verschiebung wider ( Rechnungshof, 2017 ).

2. „Das AMS-Beschäftigungsaussichtenmodell“3 (SYN 1: Oktober 2018): Dieses „Konzeptpapier“ wurde von der Firma Synthesis GmbH verfasst, die den Algorithmus entwickelt hat. Es enthält Informationen zu Daten, Modellen und Parametern sowie einige Leistungskennzahlen. Eines der angegebenen Modelle zur Klassifizierung von Arbeitssuchenden löste aufgrund möglicher diskriminierender Effekte kritische Mediendebatten aus ( Holl et al., 2018 ).

3. „Parlamentarische Untersuchung des AMS durch den österreichischen Bundesminister für Arbeit, Soziales, Gesundheit und Verbraucherschutz“ (PARLAMENT: November 2018): Etwa zur gleichen Zeit formulierte der österreichische Parlamentarier Heinisch-Hosek (Sozialdemokratische Partei) ein Parlament Untersuchung an Hartinger-Klein, Minister für Arbeit, Soziales, Gesundheit und Verbraucherschutz. Dieses Dokument enthält die Fragen und Antworten der parlamentarischen Untersuchung, die sich hauptsächlich auf den Organisationsprozess bezieht, den der AMS-Algorithmus in Heinisch-Hosek (2018) einbetten soll .

4. „Arbeitsmarktpolitische Ziele“ (MINISTERIUM: Februar 2019): Dieses von Hartinger-Klein, Bundesminister für Arbeit, Soziales, Gesundheit und Verbraucherschutz, verfasste Grundsatzdokument fasst die Herausforderungen und Strategien des Arbeitsmarktes zusammen. Es gibt Einblicke in den größeren gesellschaftspolitischen Kontext und die Anforderungen, die der AMS-Algorithmus erfüllen soll ( Holzer, 2019 ).

5. „Bericht des Ombudsmann-Ausschusses an den Nationalrat und den Bundesrat 2018: Überwachung der öffentlichen Verwaltung“ 2018 (OMB-VORSTAND: März 2019): Nach den zuvor erwähnten Kontroversen wurde der Ombudsmann-Ausschuss gebeten, den Algorithmus zu bewerten . Dieser Bericht ist das Ergebnis dieser Anfrage ( Volksanwaltschaft Österreich, 2019 ).

6. „Untersuchung des AMS durch die Ombud für Gleichbehandlung“ (EQUAL BOARD: April 2019): Anfang 2019 begannen weitere öffentliche Aufsichtsbehörden und Nichtregierungsorganisationen, den Algorithmus offiziell zu untersuchen. Der erste war der „Ombud for Equal Treatment“, der 20 umfassende Fragen formulierte, die sich mit den für den Algorithmus verwendeten Daten, Modellen und Parametern des Algorithmus, der erwarteten Rolle des Algorithmus in der täglichen Praxis des AMS und möglichen Konsequenzen befassten zu erwarten sind, sowie geplante Bewertungsmodi. Die Antwort wurde vom Präsidenten des AMS unterzeichnet ( Buchinger, 2019 ).

7. „Personal Probability Statements ('Algorithmen')“ (SYN 2: Mai 2019): Dieses „Begleitband zur Dokumentation des AMS-Employment Prospects Model“ ist das zweite von der Synthesis GmbH veröffentlichte Papier und konzentriert sich auf Aspekte der sozialen Kompatibilität des Algorithmus. Es kann als Reaktion auf die kritischen öffentlichen und politischen Debatten gesehen werden, die die Testphase des Algorithmus ausgelöst haben ( Holl et al., 2019 ).

8. „Anfrage an das AMS durch Epicenter Works“ (EPI WORKS: August 2019): Die jüngste Anfrage wurde vorerst von der NGO Epicenter Works formuliert, die sich mit digitalen Rechten befasst und sich für diese einsetzt. Das Dokument enthält acht spezifische Fragen zu technischen Details, Daten, Modellen und Parametern, zur erwarteten Rolle des Algorithmus in der AMS-Praxis, zu Prüfungsmöglichkeiten sowie zu den Kosten des Algorithmus und seiner zukünftigen Wartung. Darüber hinaus enthält es weitere technische Details eines der für den Algorithmus verwendeten Modelle. Die Antwort wurde vom Leiter des Büros des AMS-Präsidenten unterzeichnet ( Wilk, 2019 ).

Um sowohl den Inhalt als auch den Kontext dieser heterogenen Dokumente zu analysieren, folgen wir einer konstruktivistischen Forschungstradition, die sich "mit den Prozessen befasst, durch die Texte" Realität "darstellen, und nicht damit, ob solche Texte wahre oder falsche Aussagen enthalten". ( Silverman, 2015 , S. 285). Wir behandeln unsere Dokumente als „soziale Fakten“ ( Coffey und Atkinson, 1997 ; Atkinson und Coffey, 2011 ), dh wir analysieren sie auf „was sie sind und wofür sie verwendet werden“ ( Silverman, 2015, zitiert Atkinson und Coffey, 2011, p. 58). Unsere endgültige Materialauswahl umfasst sehr unterschiedliche Arten von Dokumenten, daher müssen der Kontext ihrer Herstellung und der Zeitplan der verschiedenen Dokumente berücksichtigt werden. Unter Verwendung eines Grounded Theory-Ansatzes identifizieren wir gängige rhetorische Muster und Rahmen, die in unseren Materialien verwendet werden ( Glaser und Strauss, 1967 ; Bowen, 2009 ). Ihr Inhalt wird anhand von Kategorien analysiert, die sich sowohl von oben nach unten aus unseren Forschungsfragen als auch von unten nach oben aus dem empirischen Material selbst ergeben. Wenn angezeigt, treten wir aus dem „Erzählmaterial selbst heraus und betrachten Fragen, wie z. B. wer bestimmte Arten von Geschichten produziert, […] was die Konsequenzen sind und wie sie in Frage gestellt werden“ ( Silverman, 2015, zitiert Gubrium, 2005), p. 252). Auf diese Weise identifizieren wir nicht nur die rhetorische und technische Gestaltung des Algorithmus, sondern auch die übergreifenden Zwecke, Agenden und Legitimationsstrategien im Kontext größerer gesellschaftspolitischer Trends. Dies ermöglicht das Verständnis des in Arbeit befindlichen AMS-Algorithmus, aber auch des übergreifenden Bedarfs, den das System erfüllen soll. Schließlich ermöglicht dieser Ansatz die Untersuchung des AMS-Algorithmus, obwohl seine spezifische Operationalisierung noch unklar ist, was andere empirische Ansätze verbietet, wie beispielsweise In-situ- Interviews mit AMS-Fallarbeitern oder Arbeitssuchenden.

3. Empirische Analyse: Die sozio-technische Gestaltung des AMS-Algorithmus

Die empirische Analyse der sozio-technischen Formgebung des AMS-Algorithmus wird in drei Abschnitten vorgestellt. Um die Voraussetzungen zu schaffen, beginnen wir zunächst mit der Rekonstruktion der technischen Besonderheiten des Algorithmus und seiner möglichen Verzerrungen. Anschließend erarbeiten wir zentrale Leitprinzipien für die Gestaltung des Algorithmus und seiner kontroversen Aspekte. Abschließend diskutieren wir, wie der Algorithmus in Beratungspraktiken eingebettet werden soll und welche Herausforderungen dies in Zukunft mit sich bringen könnte.

3.1. Technische Rekonstruktion des Algorithmus und seiner Verzerrungen

Um das Innenleben des AMS-Algorithmus zu verstehen, werden in diesem Abschnitt die für den Algorithmus verwendeten Daten und ihre Herkunft, Modelle und Variablen zur Klassifizierung von Arbeitssuchenden sowie mögliche Verzerrungen und Diskriminierungen, die sich aus der Verwendung des Algorithmus ergeben können, erläutert4 . Jedes algorithmische System ist abhängig von Daten, die entweder bereits vorhanden sind oder für den Zweck des Algorithmus neu erstellt wurden. Dies gilt auch für den AMS-Algorithmus, der auf Daten von und über Arbeitssuchende basiert, die anschließend in einen Algorithmus für maschinelles Lernen eingespeist werden.

Die genauen Ursprünge aller Daten, die zur Erstellung der Variablen für das Vorhersagemodell verwendet wurden, wurden bisher nicht veröffentlicht. Auf die Anfrage des Ombud for Equal Treatment antwortet der AMS-Präsident, dass die Daten aus dem bereits eingerichteten Data Warehouse des AMS stammen, das hauptsächlich Daten aus zwei Quellen enthält (EQUAL BOARD, Frage 2). Erstens werden einige Daten durch Selbstberichterstattung von Arbeitssuchenden bei der Registrierung beim AMS über ihr Online-Tool gesammelt5 und während anderer Interaktionen mit dem AMS. Zweitens Sozialversicherungsdaten des Hauptverbandes der österreichischen Sozialversicherungsanstalten6 wird verwendet, um das Profil des Arbeitssuchenden zu vervollständigen. Diese Organisation sammelt und speichert personenbezogene Daten wie Geburtsdatum und Geschlecht sowie Daten zur individuellen Beschäftigungsgeschichte anhand von Aussagen ehemaliger und aktueller Arbeitgeber.

Entscheidend ist, dass, soweit bekannt, keine Daten speziell für den AMS-Algorithmus gesammelt werden. Stattdessen werden Daten für die Profilierungssysteme neu bestimmt. Das Gesetz über die öffentliche Arbeitsverwaltung7 bildet die rechtliche Grundlage für diese Praxis ( Arbeitsmarktservicegesetz, 2019 ; Lopez, 2019 ) und umfasst die Erhebung verschiedener Daten über Arbeitssuchende, einschließlich gesundheitlicher Beeinträchtigungen, die die Beschäftigungsfähigkeit beeinträchtigen könnten, sowie von Sorgfaltspflichten - beides wird im weiteren Verlauf relevant Diskussion des Algorithmus. Es ist wichtig zu beachten, dass das AMS auch Daten über Arbeitgeber, einschließlich ihres Rekrutierungs- und Einstellungsverhaltens, und Daten über Stellenangebote im Allgemeinen sammeln darf, diese Art von Daten jedoch nicht für den AMS-Algorithmus verwendet hat.

3.1.1. Die Regressionsmodelle und ihre Auswirkungen

Nach dem ersten „Concept Paper“ der Synthesis GmbH (SYN 1) sind multivariate logistische Regressionsmodelle die grundlegendste Komponente des AMS-Algorithmus. Sie werden verwendet, um die kurz- und langfristigen Beschäftigungsaussichten von Arbeitssuchenden in der Pflege des AMS vorherzusagen. Diese Prognosen bilden die Grundlage für die Einteilung in die drei Kategorien A, B und C.

Die Regressionsmodelle werden erstellt, indem nominell skalierte, unabhängige Variablen basierend auf personenbezogenen Daten und Informationen zu regionalen Arbeitsmärkten mit zwei abhängigen Zielvariablen in Beziehung gesetzt werden. Diese modellieren die Leistung von Arbeitssuchenden, eine nicht subventionierte Erwerbstätigkeit von mindestens 90 Tagen innerhalb eines Zeitraums von 7 Monaten oder von mindestens 180 Tagen innerhalb eines Zeitraums von 24 Monaten zu finden. Um die Koeffizienten für jede der nominell skalierten unabhängigen Variablen zu berechnen, wird die Maximum-Likelihood-Schätzung verwendet. Die Koeffizienten beschreiben die Bedeutung von Prädiktorvariablen für die Vorhersage einer Zielvariablen. Das Ergebnis dieser logistischen Regression ist ein Wert im Bereich von 0 bis 1. Um die berechneten Bewertungen der logistischen Regression auf die Bereitstellung von Klassifizierungsempfehlungen anwendbar zu machen, wird ein Schwellenwert, der auch als Grenzwert bezeichnet wird,

Im Folgenden bezeichnen wir Regressionsmodelle, die über eine der Zielvariablen abgeleitet wurden, entweder als kurzfristige (7 Monate) oder langfristige (24 Monate) Vorhersagemodelle. Sie werden verwendet, um die Ex-ante-Beschäftigungsaussichten aktueller AMS-Kunden oder, wie in SYN 1 erwähnt, die „Aussichten auf den Wert der Arbeitsmarktintegration“ vorherzusagen.8 (IC). Arbeitssuchende werden anhand ihres IC in eine von drei Kategorien eingeteilt:

• Gruppe A: Hoher IC-Wert im Kurzzeitvorhersagemodell von 66% oder mehr

• Gruppe B: Moderater IC-Score in beiden Vorhersagemodellen, der nicht als Gruppe A oder C klassifiziert ist

• Gruppe C: Niedriger IC-Wert im Langzeitvorhersagemodell von 25% oder weniger.

Die Zuordnung eines Arbeitssuchenden zur Gruppe A hängt von den kurzfristigen Vorhersagemodellen ab, während die Zuordnung zur Gruppe C durch die langfristigen Vorhersagemodelle bestimmt wird. Arbeitssuchende, die weder Gruppe A noch Gruppe C zugeordnet sind, werden in Gruppe B eingeteilt. Die Verwendung strenger IC-Schwellenwerte für die Klassifizierung ist in der Praxis problematisch, da ein einziger Prozentpunkt bestimmen kann, ob ein Arbeitssuchender die volle Unterstützung des AMS erhält oder nicht . Die Synthese bietet keine Anleitung, wie diese Randfälle in der Praxis behandelt werden (SYN 1). Später im Prozess, nachdem mehrere Anfragen an das AMS gestellt wurden (OMB BOARD, EQUAL BOARD), beschreibt das zweite Papier von Synthesis den Algorithmus eher als „Zweitmeinung“ als als automatisierte Entscheidung (SYN 2). Die Synthese besagt ferner, dass die Zeitspannen im Modell der kurz- und langfristigen Zielvariablen vom AMS ausgewählt wurden, erklärt jedoch nicht, wie und warum (SYN 1). Diese Entscheidungen wirken sich jedoch stark auf das Leben und die potenziellen Perspektiven von Arbeitssuchenden aus (je nachdem, wie sie eingestuft wurden) und verkörpern die sozialpolitischen Werte und Normen. Diese Unklarheit darüber, wie und warum bestimmte Zeitspannen für die Zielvariablen gewählt wurden, wurde auch vom österreichischen Bürgerbeauftragten kritisiert9 (OMB BOARD).

Wie bereits erwähnt, müssen Schwellenwerte definiert werden, damit die logistische Regression als Klassifizierungsmechanismus verwendet werden kann: Nur wenn die vorhergesagte Wahrscheinlichkeit über oder unter dem Schwellenwert liegt, wird der Datenpunkt als eine bestimmte Klasse klassifiziert, dh als Klasse A oder C. Der IC Score Schwellen für die Zuordnung zu den Gruppen A und C wurden durch Maximieren die Summe der Empfindlichkeit (korrekte Vorhersage für eine erfolgreiche Integration gewählt ex post ) und Spezifität (korrekte Vorhersage nicht erfolgreichen Integration ex post) der jeweiligen Modelle gemäß SYN 1. Die angeblich strikte Einhaltung dieses Ansatzes durch die Entwickler wird jedoch durch eine neuere Aussage (EQUAL BOARD, Frage 13) widerlegt, wonach die Schwellenwerte gezielt gewählt wurden, um Fehler und Unklarheiten zu vermeiden eher in Gruppe B akkumulieren, was dazu führen würde, dass weniger Arbeitssuchende aufgrund falscher Klassifizierung weniger Unterstützung erhalten.

SYN 1 listet die in Tabelle 1 gezeigten prädiktiven Variablen des AMS-Algorithmus auf (wobei die Werte des Variablensatzes „vorherige berufliche Laufbahn“ in Tabelle 2 definiert sind ). Alle Variablen werden gegebenenfalls als binäre Zuweisungen („Ja“ / „Nein“) oder als binäre Zuweisung zu einer der potenziellen Optionen (z. B. „Produktionssektor: Ja“) modelliert. Jeder Option wird in jedem Modell ein Koeffizient zugewiesen, und die Summe aller Koeffizienten für eine bestimmte Person ergibt (nach einer logistischen Transformation) den IC-Score für diese Person.

 
TABELLE 1

www.frontiersin.org

Tabelle 1 . Alle Variablen, die Teil des statistischen Modells sind.

 
 
TABELLE 2

www.frontiersin.org

Tabelle 2 . Variable, die die vorherige berufliche Laufbahn durch vier Untervariablen charakterisiert.

 
 

Während einige der Zuordnungen für bestimmte Werte in SYN 1 (z. B. der Altersgruppe) relativ klar beschrieben sind, bleiben andere völlig vage (z. B. gesundheitliche Beeinträchtigung). Zusätzlich zu den verschiedenen prädiktiven Variablen unterscheidet das System anhand der Vollständigkeit der Beschäftigungsbilanz des Einzelnen (EQUAL BOARD) zwischen den folgenden vier Populationen:

• Arbeitssuchende mit einer vollständigen historischen Beschäftigungsbilanz von 4 Jahren vor der Modellgenerierung

• Arbeitssuchende mit einer unvollständigen oder „fragmentierten“ Beschäftigungsgeschichte10

• Arbeitssuchende mit einem „Migrationshintergrund“11

• Junge Erwachsene.

Die letzten drei Gruppen zeichnen sich durch ihre Zusammensetzung von Arbeitssuchenden mit unvollständigen oder fragmentierten Beschäftigungsverläufen und / oder Daten aus. Die Klassifizierungsmodelle wurden eindeutig entwickelt, um die erhöhte Unsicherheit zu bewältigen, da weniger Daten verfügbar sind. Es wurde jedoch nicht veröffentlicht, wie und warum die spezifische Gruppierung ausgewählt wurde.

Das bisher beschriebene Vorhersagesystem besteht aus zwei IC-Modellen für vier Populationen. Da man sich vorstellt, dass Arbeitssuchende in der Regel einige Zeit in der Obhut des AMS bleiben, sind Modelle, die die folgenden 12 Meilensteine ​​berücksichtigen - abhängig von der Länge des aktuellen Falls - ebenfalls Teil des Systems: zu Beginn des Falls: alle 3 Monate bis zur 2-Jahres-Marke sowie bis zum 30., 36. und 48. Monat. Diese drei Dimensionen (zwei Zielvariablen, vier Populationen, 12 Meilensteine) ergeben insgesamt 96 Modelle.

SYN 1 listet die Präzisionswerte sowohl für das Kurzzeit- als auch für das Langzeitvorhersagemodell für neun ausgewählte Populationen bei bestimmten Meilensteinen auf:

• Unvollständige Daten: „Migrationshintergrund“ nach 6 Monaten; Wien Anfang des Falles

• Vollständige Daten: Beginn des Falls nach 12 bzw. 24 Monaten

• Vollständige Daten und Beginn des Falles: Frauen; Männer; Salzburg; Kärnten.

Interessanterweise erscheinen die aufgeführten geografischen Kontexte („Wien“, „Salzburg“, „Kärnten“) in den Modellen nicht anders. Der einzige Hinweis auf die geografische Lage könnte in der Variablen „regionaler Arbeitsmarkt“ gefunden werden. Es ist jedoch unklar, warum und wie die Genauigkeit dieser spezifischen Subpopulationen bewertet wurde oder in welcher Beziehung sie zu den Modellen und Populationen stehen.

Die gemeldeten Präzisionswerte variieren zwischen 80 und 91% für das Jahr 2018. Bis zu diesem Datum wurden keine Informationen zur Präzision anderer Modelle bereitgestellt, die nicht in dem Dokument enthalten waren, das auf (Unter-) Populationen angewendet wurde, was die angebliche Gesamtgenauigkeit von rund 81%. Beispielsweise werden zu Beginn des Falles keine Informationen für Arbeitssuchende mit „Migrationshintergrund“ bereitgestellt.

3.1.2. Voreingenommenheit und Diskriminierung

Ein zentrales Thema der öffentlichen Kontroverse über den AMS-Algorithmus waren Bedenken hinsichtlich der Diskriminierung, insbesondere von Frauen, Menschen mit Behinderungen und Frauen mit Betreuungspflichten. Da Geschlecht, Behinderung und andere zugeschriebene Merkmale in den Modellen des AMS-Algorithmus eine herausragende Rolle spielen, ist es erforderlich, diese Bedenken zu untersuchen. Die Rechtfertigung für die Verwendung dieser sensiblen Attribute beinhaltet das Argument, dass die für diese Variablen generierten Koeffizienten die „harte Realität“ struktureller Diskriminierung auf dem Arbeitsmarkt darstellen. Daher wäre es nicht diskriminierend, diese Informationen so zu verwenden, wie sie gemacht werden (OMB BOARD, EQUAL BOARD); Ein Argument, das wir auf verschiedene Weise in Frage stellen.

Bereits vorhandene Ungleichungen scheinen durch die Daten, auf denen sie basieren, und die Art und Weise, wie sie verarbeitet werden, in den AMS-Algorithmus eingeschrieben zu sein. Insbesondere berücksichtigt der Algorithmus den kumulativen Nachteil ( Gandy, 2016 ) derzeit marginalisierter Gruppen auf dem Arbeitsmarkt, die im Algorithmus durch Variablen wie das Geschlecht dargestellt werden. Aufgrund dieses Mechanismus werden zuvor diskriminierte oder marginalisierte Gruppen eher als Teil der Gruppe C eingestuft, was wiederum die bestehenden Ungleichheiten verstärkt, da diskriminiertere Bevölkerungsgruppen von Arbeitssuchenden mit größerer Wahrscheinlichkeit weniger Unterstützung erhalten. Darüber hinaus überprüft der AMS-Algorithmus die Kategorie der „Langzeitarbeitslosen“ (Gruppe C). An diesem Punkt ist es schwierig, die damit verbundene Dynamik zu beurteilen, aber wie Porter (1996)argumentiert: "Maßnahmen sind erfolgreich, indem sie den Aktivitäten, die gemessen werden, eine Richtung geben." (S. 45) Anders ausgedrückt: Die Einstufung von Arbeitssuchenden als „hoffnungslos“ kann einen Prozess auslösen, bei dem Ressourcenentzug zur Realisierung und Validierung der Vorhersage führen kann.

Diese negativen Auswirkungen auf die Beschäftigungsaussichten werden kontinuierlich in den Algorithmus zurückgeführt, wenn dieser mit neu gesammelten Daten aktualisiert wird. Diese Rückkopplungsschleife könnte im Laufe der Zeit die Beschäftigungsaussichten von Randgruppen weiter verringern. In der Praxis sind die beschriebenen Auswirkungen dieses Profilierungssystems jedoch vielfältiger und differenzierter, da Fallbearbeiter von algorithmischen Empfehlungen abweichen können (siehe Abschnitt 3.4). Darüber hinaus berücksichtigen auch andere politische Maßnahmen diese Auswirkungen: Bestimmte Gruppen erhalten möglicherweise weiterhin die volle Unterstützung im Rahmen einer Richtlinie, die die gleiche Finanzierung von Männern und Frauen vorschreibt, wodurch einige der nachteiligen Auswirkungen dieser

Neueste Kommentare

Keine Kommentare.