Bislang war es so, dass der Einsatz ganz neuer Technologien zumindest öffentlich debattiert und mit einem Gesetz demokratisch legitimiert wurde. Das ist beim AMS-Algorithmus nicht so.

Dieses System wurde ohne öffentliche Debatte entwickelt und präsentiert. Die Zivilgesellschaft war in diesen Prozess nicht eingebunden und bis heute fehlt es hier grundlegend an Transparenz, wie dieses System arbeitet und über uns entscheidet.

Ein ähnliches System wurden in Polen vom Verfassungsgerichtshof aufgehoben. Auch in den Niederlanden wurde ein algorithmenbasiertes System, das Sozialhilfeempfänger*innen kontrollieren sollte für rechtswidrig erklärt und eingestellt.

Wir dürfen nicht zulassen, dass Merkmale, auf die man keinen Einfluss hat, entscheidend dafür sind, ob Menschen Aus- und Weiterbildungen verboten werden. Algorithmische Systeme müssen Vorurteile und Ungerechtigkeiten bekämpfen und dürfen diese Ungerechtigkeiten nicht auch noch einzementieren.

1. Menschen, nicht Computer sollen entscheiden

Menschen sollen anhand nachvollziehbarer Kriterien über den Zugang zu staatlichen Leistungen entscheiden, statt Entscheidungen eines Computers nur abzunicken.

Der AMS Algorithmus ist abzulehnen und muss abgeschaltet werden. Ein Computer darf nicht über menschliche Schicksale entscheiden und der Zugang zu staatlichen Leistungen darf nicht von einem Computer reguliert werden. Entscheidungen müssen nachvollziehbar, transparent und mit menschlichem Maß getroffen werden. Das System ein gefährlicher Präzedenzfall politische Entscheidungen an Algorithmen auszulagern.

Selbst wenn das System (noch) keine vollautomatischen Entscheidungen treffen sollte, darf es auch keine Entscheidungen vorgeben, die durch das AMS-Personal nur noch abgenickt werden. Die AMS-Beratungstermine dauern meist nur 15 Minuten und besteht enormer Rechtfertigungsdruck dem Computer nicht zu widersprechen.

2. Fähigkeiten fördern, statt Schwächen bestrafen

Mehr Bildung ermöglichen, durch Förderung und Ermöglichung von (Weiter-)Bildung

Menschen sollen aufgrund ihrer Fähigkeiten und Stärken gefördert werden, dazu braucht es eine Aufstockung der Weiterbildungs- und Schulungsmaßnahmen von Arbeitssuchenden.

Es muss es Arbeitssuchenden erlaubt werden ein Uni- oder FH-Studium zu beginnen (dies ist derzeit nur dann erlaubt, wenn Arbeitssuchende schon zu Berufszeiten parallel studiert haben). Auch soll das AMS selbstbezahlte Weiterbildungen z.B. Kurse, die nur wenige Tage dauern, erlauben.

3. Mehr Ressourcen für das AMS

Wir fordern mehr und besser ausgebildete Berater*innen, die ausreichend Zeit für Beratungen haben.

Das Verhältnis von Berater*innen zu Arbeitssuchenden beträgt in Deutschland 1:100, in Österreich hingegen nur 1:250. Daran sieht man, dass eine Aufstockung in diesem Bereich denkbar und durchaus sinnvoll wäre, denn ein besseres Betreuungsverhältnis bedeutet bessere Jobchancen und qualitätsvollere Betreuung. Das AMS braucht nicht nur mehr Geld für die Aus- und Weiterbildung seiner Berater*innen. Ebenso notwendig ist die qualitative Aufstockung von sinnvollen Weiterbildungs- und Schulungsmaßnahmen von Arbeitssuchenden.

4. Recht auf Information

Wir fordern eine umfassende proaktive Aufklärung über die Rechte von Arbeitssuchenden

Das AMS wird durch uns alle finanziert und ist daher ein Dienstleistungsanbieter mit dem Auftrag der Allgemeinheit zu helfen. Er muss allen Menschen auf Augenhöhe begegnen. Damit Menschen gleichberechtigt mit ihren Berater*innen reden können brauchen sie zuallererst Informationen darüber, was ihre Rechte und Pflichten in Zusammenhang mit dem AMS sind. Begonnen damit, woran ihr Anspruch auf Arbeitslosengeld geknüpft ist. Ob und unter welchen Umständen ihnen das Geld gestrichen werden darf. Ob sie eine Betreuungsvereinbarung mit dem AMS eingehen müssen oder ob dies optional ist. Wie ihre Informations- und Auskunftsrechte aussehen und wie das rechtliche Verhältnis zwischen ihnen und externen Partnerunternehmen des AMS geregelt ist.

5. Umfassende Transparenz

Projekte und Programme, die mit unser aller Geld gestartet werden müssen höchstmögliche Transparenz aufweisen, um evaluierbar zu sein.

Der AMS-Algorithmus ist jahrelang mit hohen Kosten unter Ausschluss der Öffentlichkeit entwickelt worden. Eine informierte Debatte war schon allein deshalb nicht möglich, weil weder die Datenbasis des Systems noch seine Resultate veröffentlicht wurden. Die Schulungsunterlagen für Berater*innen und Prozesse für Widersprüche mit dem Algorithmus werden weiterhin geheim gehalten. Eine wissenschaftliche Aufarbeitung und demokratische Debatte über das Projekt sind so ausgeschlossen.

Wir fordern umfassende und proaktive Transparenz vom AMS. Aufklärung darf nicht erst durch öffentlichen Druck erfolgen. Veröffentlicht werden müssen zumindest die mathematischen Modelle, die eingesetzte Software, die anonymisierte Datenbasis, die konkrete Funktionsweise des Systems, die Ergebnisse des Berechnungsprozesses für einzelne Gruppen. Ebenso muss transparent dargelegt werden, wie sich der AMS-Algorithmus auf die praktische Beratung und Fördervergabe auswirkt. Auch die Maßnahmen, die das AMS bereits aufgrund der Kritik gesetzt hat, wie Schulungsunterlagen, das Zusammenspiel mit der Umstrukturierung des AMS und begleitende Prozesse, sowie Beschwerdemöglichkeiten für Betroffene, müssen endlich veröffentlicht werden.

6. Risikocheck für Algorithmen

Wir fordern eine Überprüfung von Algorithmen auf deren Technik und soziale Auswirkungen, bevor diese eingeführt werden (Verpflichtung für ein vorgelagertes Algorithmic Impact Assessment).

Automatisierte Systeme, die negative Konsequenzen für Menschen haben könnten, müssen vor ihrer Einführung genau auf Funktionsweise und eventuelle Folgewirkungen hin geprüft werden. Dies muss bei allen Algorithmen geschehen, die potentiell in Grundrechte eingreifen

Hier gibt es internationale Best-Practices der Kontrolle von Algorithmen, ein sogenanntes Algorithmic Impact Assessment. Dies vorzunehmen wurde beim AMS-Algorithmus verabsäumt und muss zukünftig verpflichtend sein.

Algorithmen müssen auf Fehler im System geprüft werden, Biases in den Daten und daraus resultierende negative Feedback Zyklen müssen analysiert werden, bevor solche Systeme gestartet und flächendeckend eingesetzt werden.

Nicht jede Statistische Regression folgt dem Prinzip von Ursache und Wirkung. Negative Effekte auf Menschen aufgrund von Fehlanalysen müssen vermieden werden.

Deswegen fordern wir ein Algorithmic Impact Assessment, wie es bereits Kanada oder die Stadt New York eingeführt haben.

7. Nur freiwillige Teilnahme am Algorithmus

Wir fordern eine optionale Teilnahme am AMS Algorithmus (Opt-In) und die Entkoppelung von jeder Fördervergabe. Wir wollen ein System, das so gut ist, dass die Betroffenen freiwillig daran teilnehmen

Das AMS ist in einer Machtposition gegenüber den Arbeitssuchenden. Im Sinne des Datenschutzes fordern wir deshalb die Freiwilligkeit der Teilnahme aller Arbeitssuchenden am AMS-Algorithmus. Arbeitssuchenden müssen ihre informierte Zustimmung geben, bevor das System sie kategorisiert. Diese Zustimmung kann jederzeit widerrufen werden, wodurch auch alle berechneten Werte des Algorithmus gelöscht werden müssen. Aus der Weigerung an diesem System teilzunehmen, dürfen den Arbeitssuchenden keine Nachteile entstehen.

Jetzt Forderungen unterstützen!

Quelle: epicenter.works - Plattform Grundrechtspolitik
25. Juni 2020
unter der Lizenz Creative Commons BY-SA 4.0