Bleiben Sie mit kostenlosen Updates auf dem Laufenden
Melden Sie sich einfach an Technologie myFT Digest – direkt in Ihren Posteingang geliefert.
Stellen Sie sich dieses Szenario vor – oder denken Sie daran, wenn Sie häufig fliegen und besonders Pech haben. Ihr Flug ist überbucht und um Platz freizugeben, werden Passagiere entfernt. Diejenigen mit den wenigsten Vielfliegermeilen werden zuerst rausgeschickt. Sie können sich natürlich beschweren, aber die Person, die die Richtlinie umsetzt, hat sie nicht festgelegt – und sie kann sie auch nicht ändern. Selbst wenn Sie zufällig die Mobiltelefonnummer der Geschäftsführerin der Fluggesellschaft haben, ist das nicht ihre Schuld: Es entspricht den Unternehmensrichtlinien.
Dies ist das Gedankenexperiment, das Dan Davies in seinem unterhaltsamen neuen Buch verwendet: Die Unverantwortlichkeitsmaschine, um zu veranschaulichen, was er „die Rechenschaftssenke“ nennt: Regelwerke, Verfahren und in einigen Fällen ganze Institutionen im modernen Leben, die im Wesentlichen die individuelle Verantwortung für die Entscheidungsfindung beseitigt haben. Der Flugbegleiter, der Sie aus dem Flugzeug begleitet, ist nicht verantwortlich, ebenso wenig wie der Vorgesetzte. Schließlich haben Sie sich bei der Buchung Ihres Tickets für diese Möglichkeit angemeldet.
Obwohl der Begriff „Rechenschaftspflichtsenke“ ein neuer Begriff ist, sprechen andere Denker von ähnlichen Problemen. FAT-ML-Forscher (Fairness, Accountability and Transparency in Machine Learning) sprechen sowohl von „Verantwortung“ (eine klare Vorstellung davon zu haben, an wen man sich wenden soll, wenn ein Algorithmus eine Entscheidung ausspuckt, die einem nicht gefällt) als auch von „Erklärbarkeit“ (diese Person sollte es sein). aus diesem Grund in einer verständlichen Sprache erklären können, warum die Entscheidung getroffen wurde. Andere befürchten, dass maschinelles Lernen eine „Verantwortungslücke“ schafft, in der menschliche Entscheidungsträger die Entscheidungen, die sie umsetzen, nicht mehr berücksichtigen oder gar verstehen müssen.
Es gibt schlimmere Dinge im Leben als eine verspätete Reise. Ein schwerwiegenderes Beispiel für eine Senkung der Rechenschaftspflicht könnte der Windrush-Skandal sein, bei dem Zehntausende in Westindien geborene Briten misshandelt wurden, wobei viele ihren Arbeitsplatz und ihr Zuhause verloren und einige zu Unrecht aus dem Vereinigten Königreich abgeschoben wurden. Wessen Schuld war es? Die Architekten der feindseligen Umweltpolitik, die die Grenzen der Grenzbestimmungen des Landes auf jeden Arbeitsplatz, jeden Vermieter und jeden öffentlichen Dienst verlagerte? Die Bürokraten, die Landekarten geschreddert haben, die als alternative Ausweise gedient hätten? Die Schar von Regierungen, die Gesetze erlassen haben, um das Recht der Bürger des britischen Empire, sich darin frei zu bewegen, einzuschränken? Die einzige Person, die wegen der Ungerechtigkeit zurückgetreten ist, war Amber Rudd, deren Hauptvergehen darin bestand, Innenministerin zu sein, als der Skandal bekannt wurde, anstatt eine der beleidigenden Richtlinien umzusetzen, und sie kehrte nach kurzer Abwesenheit bald in ein hohes Amt zurück und leitete ein anderes große Abteilung. Eine ähnliche Rechenschaftssenke ist derzeit beim Windrush-Entschädigungssystem am Werk, bei dem es zu Verzögerungen kam.
Aber nicht alle Rechenschaftssenken sind schlecht. Der Einstellungsprozess, der es meinem Cheffreund ermöglicht, die Bewerbung meines inkompetenten Neffen auszusortieren, ohne mich zu beleidigen, ist ebenfalls eine Belastung für die Rechenschaftspflicht. Die klaren Regeln, die in Regelwerken, Verfahren und Algorithmen festgelegt sind, können zu schwerwiegenden Ungerechtigkeiten führen. Aber sie sind zumindest messbar und nachweisbar, im Gegensatz zu den vorschnellen Urteilen, die wir alle jeden Tag fällen. Richtlinien zur Verurteilung von Strafsachen sind zum Teil eine Möglichkeit, persönliche Vorurteile und willkürliche Ungerechtigkeiten aus dem Gerichtsverfahren zu entfernen, obwohl sie selbst willkürliche Ungerechtigkeiten mit sich bringen können und dies auch tun.
Verantwortlichkeitssenken sind ein Nebenprodukt des Lebens in einer komplexeren Gesellschaft, und die Einführung von maschinellem Lernen und algorithmischer Entscheidungsfindung in der öffentlichen Politik wird noch viel mehr davon hervorbringen. Ein Richter, dessen Autonomie in fast allen Gesellschaften durch Strafrichtlinien und verbindliche Grenzen stark eingeschränkt ist, kann dennoch der letzte Entscheider bleiben, selbst wenn er durch algorithmische Modelle unterstützt wird. Aber wer trägt die Schuld, wenn diese Systeme schiefgehen oder stark in die eine oder andere Richtung abweichen?
Ein gutes Beispiel für die Vorteile und Schwierigkeiten ist der Einsatz von Gesichtserkennungssoftware. Obwohl diese Technologie mittlerweile fast immer eine bessere Leistung erbringt als das menschliche Urteilsvermögen allein, ist es immer noch wahrscheinlicher, dass Menschen mit dunklerer Hautfarbe falsch als Frauen identifiziert werden. Wer trägt die Schuld, wenn dies zu einem Justizirrtum führt? Und wer soll dafür verantwortlich sein, dass die Software morgen besser ist als heute?
Aber auch ein normaler Mensch, der sich nicht an ein Regelbuch hält, wird eine Menge Fehler machen. Und ich würde mich viel lieber den gelegentlichen Ungerechtigkeiten des durchschnittlichen Regelwerks aussetzen – was in der Praxis alles ist, was ein Algorithmus ausmacht – als einer uneingeschränkten menschlichen Entscheidungsfindung. Aber für Führungskräfte, sei es in Unternehmen oder Staaten, bedeutet die Erklärung, was bei der maschinengestützten Entscheidungsfindung schief gelaufen ist, dass sie fließend darüber sprechen können, was Rechenschaftspflichtsenken bedeuten, warum wir sie haben und ob wir sie abschaffen sollten.