In ihrem Buch »Weapons of Math Destruction« von 2016 führt die Mathematikerin und Journalistin Cathy O'Neil eine Menge von Beispielen an, in denen der Einsatz von Algorithmen moralisch und gesellschaftlich beklagenswerte Folgen nach sich zieht. In den USA bewerten Algorithmen Lehrer:innen für die Schulbehörde, entscheiden maßgeblich über die Zulassung von Schüler:innen zu Colleges und legen fest, welche Personen einen Kredit oder einen Job bekommen. Algorithmen sollen Ärzten helfen, die richtige Therapie für jeden Patienten zu finden, und Richtern dabei, nur Menschen mit guten sozialen Aussichten auf Bewährung zu entlassen. Allgemein bestimmen Algorithmen im Internet über das, was wir sehen, und so unseren Nachrichten- und Entertainmentkonsum. O‘Neils Anliegen ist es, durch ihr Buch aufzuzeigen, wie der Einsatz solcher datengetriebenen Verfahren Ungleichheit vorantreibt und letztlich gar die Demokratie gefährdet.
Wann hat der Einsatz von Algorithmen moralisch relevante Auswirkungen? Sind Algorithmen objektiver und daher gerechter als Menschen? Dürfen wir Algorithmen verwenden? Wenn ja, unter welchen Bedingungen? Und wie können und müssen Algorithmen, die statistische Aussagen treffen, zum Wohle der Gesellschaft gestaltet werden? Wie muss die Ausgabe eines solchen Algorithmus von uns bewertet und interpretiert werden? Wer ist eigentlich für die Folgen verantwortlich? Und sind algorithmisch gefällte Urteile nicht letztlich objektiver und besser und daher vorzuziehen? Ist ein Urteil, das auf besseren Vorhersagen beruht, deshalb auch moralisch besser als eines, das auf schlechteres Vorhersagen basiert? Dies sind Fragen der (angewandten) Ethik, genauer der Computerethik.
Dieses Blockseminar setzt sich aus zwei Wochenendsitzungen zusammen. Zunächst wollen wir O’Neils (nicht besonders umfangreiches) Buch besprechen, um ein allgemeines Verständnis vom Einsatz von Algorithmen und seinen gesellschaftlichen Gefahren und Problemen zu entwickeln. Für den zweiten Termin sollen die Studierenden selbst tätig werden und aktuelle Beispiele von moralischer Relevanz recherchieren. Sie sollen auf diesen Beispielen aufbauend in kleinen Gruppen Argumente für oder gegen themenbezogene Behauptungen rekonstruieren oder selbst entwerfen. So werden verschiedene, moralisch interessante Aspekte aus unterschiedlichen Perspektiven beleuchten. Dafür soll geeignete philosophische Fachliteratur gefunden und herangezogen werden. Abschließend wird das Erarbeitete präsentiert und in einer Ausarbeitung niedergeschrieben.
Literatur (wird noch ergänzt): O'Neil, Cathy: »Weapons of Math Destruction«, Crown Books, 2016.
Zeit:
Ort:
- DozentIn: Timo Speith