PrivacyWeek 2020

Problematische Algorithmen greifen in unser Leben ein - was sind die Probleme und mögliche Ansätze zur Regulierung?
2020-10-27, 20:00–20:45, Lecture Hall 1
Language: German

Wie greifen Algorithmen in unser Leben ein, was können sie dabei anrichten, welche Ungenauigkeiten, Generalisierungen, Vorurteile, Diskriminierungen werden beim Design und der Implementierung von Algorithmen umgesetzt und wie könnte eine Reglementierung aussehen?


Immer öfter und immer tiefer greifen Algorithmen in unser Leben ein. Dies geschieht entweder auf der Basis von Statistik oder auch Artificial Intelligence, was aber letztendlich oft für die Betroffenen keinen Unterschied macht. Dabei entstehen auf Grund inherenter Problematiken Fehler wie z.B. vielfältige Formen der Diskriminierung, bzw. die Perpetuierung bestehender Verhältnisse und Systeme. Dies wird an Hand von Beispielen wie dem AMS-Algorithmus, automatic sentencing, und anderen dargestellt und untersucht.

Der Vortrag stellt dann eine Systematik der Fehlerquellen vor. Das beginnt bei Fehlern in der Programmierung, aber viel wichtiger sind Fehler bei der Auswahl des Verfahrens und die Limitierung dass für den Algorithmus grundsätzlich immer nur die Daten verwendet werden können, die nun mal vorliegen oder erhebbar sind. Dazu kommen weitere Probleme durch die Parametrisierung des Algorithmus, d.h. das Setzen von Prioritäten und Zielvorgaben. Dazu darf nicht vergessen werden, dass die letztendlichen Ziele die der Algorithmus implementieren soll grundsätzlich von außen vorgegeben werden und nichts mit neutraler Mathematik zu haben.

Zum Abschluss werden die aktuellen Entwicklungen zur Kategorisierung und möglicher Reglementierung von Algorithmen analog zu Konzepten der Datenschutzgrundverordnung (DSGVO) vorgestellt.

Details zu problematischen Algorithmen auch auf https://sicherheitskultur.at/Manipulation.htm#diskriminierung

See also: Slides

Philipp Schaumann ist seit 1970 in der EDV tätig, davon die letzten 25 Jahre hauptsächlich in beratender Funktion. In den letzten 20 Jahren hat er sich besonders mit Sicherheitsfragen beschäftigt und sich dabei auch auf die organisatorischen, gesellschaftlichen und psychologischen Aspekte konzentriert an denen viele der Sicherheitsprojekte leider heute scheitern. Ihn beunruhigt die ständig stärker fortschreitende Dominanz von Technik in allen Lebenslagen und die dadurch ausgelöste fast permanente Überwachung großer Teile der Bevölkerung.

Er arbeitetete bis vor Kurzem als Sicherheitsspezialist im Informationssicherheits Team einer Großbank in Wien und publiziert auf https://sicherheitskultur.at/.

Daneben ist er beim Chaos Computer Club Wien aktiv (https://c3w.at), vor allem bei Bildungsthemen bei dem Projekt „Chaos macht Schule“ (https://c3w.at/schule/)

This speaker also holds: