Algorithmen sind überall. Sie beeinflussen unser Leben und unsere Wahrnehmung. In immer mehr Bereichen des Alltags, aber auch in Wirtschaft, Politik und Forschung sind wir längst auf sie angewiesen – eine bedrohliche Abhängigkeit? Die Initiative algorithmwatch.org will beobachten, warnen und aufklären.
Öffnen wir eine Internetseite, dann sehen wir keineswegs das Gleiche, was jemand anderes genau auf dieser Seite sieht. Und begeben wir uns in soziale Netzwerke, wird uns vorrangig das angezeigt, was gut in unsere Filterblase passt. Je nachdem, mit welchem System oder von welcher Postleitzahl aus auf eine Seite zugegriffen wird, verändern sich Anzeigen, Preise und Funktionen – und sogar die Inhalte. Dies kann von Vorteil für uns Nutzer*innen sein. Es ist aber genauso auch möglich, dass wir bereits bei der Eingabe einer PLZ durch einen lenkenden Algorithmus diskriminiert werden, ohne es zu merken.
Algorithmen machen Menschen berechenbarer
Auch in der Politik werden algorithmische Datenprozesse immer bedeutender. Besonders brisant und durchaus gefährlich wird es immer dann, wenn die Möglichkeiten von „Big Data“ mit den Technologien des ‚Nudging‘, also der subtilen Verhaltensbeeinflussung von Menschen kombiniert werden – so geschehen zuletzt auch im US-Wahlkampf.
Wie können wir uns diese Algorithmen also vorstellen und auf welche Weise greifen sie direkt in unser Leben ein? Diese Fragen wurden auch beim swap-Netzkultur im November 2016 gestellt. Wichtige Antworten lieferte die Initiative algorithmwatch.org, die sich dort vorstellte. Die Akteure von Algorithmwatch analysieren die Auswirkungen algorithmischer Entscheidungsprozesse auf menschliches Verhalten und auf die Öffentlichkeit. Und sie zeigen die ethischen Probleme auf, die durch den immer häufigeren Einsatz entstehen. Denn die Liste der bestehenden Anwendungen wird ständig länger. Algorithmen steuern beispielsweise sowohl die automatischen Grenzkontrollen von Frontex als auch den Hochfrequenzhandel an den internationalen Finanzmärkten.
Beobachten, Erläutern, Verknüpfen
Die Mitglieder der Initiative algorithmwatch.org sammeln konkrete Algorithmen und fokussieren dabei auf all jene, die die unmittelbaren Bürgerrechte betreffen können. Um ihre Ziele festzuschreiben, haben die Akteure ein Manifest veröffentlicht. Darin wird festgehalten, dass algorithmische Entscheidungsfindungsprozesse zunächst einmal nachvollziehbar sein müssen, um sie auch demokratischer Kontrolle unterwerfen zu können.
Dabei sollen die Bürgerinnen und Bürger, also wir, entscheiden können, wie viel unserer Freiheit wir diesen Prozessen übertragen wollen. Daraus abgeleitete politische Forderungen müssten daher neben einer digitalen Bildungsrevolution auch die nach unabhängigen IT-Experten und nach einer Quellenöffnung großer Konzerne sein.
All diese abstrakten Prozesse und die Vorgänge in den uns umgebenden Blackbox-Systemen zu erfassen, ist für Laien nicht so ohne weiteres möglich. Nichtsdestotrotz ist die öffentliche Debatte von allergrößter Relevanz, weil die technische Entwicklung und die Komplexität künstlicher neuronaler Netze rasant voranschreiten und Standards für die Zukunft setzen. Nur eine aufgeklärte Zivilgesellschaft, die auch weiß, womit sie es zu tun hat, kann sowohl kreative Möglichkeiten der Digitalisierung hervorbringen, als auch ihre potentiellen Bedrohungen aufdecken.
Penny Parker
zuerst erschienen in hallesche störung 1/2017
Foto von Algorithmwatch.
„Demokratische Gesellschaften haben die Pflicht, diese Nachvollziehbarkeit herzustellen: durch eine Kombination aus Technologien, Regulierung und geeigneten Aufsichtsinstitutionen.“
ADM-Manifest: http://algorithmwatch.org/das-adm-manifest-the-admmanifesto/
Das könnte Sie auch interessieren:
Alle Macht den digitalen Märkten?
Weltweiter Klimastreik - nun gemeinsam mit den Eltern
Forschung, Sinnsuche, Kultur, Arbeit. Interview mit…
Zwei von hundertsechzig – Erfahrungen im Bürgerrat
Gewerkschaft geht anders. Interview mit der FAU Halle
MOVE Utopia - Lieber das System ändern als das Klima