algora

Black­box Algo­rith­mus – Chance oder Bedro­hung?

Algo­rith­men sind über­all. Sie beein­flus­sen unser Leben und unsere Wahr­neh­mung. In immer mehr Berei­chen des All­tags, aber auch in Wirt­schaft, Poli­tik und For­schung sind wir längst auf sie ange­wie­sen – eine bedroh­li­che Abhän­gig­keit? Die Initia­tive algorithmwatch.org will beob­ach­ten, war­nen und auf­klä­ren.

Öff­nen wir eine Inter­net­seite, dann sehen wir kei­nes­wegs das Glei­che, was jemand ande­res genau auf die­ser Seite sieht. Und bege­ben wir uns in soziale Netz­werke, wird uns vor­ran­gig das ange­zeigt, was gut in unsere Fil­ter­blase passt. Je nach­dem, mit wel­chem Sys­tem oder von wel­cher Post­leit­zahl aus auf eine Seite zuge­grif­fen wird, ver­än­dern sich Anzei­gen, Preise und Funk­tio­nen – und sogar die Inhalte. Dies kann von Vor­teil für uns Nutzer*innen sein. Es ist aber genauso auch mög­lich, dass wir bereits bei der Ein­gabe einer PLZ durch einen len­ken­den Algo­rith­mus dis­kri­mi­niert wer­den, ohne es zu mer­ken.

Algo­rith­men machen Men­schen bere­chen­ba­rer

Auch in der Poli­tik wer­den algo­rith­mi­sche Daten­pro­zesse immer bedeu­ten­der. Beson­ders bri­sant und durch­aus gefähr­lich wird es immer dann, wenn die Mög­lich­kei­ten von „Big Data“ mit den Tech­no­lo­gien des ‚Nud­ging‘, also der sub­ti­len Ver­hal­tens­be­ein­flus­sung von Men­schen kom­bi­niert wer­den – so gesche­hen zuletzt auch im US-Wahl­kampf.

Wie kön­nen wir uns diese Algo­rith­men also vor­stel­len und auf wel­che Weise grei­fen sie direkt in unser Leben ein? Diese Fra­gen wur­den auch beim swap-Netz­kul­tur im Novem­ber 2016 gestellt. Wich­tige Ant­wor­ten lie­ferte die Initia­tive algorithmwatch.org, die sich dort vor­stellte. Die Akteure von Algo­rith­m­watch ana­ly­sie­ren die Aus­wir­kun­gen algo­rith­mi­scher Ent­schei­dungs­pro­zesse auf mensch­li­ches Ver­hal­ten und auf die Öffent­lich­keit. Und sie zei­gen die ethi­schen Pro­bleme auf, die durch den immer häu­fi­ge­ren Ein­satz ent­ste­hen. Denn die Liste der bestehen­den Anwen­dun­gen wird stän­dig län­ger. Algo­rith­men steu­ern bei­spiels­weise sowohl die auto­ma­ti­schen Grenz­kon­trol­len von Fron­tex als auch den Hoch­fre­quenz­han­del an den inter­na­tio­na­len Finanz­märk­ten.

Beob­ach­ten, Erläu­tern, Ver­knüp­fen

Die Mit­glie­der der Initia­tive algorithmwatch.org sam­meln kon­krete Algo­rith­men und fokus­sie­ren dabei auf all jene, die die unmit­tel­ba­ren Bür­ger­rechte betref­fen kön­nen. Um ihre Ziele fest­zu­schrei­ben, haben die Akteure ein Mani­fest ver­öf­fent­licht. Darin wird fest­ge­hal­ten, dass algo­rith­mi­sche Ent­schei­dungs­fin­dungs­pro­zesse zunächst ein­mal nach­voll­zieh­bar sein müs­sen, um sie auch demo­kra­ti­scher Kon­trolle unter­wer­fen zu kön­nen.

Dabei sol­len die Bür­ge­rin­nen und Bür­ger, also wir, ent­schei­den kön­nen, wie viel unse­rer Frei­heit wir die­sen Pro­zes­sen über­tra­gen wol­len. Dar­aus abge­lei­tete poli­ti­sche For­de­run­gen müss­ten daher neben einer digi­ta­len Bil­dungs­re­vo­lu­tion auch die nach unab­hän­gi­gen IT-Exper­ten und nach einer Quel­len­öff­nung gro­ßer Kon­zerne sein.

All diese abs­trak­ten Pro­zesse und die Vor­gänge in den uns umge­ben­den Black­box-Sys­te­men zu erfas­sen, ist für Laien nicht so ohne wei­te­res mög­lich. Nichts­des­to­trotz ist die öffent­li­che Debatte von aller­größ­ter Rele­vanz, weil die tech­ni­sche Ent­wick­lung und die Kom­ple­xi­tät künst­li­cher neu­ro­na­ler Netze rasant vor­an­schrei­ten und Stan­dards für die Zukunft set­zen. Nur eine auf­ge­klärte Zivil­ge­sell­schaft, die auch weiß, womit sie es zu tun hat, kann sowohl krea­tive Mög­lich­kei­ten der Digi­ta­li­sie­rung her­vor­brin­gen, als auch ihre poten­ti­el­len Bedro­hun­gen auf­de­cken.

Penny Par­ker

zuerst erschienen in hallesche störung 1/2017

Foto von Algo­rith­m­watch.

„Demo­kra­ti­sche Gesell­schaf­ten haben die Pflicht, diese Nach­voll­zieh­bar­keit her­zu­stel­len: durch eine Kom­bi­na­tion aus Tech­no­lo­gien, Regu­lie­rung und geeig­ne­ten Auf­sichts­in­sti­tu­tio­nen.“

ADM-Mani­fest: http://algorithmwatch.org/das-adm-manifest-the-admmanifesto/

Kommentar verfassen

Time limit is exhausted. Please reload CAPTCHA.