Black­box Algo­rith­mus – Chan­ce oder Bedro­hung?

Algo­rith­men sind über­all. Sie beein­flus­sen unser Leben und unse­re Wahr­neh­mung. In immer mehr Berei­chen des All­tags, aber auch in Wirt­schaft, Poli­tik und For­schung sind wir längst auf sie ange­wie­sen – eine bedroh­li­che Abhän­gig­keit? Die Initia­ti­ve algorithmwatch.org will beob­ach­ten, war­nen und auf­klä­ren.

Öff­nen wir eine Inter­net­sei­te, dann sehen wir kei­nes­wegs das Glei­che, was jemand ande­res genau auf die­ser Sei­te sieht. Und bege­ben wir uns in sozia­le Netz­wer­ke, wird uns vor­ran­gig das ange­zeigt, was gut in unse­re Fil­ter­bla­se passt. Je nach­dem, mit wel­chem Sys­tem oder von wel­cher Post­leit­zahl aus auf eine Sei­te zuge­grif­fen wird, ver­än­dern sich Anzei­gen, Prei­se und Funk­tio­nen – und sogar die Inhal­te. Dies kann von Vor­teil für uns Nutzer*innen sein. Es ist aber genau­so auch mög­lich, dass wir bereits bei der Ein­ga­be einer PLZ durch einen len­ken­den Algo­rith­mus dis­kri­mi­niert wer­den, ohne es zu mer­ken.

Algo­rith­men machen Men­schen bere­chen­ba­rer

Auch in der Poli­tik wer­den algo­rith­mi­sche Daten­pro­zes­se immer bedeu­ten­der. Beson­ders bri­sant und durch­aus gefähr­lich wird es immer dann, wenn die Mög­lich­kei­ten von „Big Data“ mit den Tech­no­lo­gi­en des ‚Nud­ging‘, also der sub­ti­len Ver­hal­tens­be­ein­flus­sung von Men­schen kom­bi­niert wer­den – so gesche­hen zuletzt auch im US-Wahl­kampf.

Wie kön­nen wir uns die­se Algo­rith­men also vor­stel­len und auf wel­che Wei­se grei­fen sie direkt in unser Leben ein? Die­se Fra­gen wur­den auch beim swap-Netz­kul­tur im Novem­ber 2016 gestellt. Wich­ti­ge Ant­wor­ten lie­fer­te die Initia­ti­ve algorithmwatch.org, die sich dort vor­stell­te. Die Akteu­re von Algo­rith­mwatch ana­ly­sie­ren die Aus­wir­kun­gen algo­rith­mi­scher Ent­schei­dungs­pro­zes­se auf mensch­li­ches Ver­hal­ten und auf die Öffent­lich­keit. Und sie zei­gen die ethi­schen Pro­ble­me auf, die durch den immer häu­fi­ge­ren Ein­satz ent­ste­hen. Denn die Lis­te der bestehen­den Anwen­dun­gen wird stän­dig län­ger. Algo­rith­men steu­ern bei­spiels­wei­se sowohl die auto­ma­ti­schen Grenz­kon­trol­len von Fron­tex als auch den Hoch­fre­quenz­han­del an den inter­na­tio­na­len Finanz­märk­ten.

Beob­ach­ten, Erläu­tern, Ver­knüp­fen

Die Mit­glie­der der Initia­ti­ve algorithmwatch.org sam­meln kon­kre­te Algo­rith­men und fokus­sie­ren dabei auf all jene, die die unmit­tel­ba­ren Bür­ger­rech­te betref­fen kön­nen. Um ihre Zie­le fest­zu­schrei­ben, haben die Akteu­re ein Mani­fest ver­öf­fent­licht. Dar­in wird fest­ge­hal­ten, dass algo­rith­mi­sche Ent­schei­dungs­fin­dungs­pro­zes­se zunächst ein­mal nach­voll­zieh­bar sein müs­sen, um sie auch demo­kra­ti­scher Kon­trol­le unter­wer­fen zu kön­nen.

Dabei sol­len die Bür­ge­rin­nen und Bür­ger, also wir, ent­schei­den kön­nen, wie viel unse­rer Frei­heit wir die­sen Pro­zes­sen über­tra­gen wol­len. Dar­aus abge­lei­te­te poli­ti­sche For­de­run­gen müss­ten daher neben einer digi­ta­len Bil­dungs­re­vo­lu­ti­on auch die nach unab­hän­gi­gen IT-Exper­ten und nach einer Quel­len­öff­nung gro­ßer Kon­zer­ne sein.

All die­se abs­trak­ten Pro­zes­se und die Vor­gän­ge in den uns umge­ben­den Black­box-Sys­te­men zu erfas­sen, ist für Lai­en nicht so ohne wei­te­res mög­lich. Nichts­des­to­trotz ist die öffent­li­che Debat­te von aller­größ­ter Rele­vanz, weil die tech­ni­sche Ent­wick­lung und die Kom­ple­xi­tät künst­li­cher neu­ro­na­ler Net­ze rasant vor­an­schrei­ten und Stan­dards für die Zukunft set­zen. Nur eine auf­ge­klär­te Zivil­ge­sell­schaft, die auch weiß, womit sie es zu tun hat, kann sowohl krea­ti­ve Mög­lich­kei­ten der Digi­ta­li­sie­rung her­vor­brin­gen, als auch ihre poten­ti­el­len Bedro­hun­gen auf­de­cken.

Pen­ny Par­ker

zuerst erschienen in hallesche störung 1/2017

Foto von Algo­rith­mwatch.

„Demo­kra­ti­sche Gesell­schaf­ten haben die Pflicht, die­se Nach­voll­zieh­bar­keit her­zu­stel­len: durch eine Kom­bi­na­ti­on aus Tech­no­lo­gi­en, Regu­lie­rung und geeig­ne­ten Auf­sichts­in­sti­tu­tio­nen.“

ADM-Mani­fest: http://algorithmwatch.org/das-adm-manifest-the-admmanifesto/

Kommentar verfassen