Der Zufall ist kein Unschuldslamm

Kein vernünftiger Mensch würde ein T-Shirt designen, auf dem „Bleib locker und vergewaltige deine Mitmenschen“ steht. Aber ein Algorithmus ist kein vernünftiger Mensch. Ein Algorithmus designt so etwas.

Wegen eines computergenerierten Shirts mit einem ähnlichen Aufdruck gab es am vergangenen Wochenende eine Menge Aufregung im Netz. Die Firma „Solid Gold Bomb“ (SGB) hat über Amazon Marketplace UK T-Shirts mit Variationen des populären, aus der britischen Propaganda während des zweiten Weltkriegs stammenden Spruchs angeboten: „Keep calm and carry on“. Der Shop funktionierte nach dem „Print on demand“-Pinzip. Die Kleidungsstücke stapelten sich also nicht fertig in einem Lager, sondern wurden erst bedruckt, wenn jemand sie bestellte. Die Idee ähnelte der des Zufallsshirts von Kathrin Passig: Ein Algorithmus sorgte für immer neue Kombinationen des Spruchs und wählte dabei aus der langen Verbliste eines Wörterbuchs. Aus „Keep calm and“, einem Verb und einer Ergänzung um „off“, „them“, „it“, „a lot“, „him, „her“ oder „us“ konnten unendlich viele verschiedene Sprüche entstehen. So ein Spruch konnte zum Beispiel „Keep calm and dance off“ oder „Keep calm and kiss her“ lauten. Aber eben auch „Keep calm and rape a lot“. Und genau das ist passiert.  

Der Algorithmus generierte ein Rape-Shirt. Mittlerweile sind der Shop und die T-Shirts aus dem Netz verschwunden.

Kurz darauf begann der Empörungssturm auf Twitter. Widerlich, respektlos, schrecklich sei dieser T-Shirt-Spruch, schrieben die Nutzer. Womit sie durchaus Recht hatten. Die Aufforderung zu einem Verbrechen, in diesem Fall sogar in bunter, scherzhafter Aufmachung, sollte man nicht auf der Brust tragen. Zudem spuckte der Algorithmus noch andere, ähnlich anstößige Sprüche aus. Der Anbieter reagierte schließlich auf die Beschwerden. Mittlerweile kann man die Shirts auf Amazon nicht mehr finden. Klickt man auf der Homepage von Solid Gold Bomb auf das Banner, über das sie noch angeboten werden, führt der Link ins Leere. Und auf drei von fünf Unterseiten findet man das Statement und die Entschuldigung des SGB-Gründers Michael Fowler. „Es war ein Computerfehler, den ich verursacht habe, und ich übernehme die Verantwortung dafür“, schreibt Fowler. Man habe nie die Intention gehabt, gewalttätige oder geschmacklose Slogans zu verbreiten und er bedauere den Ärger, den seine Unachtsamkeit verursacht habe.  

Fowler versteckt sich nicht ganz hinter seiner Technik, er sagt: Ich bin Schuld. Das stimmt insofern, als dass  auch ein Algorithmus von Menschen programmiert wird. Aber er wird programmiert, um anschließend etwas zu tun, mit dem man nicht rechnet. Ein Algorithmus ist ein Spiel mit dem Zufall. Beziehungsweise, und das ist etwas paradox, mit dem beabsichtigten Zufall. Wir sind in der Lage, die Technik so zu steuern, dass sie uns überrascht, sie erst zu beherrschen, um dann die Zügel schießen zu lassen. Das ist Machtausübung, um die Macht abgeben zu können. Aber wie unschuldig ist dieser produzierte Zufall? Ist alles, was er hervorbringt, in Ordnung, weil keine Absicht dahintersteckt, weder eine böse, noch eine gute? Oder muss jemand mit Sinn und Verstand aufpassen, dass der Zufall nichts Menschenverachtendes, Verletzendes oder Gefährliches produziert?  

Der Blogger Pete Ashton hat am Samstag einen Text veröffentlicht, in dem er den SGB-Patzer erklärt. Er betont ausdrücklich, dass er das T-Shirt nicht verteidigen möchte (vor allem, nachdem er massiv für seinen Beitrag angegriffen wurde), aber führt zwei Argumente an, die die Aufregung schmälern sollen: 1. Das Rape-T-Shirt existiert nicht. Es gibt nur eine Idee davon auf dem Bildschirm. Solange niemand es bestellt, wird es niemals ein reales Shirt sein. 2. Niemand hat dieses Design entworfen und abgesegnet. Niemand hat entschieden, dass es eine gute Idee wäre, Shirts mit dem Aufruf zur Vergewaltigung zu bedrucken. Laut Ashton liegt die Verantwortung also allein beim Algorithmus und den kann man nicht bestrafen. Fowler hätte sich also theoretisch dahinter verstecken können.  

So wie es Google macht. Vor kurzem hat die Havard-Professorin Latanya Sweeney eine Studie veröffentlicht. Sie hat herausgefunden, dass Google Ads bei einer Suche nach Personen mit Namen, die meist schwarze Menschen tragen, wie beispielsweise Darnell oder Jermaine, eher Anzeigen generiert, die mit Kriminalität in Verbindung gebracht werden, als bei der Suche nach „typisch weißen“ Namen wie Geoffrey oder Emma. Als die Professorin den Namen „Latanya Farrell“ googelte, stieß sie zum Beispiel auf eine Anzeige der Seite instantcheckmate.com, auf der man herausfinden kann, ob eine bestimmte Person schon einmal festgenommen wurde. „Latanya Farrell, arrested?“ lautete der Text der Anzeige. Ergebnisse wie dieses waren für „schwarze“ Namen 25 Prozent wahrscheinlicher als für „weiße“. Für „Kristen Sparrow“ zum Beispiel erschien lediglich eine Anzeige von  peoplessmart.com, einer generellen Personensuchseite, Anzeigentext: „We found: Kristen Sparrow“. Der Algorithmus bedient sich hier der statistisch höheren Kriminalitätsrate von Personen dunkler Hautfarbe – und agiert rassistisch. Natürlich nicht bewusst. Aber Google übernahm, anders als Fowler, keine Verantwortung für die eigene technische Schöpfung. Ihre Technik, so ein Google-Sprecher, verknüpfe keinen Namen mit einer bestimmten Rasse und man habe auch nie versucht, sie derart zu programmieren. Er sagt: Wir sind nicht Schuld. Verweist aber auch auf die Kunden, die die Anzeigen nutzen. Diese entschieden, bei welchen Schlüsselwörtern ihre Anzeigen generiert würden. Von denen hat sich bisher aber noch keiner geäußert.  

Man kann die Frage, wer für die mitunter komischen Auswüchse eines Algorithmus verantwortlich ist, wohl nicht abschließend beantworten. Und darum auch nicht, ob regelmäßig kontrolliert werden sollte, was durch ihn entsteht. René Walter von Nerdcore hat dem Rape-Shirt-Fall einen Beitrag auf seinem Blog gewidmet. Er schließt mit den Worten: „Von Kram wie diesem werden wir noch jede Menge hören.“ Das Spiel mit dem Zufall wird weitergehen. Je besser die Technik wird, desto leichter wird es sein, einen Algorithmus zu programmieren, und desto größer werden womöglich auch die Überraschungen, die er produziert. Solange es nur T-Shirts sind, die keiner kauft, kann man das verkraften. Aber eine Tücke des Zufalls ist ja, dass man sich nicht vorstellen kann, was durch ihn alles entstehen könnte. Zumindest hat er uns jetzt schon einmal bewiesen, dass er kein Unschuldslamm ist. 


Text: nadja-schlueter - Foto: Screenshot