"Waren Sie schon einmal im Gefängnis?" Mit dieser Frage leitet Latanya Sweeney ihre zuletzt publizierte Studie ein. Begonnen hat alles ganz harmlos, nämlich mit einer Online-Suche. Die Direktorin des Data Privacy Lab der Harvard University gab zu Beginn des Jahres ihren Namen in die Suchmaschine Google ein und wurde auf eine Online-Werbung der Website instantcheckmate.com aufmerksam.
"NOTICE: This site contains real arrest records dating back several decades. ... Learning the truth about the history of your friends and family can be shocking, so please be cautious when using this tool."
Hinweis auf instantcheckmate.com
"Latanya Sweeney, arrested?" stand da zu lesen. Das Unternehmen verdient, wie viele andere Anbieter auch, sein Geld mit der Bündelung personenbezogener Daten. Wer auf dieser Website einen Namen eingibt, wird, je nach geografischer Eingrenzung, über Wohnort und Familienstand der betreffenden Person(en) informiert. Und man erfährt gegen ein kleines Entgelt auch, ob diese Person schon mal im Gefängnis war.
"Schwarze" vs. "weiße" Namen
Das Service für Neugierige bewegt sich durchaus im Rahmen der amerikanischen Gesetze. Stutzig wurde die Computerwissenschaftlerin allerdings, als sie alternative Namen in Google eingab. Bei "Latanya Farrell" und "Latanya Lockett" erschienen ebenfalls Verweise auf "criminal background information".
Bei Namen wie "Jill Foley", "Jill Schneider" und "Jill James" indes schien das Wort "arrested" nicht auf. Ein Zufall? Nein, schreibt Sweeney in ihrer Studie. Dass ihr Name einschlägige Werbungsvarianten aktiviert habe, könnte mit ihrer Hautfarbe zu tun haben. Sweeney ist Afroamerikanerin und ihr Vorname, " Latanya", sei eher unter dunkelhäutigen Amerikanern gebräuchlich als unter weißen.
Eine systematische Abfrage bestätigt diese Verbindung. Typisch afroamerikanische Namen wie "Trevon", "Lakisha" und "Darnell" (verifizierbar etwa durch die Google-Bildersuche) hätten eine erhöhte Wahrscheinlichkeit, Verweise auf kriminelle Hintergrundinformationen zu generieren. Bei Google betrage die Differenz zu "weißen" Namen wie "Laurie", "Brendan" und "Katie" 18 Prozent. Ähnlich das Ergebnis bei der Suchmaschine von Reuters: Hier betrage der Abstand 25 Prozent.
Ein Optimierungsproblem?
Im Prinzip gebe es drei Erklärungen dafür, schreibt Sweeney. Entweder gehe diese Schieflage auf Google (respektive Reuters) zurück oder auf instantcheckmate.com.
"AdWords does not conduct any racial profiling. We also have an 'anti' and violence policy which states that we will not allow ads that advocate against an organisation, person or group of people. It is up to individual advertisers to decide which keywords they want to choose to trigger their ads."
Reaktion von Google
Oder, dritte Möglichkeit, die Verschiebung habe mit den im Hintergrund arbeitenden Algorithmen zu tun, die Werbungen an Suchanfragen bzw. das Konsumverhalten der User anpassen. Nachdem sich Google in dieser Hinsicht naturgemäß nicht in die Karten blicken lässt, bleibt diese Frage unbeantwortet. Immerhin gab der Suchmaschinenriese gegenüber der Zeitschrift "Technology Review", wo Sweeneys Studie kürzlich vorgestellt wurde, einen Kommentar ab.
Ein Sprecher des Unternehmens verwies darauf, dass man keine Werbungen zulasse, die gegen Organisationen, Personen oder Gruppen von Personen gerichtet seien. "Individuelle Anbieter können frei entscheiden, welche Stichwörter sie wählen, um ihre Werbungen abzurufen." Womit noch nicht gesagt ist, dass die Sache nicht auch andere, nämlich algorithmische Ursachen hat.
Falls ja, wäre das keine schlechte Nachricht, argumentiert Sweeney. Wenn die Rechenregeln von Googles "Adsense" lernen können, den Umsatz zu maximieren, dann könnten sie auch lernen, die gesellschaftlichen Konsequenzen ihres Tuns zu berücksichtigen. Wenn man so will: Soziale Optimierung wäre auch nur ein Optimierungsproblem.
Robert Czepel, science.ORF.at
Mehr zu diesem Thema:
