The Doppler Quarterly (DEUTSCHE) Sommer 2017 | Page 69

Öffnen Sie die Foto-App auf Ihrem Mobiltelefon,
geben Sie „Hund“ als Suche ein und es werden Ihnen
alle Bilder von Hunden angezeigt. Das war kein Kin-
derspiel. Aber Ihr Telefon weiß, wie ein Hund
aussieht.
Dieses und andere moderne Wunder sind das Ergeb-
nis maschinellen Lernens. Es sind Programme, die
Millionen von Daten durchforsten und Korrelationen
und Vorhersagen über die Welt machen. Und sie üben
einen immensen Reiz aus. Diese Maschinen können
alte, konkrete Daten nutzen und darauf basierend
Entscheidungen fällen, die manchmal genauer als die
von Menschen sind.
Aber maschinelles Lernen hat auch eine dunkle Seite.
„Viele Leute glauben, dass Maschinen unvoreinge-
nommen und neutral sind“, so Aylin Caliskan, Infor-
matiker der Princeton University. „Aber Maschinen
lernen anhand menschlicher Daten. Und Menschen
sind voreingenommen.“
Ähnlich wie ein Kind von seinen Eltern, lernen Com-
puter rassistisch, sexistisch und voreingenommen zu
sein – und zwar von ihren Erschaffern.
Wir denken, dass künstliche Intelligenz
unparteiisch ist. Sie ist es oftmals nicht.
Fast alle neuen Verbrauchertechnologien nutzen in
irgendeiner Weise maschinelles Lernen. Wie Google
Translate: Kein Mensch wies die Software an zu ler-
nen, wie man vom Griechischen ins Französische und
dann ins Englische übersetzt. Sie durchkämmte ein-
fach unzählige Texte und lernte es selbstständig. In
anderen Fällen machen ML-Programme Vorhersagen
darüber, welche Lebensläufe wahrscheinlich erfolg-
reiche Bewerber ergeben oder wie ein Patient auf ein
bestimmtes Medikament reagiert.
Beim maschinellen Lernen handelt es sich um ein
Programm, das Milliarden von Datenpunkten durch-
sucht, um Probleme zu lösen (wie z. B. „identifiziere
das Tier auf dem Foto“), jedoch ist nicht immer klar,
wie es das Problem gelöst hat. Und es wird immer
klarer, dass diese Programme Vorurteile und Stereo-
typen entwickeln können, ohne dass wir es über-
haupt bemerken.
Im vergangenen Mai veröffentlichte ProPublica eine
Untersuchung über ein ML-Programm, das von
Gerichten zur Vorhersage verwendet wird, wer nach
einer gezielten Verwarnung wahrscheinlich ein wei-
teres Verbrechen begehen wird. Die Reporter stellten
fest, dass die Software schwarze Menschen mit einem
höheren Risiko einstufte als weiße.
„Auswertungen wie diese – auch als Risikobewertun-
gen bekannt – werden in den Gerichtssälen im gan-
zen Land immer häufiger eingesetzt“, erklärt ProPu-
blica. „Sie dienen dazu, Entscheidungen darüber zu
treffen, wer in jeder Phase des Strafrechtssystems
freigelassen werden kann, von der Festsetzung einer
Kaution ... bis zu noch grundlegenderen Entschei-
dungen über die Freiheit der Angeklagten.“
Das Programm hat anhand von Daten realer Haft-
strafen gelernt, wer am ehesten im Gefängnis landen
wird. Und historisch gesehen war das Strafrechtssys-
tem in der realen Welt gegenüber schwarzen Ameri-
kanern unfair.
Diese Geschichte offenbart eine grundlegende Ironie
des maschinellen Lernens. Die Attraktivität dieser
Systeme ist, dass sie unparteiische Entscheidungen
treffen können, die frei von menschlichen Vorurteilen
sind. „Wenn Computer genau vorhersagen könnten,
welche Angeklagten wahrscheinlich neue Verbre-
chen begehen, könnte das Strafrechtssystem fairer
und selektiver dahingehend sein, wer und wie lange
inhaftiert wird“, schrieb ProPublica.
Was aber stattdessen passierte, war, dass Programme
des maschinellen Lernens unsere Vorurteile in gro-
ßem Umfang verfestigt haben. Es war kein Richter,
der gegen Afroamerikaner voreingenommen war, es
war ein Roboter.
Es sind Geschichten, wie die von ProPublica veröf-
fentlichten, die Caliskan dazu brachten, dieses Prob-
lem zu untersuchen. Als Informatikerin, die in der
Regel auch die einzige Frau in ihren Kursen an der
Universität war, ist sie sensibel für dieses Thema.
Caliskan hat bemerkt, dass sich die Voreingenom-
menheit auf oft subtile Weise in das maschinelle Ler-
nen eingeschlichen hat – zum Beispiel in Google
Translate.
Türkisch, eine ihrer M uttersprachen, hat zum Bei-
spiel keine geschlechtlichen Pronomen. Wenn sie
aber Google Translate für Türkisch verwendet, endet
die Übersetzung „immer mit ‚er ist Arzt‘ in einer
geschlechterspezifischen Sprache.“ Dabei ließ der
türkische Ausgangssatz nicht erkennen, ob es sich
um eine Frau oder einen Mann handelte. Der Compu-
ter nahm einfach an, dass es sich bei einem Arzt um
einen Mann handelt.
SOMMER 2017 | THE DOPPLER | 67