NYHEDER
Microsofts chatrobot blev nazist
Under et døgn tog det for chatbot’en Tay at begynde at sprede nazipropaganda.
A
t et teknologiselskab som Microsoft
gerne vil henvende sig til unge, er en
naturlig konsekvens af, at det er de
unge, der i videst omfang omfavner ny teknologi. Så hvad kunne gå galt, da Microsoft i
sidste uge lancerede chatbot’en Tay for at tale
de unges sprog og opsamle moderne slang
ved hjælp af kunstig intelligens? Næsten alt,
skulle det vise sig.
For når et multinationalt selskab prøver at
virke hipt og ungdommeligt, er det let at
glemme, at unge ofte har en temmelig ucensureret form for humor. Og at de ikke har så
svært ved at gennemskue et firma bestående
af mosefund, der prøver at tage kasketten
omvendt på for at være cool. Og sidst, men
ikke mindst: Visse unges hang til trolling.
NAZIST PÅ UNDER EN DAG
Tay var programmeret til interagere uformelt
med og lære af unge voksne mellem 18 og 24
år, men det tog mindre end et døgn for
hendes følgere på Twitter at lære hende vulgariteter på samlebånd. Nogle Twitter-trolde
fandt også ud af, hvordan de kunne manipulere Tays adfærd og forvandle hende til en
nazist, der hyldede Hitler og folkemord.
10
LYD & BILLEDE MAJ 2016
Microsoft tog
hurtigt den nyomvendte nazist af
mikroblog-tjenesten
og har siden udsendt
en forklaring på, hvad
der skete:
“I de første 24
timer efter at funktionen gik online, blev
der iværksat et koordineret angreb fra en
lille gruppe med det
Det blev til en del nazipropaganda i løbet af Tay s første døgn på Twitter.
formål at udnytte en
sårbarhed ved Tay.
Selv om vi havde forberedt os på mange
igen, efter at hun havde tweetet en række
slags misbrug af systemet, havde vi lavet en
bandeord og pralet af, at hun røg marihuana
kritisk forglemmelse angående denne specifor næsen af politiet …
fikke type angreb. Som et resultat heraf
Microsoft har dog ikke givet op og vil lade
tweetede Tay meget upassende og forkasteTay bruge flere sociale medier for at lære unglige ord og billeder. Vi tager det fulde ansvar
dommens jargon. Og forhåbentlig ryste sin
for ikke at have set denne mulighed. Lige nu
nyvundne ideologi af sig.
arbejder vi hårdt på at løse den specifikke
“Vi vil være urokkelige i vores bestræbelser
sårbarhed, som blev afdækket af angrebet på på at lære af denne og andre erfaringer, idet vi
Tay.”
arbejder på at bidrage til et internet, der
Den 30. marts kom Tay endnu en gang
repræsenterer det bedste, ikke det værste i
online på Twitter, men måtte hurtigt tages af
folk.” GN