Integritet i fokus Integritet i fokus 3-2017 | Page 15
pe r s on u pp g i f t s om bude t
Vill vi kunna förutspå var brott kommer att begås?
I förra numret tog jag upp företags an-
vändning av artificiell intelligens och big
data för att kartlägga konsumenters köp-
beteenden. I boken The Rise of Big Data
Policing diskuterar juridikprofessor An-
drew Guthrie Ferguson hur liknande tek-
nik används av brottsbekämpande myn-
digheter.
Med hjälp av exempelvis kameror
och ansiktsigenkänning och analyser av
transaktioner och elektronisk kommuni-
kation går det att förutspå var brott kan
komma att begås eller identifiera platser
och individer som ligger i riskzonen.
Problemet är att det lätt smyger sig
in fördomar i sådana system. Vi känner
igen det från marknadsföring i sociala
medier, där algoritmer tenderat att prio-
ritera män vid marknadsföring av högav-
lönade jobb och från verktyg som ameri-
kanska domstolar använt för att bedöma
återfallsrisk, där algoritmer kritiserats för
att diskriminera svarta.
Till det kommer den så kallade black
box-problematiken, det kan vara svårt till
och med för konstruktörerna själva att
överblicka hur självlärande system fung-
erar. ”Big data policing, and these new
forms of surveillance and social control,
must confront this black data problem”,
skriver Ferguson. Vi riskerar att överlåta
beslut åt, eller låta oss bli vägledda av,
system som vi tror är objektiva men som
i själva verket speglar våra fördomar.
Dataskyddsförordningen innehåller en
definition av profilering och ett förbud
mot helt automatiserat beslutsfattande i
situationer då besluten får påtagliga kon-
sekvenser för den enskilde. Kritiker me-
nar dock att det inte räcker med lagstift-
ning. Systemen måste också utformas
på ett sätt som gör det möjligt att över-
blicka hur de fungerar och att kunna er-
bjuda individer transparens.
Kan vi inte bara låta bli att använda
sådana system då? Det verkar inte så.
Ansiktsigenkänning, big data policing
och datorstödda beslut av myndigheter
kommer på bred front i länder som USA,
Tyskland och Kina. Det är lätt att inse
varför. Rätt implementerad kan tekniken
leda till såväl effektivitets- som kvalitets-
vinster. Utmaningen blir att hitta ett sätt
att främja både innovation och rättssä-
kerhet.
Fredrik Svärd
Generalsekreterare Forum för dataskydd
data s k y dd s r e f or m e n 2018
Ny dataskyddsstyrelse ska lösa tvister
Ett av syftena med dataskyddsförord-
ningen är att harmonisera reglerna om
dataskydd och hur personuppgifter får
hanteras inom EU. Det innebär också att
tillsynen, granskningen, måste harmoni-
seras. Som ett led i det arbetet inrättas
därför den europeiska dataskyddsstyrel-
sen eller EDPB efter engelskans European
Data Protection Board. Styrelsen kom-
mer att bestå av representanter för EU-
ländernas nationella tillsynsmyndigheter
samt EU:s egen dataskyddsmyndighet
EDPS. EU-kommissionen kan ha en re-
presentant i styrelsen, dock utan rösträtt.
Sammansättningen i dataskyddsstyrel-
sen kommer att se likadan ut som i den
rådgivande arbetsgrupp som finns idag,
Artikel 29-gruppen. Men till skillnad från
idag är styrelsen inte bara rådgivande
utan har även till uppgift att lösa tvister
genom bindande beslut.
Tvistlösning kan bli aktuell vid gräns
överskridande hantering av personupp-
gifter, det vill säga när ett företag är eta-
blerat i flera EU-länder och behandlar
Integritet i fokus nr 3-2017 – Datainspektionen
personuppgifter i flera av länderna. Det
gäller också om företaget är etablerat i
bara ett EU-land men hanterar person-
uppgifter på sätt som i väsentlig grad
påverkar registrerade i flera EU-länder.
Vid granskningar av sådana företag ska
tillsynsmyndigheterna samarbeta. Myn-
digheten i det land där företaget har sin
huvudsakliga verksamhet blir ansvarig
och ska leda samarbetet med berörda
tillsynsmyndigheter i andr