Integritet i fokus Integritet i fokus 3-2017 - Page 15

pe r s on u pp g i f t s om bude t Vill vi kunna förutspå var brott kommer att begås? I förra numret tog jag upp företags an- vändning av artificiell intelligens och big data för att kartlägga konsumenters köp- beteenden. I boken The Rise of Big Data Policing diskuterar juridikprofessor An- drew Guthrie Ferguson hur liknande tek- nik används av brottsbekämpande myn- digheter. Med hjälp av exempelvis kameror och ansiktsigenkänning och analyser av transaktioner och elektronisk kommuni- kation går det att förutspå var brott kan komma att begås eller identifiera platser och individer som ligger i riskzonen. Problemet är att det lätt smyger sig in fördomar i sådana system. Vi känner igen det från marknadsföring i sociala medier, där algoritmer tenderat att prio- ritera män vid marknadsföring av högav- lönade jobb och från verktyg som ameri- kanska domstolar använt för att bedöma återfallsrisk, där algoritmer kritiserats för att diskriminera svarta. Till det kommer den så kallade black box-problematiken, det kan vara svårt till och med för konstruktörerna själva att överblicka hur självlärande system fung- erar. ”Big data policing, and these new forms of surveillance and social control, must confront this black data problem”, skriver Ferguson. Vi riskerar att överlåta beslut åt, eller låta oss bli vägledda av, system som vi tror är objektiva men som i själva verket speglar våra fördomar. Dataskyddsförordningen innehåller en definition av profilering och ett förbud mot helt automatiserat beslutsfattande i situationer då besluten får påtagliga kon- sekvenser för den enskilde. Kritiker me- nar dock att det inte räcker med lagstift- ning. Systemen måste också utformas på ett sätt som gör det möjligt att över- blicka hur de fungerar och att kunna er- bjuda individer transparens. Kan vi inte bara låta bli att använda sådana system då? Det verkar inte så. Ansiktsigenkänning, big data policing och datorstödda beslut av myndigheter kommer på bred front i länder som USA, Tyskland och Kina. Det är lätt att inse varför. Rätt implementerad kan tekniken leda till såväl effektivitets- som kvalitets- vinster. Utmaningen blir att hitta ett sätt att främja både innovation och rättssä- kerhet. Fredrik Svärd Generalsekreterare Forum för dataskydd data s k y dd s r e f or m e n 2018 Ny dataskyddsstyrelse ska lösa tvister Ett av syftena med dataskyddsförord- ningen är att harmonisera reglerna om dataskydd och hur personuppgifter får hanteras inom EU. Det innebär också att tillsynen, granskningen, måste harmoni- seras. Som ett led i det arbetet inrättas därför den europeiska dataskyddsstyrel- sen eller EDPB efter engelskans European Data Protection Board. Styrelsen kom- mer att bestå av representanter för EU- ländernas nationella tillsynsmyndigheter samt EU:s egen dataskyddsmyndighet EDPS. EU-kommissionen kan ha en re- presentant i styrelsen, dock utan rösträtt. Sammansättningen i dataskyddsstyrel- sen kommer att se likadan ut som i den rådgivande arbetsgrupp som finns idag, Artikel 29-gruppen. Men till skillnad från idag är styrelsen inte bara rådgivande utan har även till uppgift att lösa tvister genom bindande beslut. Tvistlösning kan bli aktuell vid gräns­ överskridande hantering av personupp- gifter, det vill säga när ett företag är eta- blerat i flera EU-länder och behandlar Integritet i fokus nr 3-2017 – Datainspektionen personuppgifter i flera av länderna. Det gäller också om företaget är etablerat i bara ett EU-land men hanterar person- uppgifter på sätt som i väsentlig grad påverkar registrerade i flera EU-länder. Vid granskningar av sådana företag ska tillsynsmyndigheterna samarbeta. Myn- digheten i det land där företaget har sin huvudsakliga verksamhet blir ansvarig och ska leda samarbetet med berörda tillsynsmyndigheter i andr