Browsing by Author "Ojala, Erika"

Den snabba utvecklingen av teknologi och digitalisering har lett till att automatiserat beslutsfattande har blivit allt vanligare i dagens samhälle. Forskning har dock visat att under de senaste åren har algoritmer i flera situationer fattat automatiserade beslut på diskriminerande grunder. Fenomenet har lett till diskussion gällande huruvida lagstiftningen garanterar ett tillräckligt skydd för personuppgifterna när de används för automatiserat beslutsfattande, samt hur kan individen vara säker på att automatiserade beslut inte fattas på diskriminerande grunder. Avhandlingen analyserar om och hur principerna i artikel 5.1 a i dataskyddsförordningen – principerna om laglighet, korrekthet och öppenhet – skyddar mot möjlig diskriminering orsakat av automatiserade beslut tagna av algoritmer. Det är så gott som ostridigt att diskriminering strider mot laglighetsprincipen, men trots allt uppstår intressanta frågor speciellt gällande positiv särbehandling. Algoritmens diskriminering utgör stora problem speciellt gällande korrekthetsprincipen: eftersom algoritmer är konstgjorda strukturer utarbetade av människan, absorberar algoritmer lätt fördomar som existerar i samhället. Öppenhetsprincipen förknippas ofta med hur väl algoritmens innehåll kan förstås. Kravet på öppenhet kan anses vara motstridigt – den personuppgiftsansvarige ska till viss del känna igen algoritmens processer, men samtidigt är det på grund av algoritmernas komplexitet mer eller mindre omöjligt att förstå algoritmens innehåll och inlärningsprocess. Vidare diskuteras huruvida rätten till förklaring till algoritmens beslut kunde utgöra ett medel till motverkande av diskriminering. En rättighet att få en förklaring till algoritmens beslut skulle naturligtvis motverka diskriminering, men för tillfället är rättsläget gällande frågan tvetydig. Enligt den för tillfället ledande tolkningen kan en rätt till förklaring till logiken bakom beslutsprocessen härledas från skäl 71 i dataskyddsförordningen. Tolkningen har dock fått mycket kritik eftersom skäl inte har ansetts vara direkt bindande. Lagstiftningen bör proaktivt anpassas till den ständigt utvecklande världen med automatik och algoritmer. Redan i dagens läge krävs dock mera konsekventa och tydliga riktlinjer gällande skyddet som dataskyddsförordningen och principerna om laglighet, korrekthet och öppenhet erbjuder med hänsyn till algoritmens diskriminering. Balanseringen mellan integritetsskydd, förebyggande av diskriminering och en effektiv ekonomisk marknad är inte lätt, men eftersom betydelsen av automatik och algoritmer sannolikt kommer att öka i framtiden, är det istället för att motsätta sig förändring motiverat att utveckla teknologin till ett mera etiskt och hållbart håll där ekonomisk tillväxt inte kommer på bekostnaden av individernas integritet.