Browsing by Subject "suuririskiset tekoälyjärjestelmät"

Tutkielmassa tarkastellaan, mitkä ovat kuluttajan suojakeinot ja oikeudet tilanteissa, joissa hylkäävä luottopäätös perustuu automaattiseen päätöksentekoon, mukaan lukien profilointiin, ja miten näihin keinoihin vaikuttaa se, jos päätöksenteon taustalla on tekoälyksi luokiteltava järjestelmä. Lisäksi vertaillaan suojakeinoja kuluttajan oikeuksiin silloin, kun kyse ei olekaan lainkaan automaattiseksi luokiteltavasta luottopäätöksestä. Tutkimme, ovatko suojakeinot toiminnasta aiheutuviin riskeihin nähden riittäviä ja miten sääntelyä tulisi tältä osin jatkossa kehittää. Automaattisen päätöksenteon suojakeinot kiteytyvät oikeuteen vaatia ihmisen osallistumista tietojen käsittelemiseen, oikeuteen esittää kantansa, oikeuteen saada selvitys päätöksestä ja siihen johtaneesta arvioinnista sekä oikeuteen riitauttaa päätös. Nämä suojakeinot kuitenkin eroavat toisistaan, riippuen tarkasteltavasta sääntelystä. (Automaattista) luottopäätöstä koskeva sääntely on tähän asti pohjautunut yleiseen tietosuoja-asetukseen sekä kuluttajansuojasääntelyyn, erityisesti EU:n kuluttajaluottodirektiiviin. Tässä tutkielmassa tarkastellaan erityisesti marraskuussa 2023 voimaantullutta toista kuluttajaluottodirektiiviä, joka aiempaa versiotaan laajemmin säätää nimenomaan automaattisesta tietojenkäsittelystä luotonannon yhteydessä. Maailman ensimmäinen tekoälysäädös EU:n tekoälyasetus tuo oman lisäkerroksensa automaattista luottopäätöksentekoa koskevaan sääntelyyn. Tekoälyasetus muun muassa edellyttää suuririskisiksi luokiteltavilta tekoälyjärjestelmiltä, joita käytetään arvioitaessa luonnollisten henkilöiden luottopisteytystä tai luottokelpoisuutta, erityistä ihmisvalvontaa, mikä osaltaan vaikuttaa kokonaisuuteen. Tutkielmassa läpikäydään näiden edelle mainittujen sääntelyiden yhtäläisyyksiä, eroavaisuuksia ja ristiriitaisuuksia, ja esitetään, miten ensinnäkin ei vielä tutkielman kirjoittamishetkellä sovellettavaa oikeutta olevia toista kuluttajaluottodirektiiviä ja tekoälyasetusta tulisi tulkita ja toisaalta tätä vanhempia sääntelyitä ja koko sääntelyverkostoa kehittää, jotta riittävän suoja kuluttajan perusoikeuksien, erityisesti syrjinnän ehkäisemisen, osalta automatisoidussa luotonannossa toteutuu.