Ole teadlik automatiseeritud
otsustussüsteemide RISKIDEST!
Kas teadsid, et Eestis kasutatakse aina enam tehisintellekti ja automatiseeritud otsustussüsteeme?
Automatiseeritud otsustamine tähendab, et sinu kohta tehakse eelotsus arvutisüsteemi abil ilma inimese sekkumiseta otsustusprotsessi.
Need arvutisüsteemid on reeglina loodud läbi mõeldult ja riske ennetavalt, et muuta Eesti inimeste jaoks teenuste saamise kogemus kiiremaks ja paremaks.
Samas tuleb olla teadlik, et ükski süsteem ei ole ideaalne ning võib peegeldada endas pärismaailmas olevat ebavõrdsust. Seetõttu võivad automatiseeritud otsustussüsteemid olla kallutatud või vahel teha vigu, täpselt nagu inimesedki.
Süsteemi poolt tehtud vead või vale kasutusviis võivad kaasa tuua diskrimineerimist. See aga on Eesti seadustega keelatud.
Automatiseeritud otsused võivad mõjutada sinu juurdepääsu töökohtadele, laenudele, tervishoiule, sotsiaalteenustele või õiguskaitsele.
Siin lehel juhime su tähelepanu sellele, kuidas märgata diskrimineerivaid otsuseid ning kuhu pöörduda kui tunned, et sinu suhtes on käitutud ebaõiglaselt.
ABC
Kuidas tekib automatiseeritud süsteemide kallutatus?
Automatiseeritud süsteemid teevad otsuseid nende treenimiseks kasutatud andmete põhjal. Kui kasutatud andmed peegeldavad ajaloolisi ebavõrdsusi, puudulikku esindatust või on kogutud vaid teatud inimgruppidelt, võib mudel hakata tunnuseid (nagu sugu, rass, vanus jms) seostama kindlate tulemustega ning see võib viia diskrimineeriva otsuseni.
Näiteks: Kui eelnevalt on asutuses või ettevõttes töötanud vaid naised, siis võib värbamisel kasutatav AI eeldada, et sobiv kandidaat on naine.
AI-süsteemid peavad keerulise maailma taandama reegliteks ja mustriteks. Kui eeldatakse, et kõik inimesed või olukorrad on sarnased, võib süsteem anda mõne sihtrühma jaoks ebatäpseid või ebaõiglasi tulemusi.
Näiteks: Laenutaotluste puhul võib süsteem eeldada, et pikaajalise töölepinguga inimene on sobiv kandidaat ning projektipõhist tööd tegev inimene ei ole. Kuigi mõnes valdkonnas on projektipõhine töö tavaline ja tagab pideva sissetuleku.
Isegi hästi loodud süsteem võib muutuda kallutatuks, kui seda kasutatakse vales olukorras, valel eesmärgil või ilma, et inimene oleks vahetult otsustusprotsessi kaasatud. Samuti võib kasutajaliides või liiga suur usaldus automaatse otsuse vastu vähendada kriitilist mõtlemist.
Näiteks: Kui sotsiaaltoetuste puhul pettuste avastamiseks loodud süsteemi hakatakse kasutama selleks, et hinnata, kas toetust anda või mitte.
Vaata, mis võib juhtuda kui AI
teeb otsuseid, mis mõjutavad sinu elu, tervist või varalist seisu.
Hei, mina olen Robot Piko. Las ma räägin sulle, mis on automatiseeritud otsustussüsteem ja mida teha kui süsteem teeb vea.
Mis on diskrimineerimine?
Diskrimineerimine on inimese ebavõrdne kohtlemine mõne tunnuse alusel ning see on Eestis keelatud. Soolise võrdõiguslikkuse seadusega ja võrdse kohtlemise seadusega kaitstud tunnused on sugu, vanus, rahvus, nahavärvus, usund, veendumused, puue, seksuaalne sättumus, lapsevanemaks olemine, perekondlikud kohustused või ametiühingusse kuulumine.
KONTROLLI OMA TEADMISI:
Kas automatiseeritud otsustesse saab sekkuda?
Jah! Kuigi automatiseeritud otsustussüsteemid on loodud, et muuta teenuste saamise kogemus Eesti inimeste jaoks kiiremaks ja paremaks, ei ole ükski süsteem ideaalne. Kui tunned, et vastuvõetud otsus sind diskrimineerib, siis tea, et automatiseeritud otsustussüsteemide poolt tehtud otsused ei ole lõplikud. Sa võid alati pöörduda asutuse poole, kes otsuse tegi ja paluda selgitusi. Kui tunned, et Sind on selle otsusega diskrimineeritud, pöördu julgelt võrdõigusvoliniku poole. Abi saad ka Andmekaitse Inspektsioonist.
Kuidas käituda kui tunned, et sinu suhtes on automatiseeritud süsteemid teinud diskrimineerivaid otsuseid?
1. Võta ühendust otsuse teinud asutuse või ettevõttega.
2. Esita päring koos oma nime ja kontaktandmetega selle kohta, kuidas otsus tehti ja kas see on korrektne. Täpsusta, et soovid otsuse vaidlustada.
3. Kui saadud vastus ei rahulda, siis pöördu abi saamiseks Võrdõigusvoliniku, Õiguskantsleri või Andmekaitse Inspektsiooni poole.