Uvod u problematiku pristranosti u prepoznavanju lica
Britanski nadzornik za zaštitu podataka nedavno je zatražio od Ureda za unutarnje poslove “hitnu jasnoću” o rasnoj pristranosti tehnologije prepoznavanja lica koja se koristi u policiji. Ova tehnologija, koja je zamišljena kao alat za hvatanje ozbiljnih prijestupnika, postavlja brojna etička pitanja, osobito nakon što su rezultati testiranja pokazali značajnu razliku u točnosti identifikacije među različitim demografskim skupinama.
Problemi s točnošću
Ministarstvo unutarnjih poslova je priznalo da je “vjerojatnije” da će tehnologija netočno identificirati osobe iz određenih demografskih skupina. Prema izvješću Nacionalnog fizikalnog laboratorija, ovo je izazvalo zabrinutost jer su crnci i Azijati imali mnogo veću stopu lažno pozitivnih identifikacija u usporedbi s bijelcima. Tehnologija koja je trebala poboljšati sigurnost zapravo može dovesti do pogrešnih optužbi i diskriminacije.
Zabrinjavajuće otkriće
Analitičari su ustanovili da je stopa lažno pozitivne identifikacije (FPIR) za bijelce iznosila samo 0,04%, dok je za azijske subjekte bila 4,0%, a za crnce čak 5,5%. Posebno visoka FPIR zabilježena je kod crnih žena, gdje je iznosila 9,9%, dok je kod crnih muškaraca bila znatno niža, 0,4%. Ovi podaci ukazuju na značajne razlike u performansama algoritama koji se koriste.
Reakcija nadležnih vlasti
Emily Keaney, zamjenica povjerenika Ureda povjerenika za informiranje (ICO), izjavila je da je Ured zatražio “hitno razjašnjenje” situacije kako bi se mogla razmotriti daljnja pravna djelovanja. Njena izjava naglašava važnost povjerenja javnosti u tehnologiju i upozorava na opasnosti percepcije pristranosti i diskriminacije.
Mjere koje se planiraju poduzeti
Budući koraci mogli bi uključivati pravno obvezujuće naredbe za prestanak korištenja tehnologije ili nametanje novčanih kazni. ICO planira raditi s Ministarstvom unutarnjih poslova i policijom na poboljšanjima kako bi osigurali da tehnologija bude pravednija i učinkovitija.
Širi kontekst korištenja tehnologije
Tehnologija prepoznavanja lica može se koristiti za skeniranje ljudi u stvarnom vremenu kroz kamere, uspoređujući njihove slike s registrima poznatih kriminalaca. Međutim, postoji zabrinutost da brute-force metode pretraživanja bez odgovarajućih zaštitnih mjera mogu rezultirati ozbiljnim posljedicama. Policijski službenici također mogu retrospektivno pregledavati slike osumnjičenika, što dodatno podiže pitanja o privatnosti i zaštiti podataka.
Potencijalne pravne posljedice
Glasnogovornik Ministarstva unutarnjih poslova poručio je da je odjel “ozbiljno” shvatio nalaze i već poduzima mjere, uključujući testiranje novih algoritama koji bi trebali smanjiti statistički značajnu pristranost. Očekuje se da će policijski inspektorat zajedno s regulatornim tijelom za forenzičku znanost preispitati korištenje te tehnologije od strane organa za provođenje zakona.
U svijetu gdje tehnologija igra sve važniju ulogu u svakodnevnom životu, ovakvi iznosi i slične pristranosti ne samo da utječu na pravdu, već i na širin društveni kontrast i povjerenje građana u institucije.
