Policijski službenici riskiraju uhićenje nedužnih ljudi, posebno pripadnika etničkih manjina, ako neprecizne podatke o prepoznavanju lica tretiraju kao dokaz, pokazalo je službeno izvješće His Majesty's Inspectorate of Constabulary objavljeno u srijedu. Izvješće je pokazalo da je tehnologija prepoznavanja lica opterećena pogreškama i pristranostima.
Izvješće pokriva samo retrospektivno prepoznavanje lica, koje se smatra manje kontroverznim i lakšim za ispravnu primjenu od živog prepoznavanja lica koje se koristi u stvarnom vremenu za pronalaženje osumnjičenika. No i u tom području revizori su identificirali ozbiljne propuste. Neki istražitelji nisu znali da su rezultati retrospektivnog prepoznavanja lica obavještajni podaci, a ne dokaz, te da zahtijevaju dodatne provjere prije nego što policajci poduzmu mjere. Operatorima nije uvijek jasno da moraju provesti dodatne provjere kako bi verificirali podatke, a neki istražitelji nisu uvijek provodili dovoljno provjera koje potvrđuju podatke prije postupanja na temelju potencijalnih podudaranja.
To stvara rizik da bi osobe mogle biti netočno identificirane ili uhićene, što bi moglo narušiti povjerenje javnosti u tehnologiju, navodi se u izvješću. U malom broju slučajeva policajci su se previše oslanjali na rezultate retrospektivnog prepoznavanja lica, što je dovelo do neprikladnih istražnih radnji. Izvješće upozorava i na trajne probleme s pristranošću u algoritmu, uključujući veću vjerojatnost da pogrešno označi pripadnike etničkih manjina kao osumnjičenike, te ističe da se mora učiniti više na smanjenju rizika od pogrešnih uhićenja.
Revizori su identificirali slučajeve u kojima su korisnici učitavali nekvalitetne ili neprikladne probe slike, uključujući mutne slike i slike s više lica, što je smanjilo sposobnost sustava da vrati pouzdana podudaranja. Inspektori su također pronašli rizik od narušavanja povjerenja javnosti jer su slike iz pritvora koje su trebale biti izbrisane zapravo zadržane. Izvješće navodi da zakonodavstvo nije pratilo promjene u tehnologiji prepoznavanja lica i da ne postoji sveobuhvatan zakonski okvir koji uređuje upotrebu te tehnologije, što otežava policijskim snagama razumijevanje zakonite osnove za upotrebu retrospektivnog prepoznavanja lica i potrebnih zaštitnih mjera za zaštitu javnosti.
His Majesty's Inspector of Constabulary Kathryn Stone izjavila je da kontinuirana javna podrška ovisi o pokazivanju da se tehnologija koristi na odgovarajući način. Policijske snage moraju moći pokazati da su uspostavljene odgovarajuće zaštitne mjere, da se rizici povezani s pristranošću i zadržavanjem podataka učinkovito upravljaju te da odluke i dalje podliježu ljudskoj prosudbi, rekla je Stone. Dodala je da su jasniji zakonski okvir, jači nacionalni standardi te poboljšani aranžmani upravljanja i nadzora ključni za održavanje povjerenja javnosti.
Čelnici policije vide prepoznavanje lica kao sljedeći veliki iskorak u borbi protiv kriminala, a skeptici kao sljedeću veliku prijetnju građanskim slobodama. Jasleen Chaggar iz Big Brother Watcha izjavila je da su otkrića da policajci tretiraju prepoznavanje lica kao pravi dokaz, a ne kao rezultat vjerojatnosti, alarmantna. Taj pristup značajno povećava rizik da će više nedužnih ljudi dobiti policiju na vratima radi uhićenja zbog zločina počinjenih u gradovima koje nikada nisu posjetili, rekla je Chaggar. Dodala je da policija čak ne bilježi svoju upotrebu retrospektivnog prepoznavanja lica, što znači da ljudi mogu neopravdano postati osumnjičenici u kaznenim istragama bez da znaju zašto su optuženi. Policiji se ne može dopustiti daljnja upotreba algoritma s tako malo zaštitnih mjera i s pristranim postavkama koje vjerojatnije pogrešno identificiraju žene, Azijce i crnce te pretražuju milijune nezakonito zadržanih slika iz pritvora, upozorila je.
Ben Russell, voditelj za prepoznavanje lica pri National Police Chiefs' Council, izjavio je da policija ostaje predana etičnoj, proporcionalnoj i odgovornoj upotrebi retrospektivnog prepoznavanja lica za pomoć u istrazi zločina, privođenju počinitelja pravdi i očuvanju sigurnosti zajednica. Zadovoljni smo što je HMICFRS prepoznao uzbudljive mogućnosti te tehnologije, rekao je Russell. Prof Pete Fussey sa Sveučilišta u Southamptonu, bivši policijski savjetnik za prepoznavanje lica, izjavio je da je smislena ljudska provjera AI sustava zakonski uvjet, no izvješće daje primjere istražitelja koji prihvaćaju računalne sugestije zdravo za gotovo bez dodatnih provjera.
