Kamere za prepoznavanje lica na ulicama Beograda — da li nas štite od kriminala ili ugrožavaju slobode?
Zoja Kukić

Suosnivačica Startita i direktorka za startap ekosistem u Inicijativi "Digitalna Srbija"

Vreme čitanja: 5 minuta

Foto: Unsplash

Građani imaju pravo da znaju kako, kada i gde bivaju snimani i praćeni, i oni moraju biti ti koji odlučuju o ograničavanju svojih sloboda.

Dok se u svetu vodi velika polemika o softverima za detekciju i prepoznavanje lica, u Beogradu se nastavlja postavljanje kamera za video nadzor kompanije Huawei, koje u sebi sadrže upravo ovu tehnologiju. Da li prednost koju ova tehnologija pruža u borbi protiv kriminala nadomešćuje kršenje ljudskih sloboda? Odgovor nije jednostavan, pa ne čudi ni što regulatori širom sveta nisu složni.

 

Tehnologija prepoznavanja lica sve više napreduje i osim što nekima od nas otključava telefone, postala je važan instrument u borbi protiv kriminala i pronalaženju nestalih lica. Autonomno prepoznavanje lica je sistem koji koristi kompjuterski vid da gleda i analizira slike. Kompjuterski vid koristi se u Snapchat filterima ili Apple FaceID, a zatim algoritam procesuira ove slike i kroz mašinsko učenje analizira ih i upoređuje sa slikama u drugim bazama podataka.

Kompanije koje razvijaju ovu tehnologiju grade je tako da može da prepozna osobu u gužvi u realnom vremenu, prati nečije pokrete, otkriva emocije i previđa ponašanje. Vezuje se i za nekoliko kontroverznih primena — prepoznavanje seksualnosti, pretraga ljudi po boji kože ili prepoznavanje etničkih grupa.

I kada govorimo o javnom prostoru, ova tehnologija se uveliko koristi. Carina i granični prelazi je koriste za skeniranje putnika, policija u Nju Orleansu ju je koristila u okviru prediktivnog policijskog programa 6 godina pre nego što je o tome informisana javnost. Procenjuje se da je čak polovina odraslih Amerikanaca u nekoj bazi za prepoznavanje lica.

U Kini eksperimentišu kombinujući ovu tehnologiju sa veštačkom inteligencijom kako bi predvideli da li će pojedinci pratiti pravila ili ne, a veruje se da im prepoznavanje lica pomaže i u pronalaženju političkih aktivista.

 

Ipak, pre manje od mesec dana, San Francisko, kolevka tehnologije, postao je prvi grad koji je zabranio upotrebu prepoznavanja lica na javnim mestima.

 

Šta se dešava u Srbiji?

U martu ove godine, Share Fondacija je skrenula pažnju javnosti na saradnju grada Beograda sa kompanijom Huawei o postavljanju 1000 “pametnih” kamera sa sposobnošću automatskog prepoznavanja lica i registarskih tablica. I dok su naše vlasti sve dokumente o ovoj javnoj nabavci zaštitili stepenom tajnosti “Poverljivo”, Huawei je na svom zvaničnom sajtu objavio studiju slučaja i izneo dosta detalja o ovom dogovoru.

Nakon objave Share Fondacije, ova studija slučaja je skinuta sa sajta, ali do sada smo naučili da nešto jednom objavljeno ne može da nestane sa interneta, tako da oni koje zanima, više podataka mogu da pročitaju ovde.

Priča počinje saradnjom srpske i kineske policije na “slučaju Kantrimen” 2015. godine, tako što je zahvaljujući ovoj naprednoj tehnologiji za samo tri dana nakon dobijanja slike osumnjičenog od MUP RS, pronađeno i uhapšeno lice koje je pobeglo u Kinu. Ovo brzo hapšenje bilo je povod za saradnju kroz projekat “Sigurno društvo”, sa ciljem uvođenja sistema naprednog video nadzora u Srbiju (kreće se od Beograda, ali cilj je pokriti celu zemlju). I tako smo postali kupci inteligentnih sistema video nadzora, sistema inteligentnog transporta, unapređene 4G mreže, unifikovanih data centara i povezanih komandnih centara.

Nakon testnih 9 kamera, koje su uspešno obavile funkcije preuzimanja video snimaka, njihovo kompresovanje, automatsko prepoznavanje registracionih tablica, analizu ponašanja, prepoznavanje lica, kao i dijagnostiku kvaliteta zvuka, potpisan je Sporazum o strateškom partnerstvu. U prvoj fazi projekta, 2018. godine, instalirano je 100 video kamera visoke definicije na više od 60 ključnih lokacija, sa fokusom na prostore za sportske manifestacije. Na početku ovog teksta videli smo da je u toku postavljanje novih kamera, ali još uvek nema nikakvih informacija za građane.

Huawei navodi da se video materijali i dobijeni podaci čuvaju na naprednom uređaju kompanije za skladištenje podataka pod nazivom “OceanStore”, koji pruža veliki broj mogućnosti kao što su različite analize, analize podataka, analize velikih setova podataka (Big data), dok je period zadržavanja dobijenih podataka ograničen do jedne godine.

 

Prednosti i nedostaci tehnologije za prepoznavanje lica

Automatizovano prepoznavanje lica (AFR) se pokazalo efektivnim u borbi protiv kriminala. Evaluacija velške policije pokazala je da im je ova tehnologija omogućila da identifikuju osumnjičene koje drugim metodama ne bi mogli. Za godinu dana, preko 100 hapšenja je bilo izvršeno uz pomoć AFR. U prethodnom segmentu obradili smo srpsko-kineski primer koji takođe ide u prilog ovoj tezi.

MIT Technology Review navodi i druge prednosti ove tehnologije, među kojima su to da je pouzdanija od ljudi (carinik može biti umoran, ali ne i tehnologija), kao i da je bez predrasuda. Međutim, obe ove prednosti važe ako je tehnologija kvalitetno razvijena, što se do sada pokazalo kao netačno.

Kada pričamo o nedostacima, izdvajaju se 3, koja mogu značajno ugroziti ljudske slobode.

Ova tehnologija je neprecizna, pogotovo ako niste beli muškarac — za žene koje nisu belkinje greši čak u 35% slučajeva. Amazonov softver za prepoznavanje lica je pogrešno identifikovao 28 članova Kongresa kao kriminalce, a softver koji je koristila londonska policija je imao čak 98% pogrešnih identifikacija.

Drugi nedostatak do koga postavljanje ovakvih sistema na javnim prostorima dovodi je kontinuirano nadgledanje ljudi i događaja. Vlasti bi tako mogle da prate demonstracije i identifikuju one koji su na njima. Drugi primer je plan u SAD da se postave kamere za prepoznavanje imigranata koje bi bile postavljene i u bolnicama, što bi dovelo do toga da ovi ljudi ne bi mogli da dobiju zdravstvenu negu nigde u zemlji.

I za kraj, dolazimo do čuvanja podataka bez osnova — ukoliko je neko osumnjičen za određeni zločin, ali se ispostavi da je nevin, njihovi podaci se i dalje čuvaju u bazi sa drugim kriminalcima, što može dovesti do daljih zloupotreba.

Dakle, ova tehnologija može biti veoma opasno oružje u pogrešnim rukama.

 

Nismo samo mi loši

U najvećem delu sveta, regulatori još nisu rešili kako da izađu na kraj sa ovom sistemima za prepoznavanje lica i institucije to zloupotrebljavaju. Njujorška baza bandikoja trenutno sadrži između 17.000 i 20.000 ljudi ima samo 1% belaca, dok je potpuno nejasno kako neko dospeva ili se uklanja sa liste, što znači da bi moglo da se desi da se tu nalaze i potpuno nevini pojedinci. Trenutno je u toku tužba protiv Grada zbog toga što nisu još uvek izneli ove podatke.

U Velsu je takođe policija tužena jer koristi ovu tehnologiju, a nedavno je i jedan anonimni zaposleni Amazona objavio kako institucije širom SAD testiraju ovaj softver na ulicama i fotografijama sa hapšenja bez ikakvog uvida i kontrole javnosti.

S druge strane, regulatori mnogo brže reaguju na uređenje komercijalne upotrebe ove tehnologije, pa je tako trenutno na glasanju “Commercial Facial Recognition Privacy Act” koji primorava kompanije da obaveste korisnika o upotrebi detekcije lica, dok je u Ilinoisu uređena oblast zaštite svih biometrijskih podataka za koje se zahteva eksplicitan pristanak korisnika (Biometric Information Privacy Act).

Iako je, kao što možemo videti, ova tehnologija neregulisana u skoro svim delovima sveta, jasno je da je posebno opasna za manje razvijene političke sisteme, pogotovo one koji naginju ka totalitarizmu.

 

Tek smo na početku…

Ova tehnologija je tek u svojoj ranoj fazi, a još više zabrinjavaju naredne etape razvoja, koje teže da prepoznaju emocije, ličnost, mentalno zdravlje ili stepen doprinosa na radnom mestu. Već sada, upotreba prepoznavanja lica dovodi do toga da se ljudi osećaju neprijatno u javnosti. Ova tehnologija nas sve tretira kao da smo potencijalni kriminalci, a to nije načelo po kome savremeni svet funkcioniše.

Posebna tema, ako dodatno analiziramo naš primer, leži i u saradnji sa kompanijom Huawei za koju se sumnja da svoje uređaje i informacije sa njih ustupa po potrebi kineskim vlastima. Međutim, ova tema zahteva jedan poseban tekst, a za one koje zanima, preporučujem tekst Marije Gavrilov “Pod kineskim digitalnim pojasom.

I, šta nam je činiti?

Za početak, treba da se dese samo dve stvari — da uklonimo oznaku “Poverljivo” iz Strateškog sporazuma sa kompanijom Huawei o naprednom video nadzoru u Srbiji i da se organizuje javna i stručna rasprava o uvođenju ove tehnologije na ulice naše zemlje.

Građani imaju pravo da znaju kako, kada i gde bivaju snimani i praćeni, i oni moraju biti ti koji odlučuju o ograničavanju svojih sloboda.

Leave a Reply

Your email address will not be published. Required fields are marked *