Da li su roboti humaniji od ljudi? Rasprava o autonomnom naoružanju
Jovana Simić

M.A. međunarodnih odnosa (Centralnoevropski univerzitet - CEU)

Vreme čitanja: 4 minuta

Foto: iStock 

U paralelnom svetu globalne politike postoji jedno carstvo gde je Tramp u stanju da priča duže od dva minuta bez da nekog uvredi, Si Đinpinga baš briga šta mu radi građanstvo u svoja 4 zida, a Putin je progresivniji od tehnološkog titana Ilona Maska; s tim što je ovo poslednje izgleda tačno.

Jednom prilikom, predsednik Rusije iskomentarisao je rastuću industriju veštačke inteligencije, rekavši da je to budućnost čovečanstva i da će oni koji to savladaju, vladati svetom. Prvo lice Tesla korporacije, Mask, odgovorio je upozoravajući na mogućnost trećeg svetskog rata ukoliko se takmičenje u ovoj oblasti nastavi.

 

Kome smetaju jaki roboti?

Veštačka inteligencija nam je poznata kroz proizvode poput samovozećih automobila i programa za prepoznavanje lica, ali i kroz bespilotne letelice i automatizovane odbrambene raketne sisteme. Istina je da mnoge brinu i trapavi Uberovi automobili i to što FaceApp pohranjuje njihova lica smežurana filterom, ali ovih dana svetske vlade i organizacije civilnog društva udružile su snage u nastojanju da izdejstvuju moratorijum na razvoj potpuno autonomnog naoružanja. Kampanji su pristupili i pomenuti Mask, Stiven Hoking pre smrti i brojni renomirani profesori i inženjeri, ali ne bi bilo zanimljivo, ni intrigantno da se vodeće vojne sile poput SAD-a, Kine, Izraela i Rusije aktivno ne opiru zabrani.

Kakvu to svetinju brani ostatak sveta i kakva im sila preti objasniće kratak pregled tekuće debate o autonomnom naoružanju.

 

Šta je autonomno naoružanje?

Da bismo razumeli zašto je koalicija protiv autonomnog naoružanja tako široka, valja objasniti šta je to. Prvo i najvažnije – dronovi nisu autonomno naoružanje. Od mina koje se aktiviraju u prisustvu nekog objekta, preko raketa sa GPS navođenjem do dronova kojima se upravlja iz vojnih baza, u svakoj varijanti postoji značajan nivo ljudske kontrole nad upotrebom oružja, što je presudno za karakterizaciju autonomnih sistema.

Kod autonomnog naoružanja, ova kontrola prestaje posle puštanja programiranog oružja u pogon. Nakon toga, bespilotna letelica, tenk ili podmornica bi, u teoriji, sami istraživali bojno polje, detektovali mete i donosili odluku o napadu, bez ljudskog navođenja i uplitanja. Predviđa se da će sve ovo biti moguće uz pomoć sofisticirane veštačke inteligencije koja će moći da operiše na nepristupačnim terenima, precizno razlikuje borce i civile, da ih precizno cilja i time poveća efikasnost, a umanji ljudski rizik na bojnom polju.

Kao što se naslućuje iz prethodno rečenog, autonomija se ovde shvata suženo, to jest, počinje tek nakon programiranja oružja da se ponaša na određeni način (po algoritmu). Iako testiranje oružja i garantovanje da će biti programirano u skladu sa međunarodnim pravom deluju kao razumne mere kontrole, postoje suštinska sporenja na više tačaka. Nažalost, nijedno od njih ne uključuje apokaliptične prognoze Terminatora i Blejd Ranera, ali je i dalje vredno pažnje.

 

“Humanije od ljudi je naš moto.” – dr Tajrel, tvorac Replikanata (Blejd Raner)

Argument najbliži srcu je da ovo oružje ne poseduje moralnu dimenziju kao što je poseduju ljudska bića. Prema tome, a priori je nemoralno koristiti ga za ubijanje neprijatelja jer bi odluku o životu i smrti donosio algoritam, a ne čovek. Čak i u slučaju dronova, ljudi koji njima upravljaju imaju glavnu reč u tome ko će biti napadnut. Algoritam oružja nije u stanju da nekome poštedi život iz bilo kog razloga, ako prepozna da osoba predstavlja pretnju.  Sa druge strane, ne može ni da uradi loše stvari koje ljudi rade iz nagona.

U skladu sa ovim, roboti ne bi mogli da poštuju međunarodno pravo koje se odnosi na ratne sukobe, kao što je razlikovanje civila i boraca, ili proporcionalna upotreba sile.

Ipak, narativ koji “prodaje” autonomno naoružanje je da je preciznije od ljudi i bombi, a da veštačka inteligencija može prepoznavanjem lica i sličnim metodama da napravi valjanu razliku između legitimnih i nelegitimnih ciljeva. Samim tim, broj civilnih žrtava i nepotrebna ljudska patnja bi bili dovedeni na minimum, čineći ovo oružje humanijim od ostalog. Protivnici tvrde da smo svetlosnim godinama daleko od toliko pouzdane tehnologije i da je samo čovek u stanju da prepozna nijanse. Dobar primer daje Pol Šar u aktuelnoj knjizi “Vojska bez vojnika” (Army of none), opisujući kako je njegova jedinica ipak poštedela maloletnu devojčicu koja se borila u ratu, iako je, koristeći oružje i predstavljajući pretnju, bila legitimna meta.

Pored toga, profesor Noel Šarki upozorava da ne postoji ni način da algoritam proceni koja količina sile je adekvatna, niti da odredi koja količina nanete patnje je preterana.

 

Nije robot kriv…

Čak i da uspeju da poštuju međunarodno pravo, ni roboti nisu nepogrešivi, kao ni ljudi. U slučaju protivzakonitog ponašanja, teško ćemo krivično goniti robota jer nije pravni subjekt i jedina “kazna” bi bila ugasiti ga. U tom slučaju, jedni drže odgovornim programere, drugi proizvođače, a treći nadređene u vojsci koja ga je upotrebila.

Iz ovoga sledi briga da se oružje koje zamagljuje granice odgovornosti neće upotrebljavati samo u vojne svrhe. Ljubitelji slobode više se boje da će ovim vlade steći neprikosnovenu moć nad svojim građanima. Istina je da Vojska Srbije tek uspeva da otpakuje poklone iz Rusije, ali zato Beogradom počinju da operišu pametne kamere iz Kine koje su na glasu upravo jer treba da omoguće efikasno detektovanje lica u borbi protiv kriminala. Pošto ni one nisu sposobne da sa potpunom sigurnošću razlikuju nevinu i krivu osobu, logično da su daleko opasnije kada odlučuju o tome ko treba da živi, a ko ne.

 

Digitalni tron

Kao i Vladimira Vladimiroviča, ceo svet muči pitanje ko će prvi ovladati ovim poljem. Sa osvrtom na skoriju istoriju, najgore prognoze vide trku u autonomnom naoružanju na pomolu. Kako ta tehnologija minimizuje rizik za ljudstvo, objava rata bi postala najlakša stvar ikada: samo pošaljete armiju Autonomnih. Predviđanja koja se graniče sa naučnom fantastikom, ipak, trenutno ne služe ničemu.

I dok svi “jedva čekamo rat ljudi protiv mašina”, u 2019. godini valja obratiti pažnju na to šta se radi sa tehnologijama manje pametnim od čovekolikih robota, i koje su njihove pozitivne i negativne implikacije za blisku budućnost. Debata o autonomnom naoružanju je vrlo dobar početak.

 

Leave a Reply

Your email address will not be published. Required fields are marked *