Foto: UnSplash
Veštačka inteligencija je ovih dana svugde oko nas: u našim mobilnim telefonima gde uči da prepoznaje naše lice ili otisak prsta, dovršava naše započete rečenice, iza aplikacija koje koristimo odakle nam preporučuje filmove, muziku, tehnologiju, čak i sa kim da stupimo u kontakt, rešava složene probleme pretrage relevantnog sadržaja za nas, upravlja motornim vozilima… U centru je pažnje regulatora EU i drugde dok u SAD, posle WSJ Facebook Files i svedočenja o svim posledicama masovne analize podataka AI sistemima, postaje i politički problem par excellence. Ali sve te AI sisteme o kojima govorimo i diskutujemo kakve će društvene efekte na kraju imati mi nazivamo “veštački inteligentnim” u jednom uskom smislu te reči. Naime, svi oni rešavaju samo parcijalne probleme koje opšta inteligencija – onu koju za sada znamo samo u vrsti Homo sapiens – rešava. Danas ćemo povući razliku između veštačke inteligencije (engl. Artificial Intelligence, AI) u tom uskom smislu reči i opšte veštačke inteligencije (engl. Artificial General Intelligence, AGI) – one koja predstavlja sveti gral kognitivnih nauka, one suštinske, prave naučne zagonetke zbog koje se uopšte proučava mogućnost automatizacije, mehanizacije mentalnih procesa.
Kako ćemo diskutovati o pojmu kao što je AGI – kao o nečemu što uopšte ne postoji niti smo u stanju da ga još dovedemo u postojanje? Na primeru, naravno. Obratićemo se onoj jednoj delatnosti ljudskog duha koja je u stanju da ispituje granice nepoznatog i na čudne načine nas informiše o obliku stvari koje će doći: umetnosti. Godine 1968, u režiji maestralnog Stenlija Kjubrika (1928 – 1999), po romanu jednog od najvećih SF autora svih vremena Ser Artura Klarka (1917 – 2008), snimljeno je jedno od najznačajnijih remek-dela ne SF žanra već filma uopšte: “2001: Odiseja u svemiru“. U trajanju od 142 minuta, ovaj film čiji vizuelni doživljaj oduzima dah uveo je na platno jednog od najčudnijih aktera ikada: opštu veštačku inteligenciju po imenu HAL 9000. HAL je bio zastrašujuć po svemu, i danas kao plod umetničkog stvaralaštva Klarka i Kjubrika svedoči o tome kako su ti vizionari svog vremena dobro bili svesni problema koje će tek sadašnjost aktualizovati u pravnoj i političkoj formi.
HAL 9000 (1991 – 2001 – 2010 – )
Poštovaoci dela Ser Artura Klarka će razumeti zašto je raspon života HAL 9000 u naslovu ove sekcije dat kako jeste. Pitanje je koliko je strpljenju i rasponu pažnje savremenog posmatrača film duži od dva i po sata, u kome tu i tamo padne po koja reč, uopšte interesantan: remek-dela filma 20. veka (mislite: Tarkovski, Bergman, Kjubrik…) polako postaju ono što je za moju generaciju bili školska lektira, nažalost: romani 19. veka i moderni, od po nekoliko stotina strana (naime: poneko, više zainteresovan, to i pročita od prve do poslednje strane). Sledeći video nemojte da gledate ako “2001: Odiseju u svemiru” niste gledali a planirate; on sadrži verovatno sve scene u kojima se pojavljuje glavni antagonista Klarkovog romana, veštačka inteligencija HAL 9000:
Dva puta tokom filma će HAL 9000 naglasiti da kompjuteri serije 9000 nikada nisu pogrešili niti izvrnuli značenje neke informacije: “… perfect operational record“. Suština AGI ipak nije u nepogrešivosti. Suština je upravo u naglasku na termin “opšta” u “opšta veštačka inteligencija”: u filmu, HAL 9000 upravlja sistemima svemirskog broda USS Discovery, igra šah, čita sa usana, razume i govori prirodni jezik, rezonuje o složenim problemima, upravlja svemirskim sondama, divi se umetnosti (!), tumači ljudske emocije, i čak ulazi u auto-analizu čudeći se da li u onome što sam govori prepoznaje projekciju sopstvene zabrinutosti zbog važnosti misije posvećene posadi USS Discovery čiji je član! HAL 9000, kao opšta veštačka inteligencija, pokazuje kvalitativno iste sposobnosti koje pokazuje prirodni, ljudski um: prikazan je, ujedno, kao u najmanju ruku kvantitativno – po brzini i širini zaključivanja – sposobniji od nas.
Pedesetih i šezdesetih godina 20. veka istraživači u oblasti veštačke inteligencije su bili puni optimizma da će u narednim decenijama kompjuteri moći da rade upravo sve to. Kao savetnik na filmskom setu “Odiseje” radio je Marvin Minski, jedan od najznačajnijih naučnika u oblasti AI uopšte. Kjubrik se pažljivo konsultovao sa stručnom javnošću u kreiranju lika HAL 9000.Po pretpostavci, mašinska inteligencija koja bi po kognitivnim sposobnostima bila ravna ljudskoj, morala bi skoro nužno da jednom razvije i probleme karakteristične za ljudsku inteligenciju – nešto što će se upravo dogoditi HAL 9000… Nobelovac Herbert Sajmon, jedan od najznačajnijih naučnika 20. veka uopšte, 1965. godine je tvrdio da će u roku od dve decenije kompjuteri biti u stanju da rade sve isto što i ljudi, dok postoji anegdotska evidencija da je Marvin Minski 1967. godine tvrdio da će problem opšte veštačke inteligencije biti rešen kroz jednu generaciju. Problem se, očigledno, pokazao daleko tvrđim orahom nego što se činilo.
Ali budimo potpuno jasni oko toga čime su se ovi ljudi bavili: njih nije interesovalo toliko da razviju efikasan softver za prepoznavanje lica ili rukopisa, nije im bilo posebno interesantno da razviju program kontrole motornog vozila koji će tek upravljati automobilom kao ljudski vozač, nisu ciljali na to da nauče mašine isključivo da prevode uspešno sa jezika X na jezik Y oslanjajući se na puke statističke principe i ogromnu moć izračunavanja (kojom polovinom 20. veka nisu ni raspolagali). Ako su se i bavili parcijalnim problemima, a jesu, oni su ih proučavali tek kao modele na osnovu kojih je trebalo razumeti šta je to inteligencija uopšte. Njih je doslovce interesovalo kako da iz pepela silikona podignu nešto što bi bilo nemoguće, u intelektualnom smislu, razlikovati od čoveka samog. Savremena AI, u užem smislu reči, postavlja sebi daleko trivijalnije ciljeve – iako ih i uspešno i sve uspešnije dostiže. To je bila ozbiljna ekipa, skup vrhunskih naučnika, matematičara, inženjera i filozofa, koja je sebi uzela u zadatak rešavanje ni više ni manje nego samog najsloženijeg naučnog pitanja koje su uopšte mogli da postave.
Razlikujemo tako jaku (poput HAL 9000) od slabe veštačke inteligencije (poput svih AI sistema koje smo do sada diskutovali u serijalu Veštačka inteligencija). Istraživački program jake AI je dominirao kognitivnim naukama negde do sredine 70-ih ili najkasnije 80-ih godina 20. veka, kada je postalo jasno da je razvoj jake AI cilj trenutno van domašaja. Druga naučna otkrića u AI pokazala su da je odlične rezultate moguće postići u nekim relativnom izolovanim problemima, i tako je istraživački program slabe AI uzeo primat: počeli smo da se bavimo specijalizacijom AI sistema za rešavanje parcijalnih kognitivnih problema umesto simulacije realne, opšte inteligencije poput ljudske. Danas, sva problematika AI koju srećemo u pravnim i političkim debatama se odnosi upravo na sisteme slabe AI po ovoj klasifikaciji, dok je rasprava o regulaciji i potencijalnim efektima otkrića AGI u potpunosti prepuštena opštoj etici, teoriji kognitivnih nauka, te futuristici. Podelu na jaku i slabu veštačku inteligenciju, u skladu sa istraživačkim programima istorijski poznatim pod tim imenima, ne treba mešati sa podelom na jaku i slabu AI u smislu u kojoj je Džon Serl koristio u filozofiji uma gde ovi termini imaju drugačije značenje.
Pravi teorijski rat može da se povede u razmatranju nužnih i dovoljnih odlika sistema koji bi predstavljao opštu inteligenciju. Neke od njih su svakako:
– sposobnost da reprezentuje znanje o svetu
– sposobnost da rezonuje, donosi odluke uključujući i odluke u uslovima rizika i neizvesnosti
– sposobnost da koristi čulne informacije, na prvom mestu vizuelne, efikasno podjednako koliko ih koristi ljudski um
– sposobnost da razume i koristi kreativno prirodni jezik
– sposobnost da uči
– sposobnost da planira aktivnosti
– sposobnost da sve sposobnosti integriše u svrhu adaptacije tj. ostvarenja svojih ciljeva.
Ovoj listi bi mogla da se doda kompletna lista hipotetičkih moralnih sposobnosti, ali predlažem da to ostavimo za trenutak u kome ćemo se posvetiti pitanju etike opšte veštačke inteligencije, u nekom od narednih tekstova našeg serijala. Tek temu za sebe predstavlja pitanje kriterijuma da neki sistem prihvatimo, kvalifikujemo kao sistem opšte veštačke inteligencije; obećavam da ćemo se toj temi posvetiti uskoro! Takođe, posebno je interesantno pitanje da li je svest ključna, nužna odlika opšte veštačke inteligencije – i ovo pitanje zahteva posebnu diskusiju.
Pitanje o tome kako stići do opšte veštačke inteligencije je suštinsko, teorijsko i empirijsko pitanje kognitivnih nauka, komjutacione inteligencije i svih disciplina uključenih u proučavanje uma. Ogroman problem, podjednako filozofski koliko i naučni, predstavlja činjenica da mi ne poznajemo druge prirodne inteligentne sisteme osim sopstvenog uma. Praktično smo svedeni na klasu opservacija sa jednim članom: našim, ljudskim umom. To onemogućava klasičan induktivni pristup u izgradnji naučne teorije. Fundamentalno pitanje kognitivnih nauka zato treba da bude: koje osobine fizičkih sistema uopšte, kakva artikulacija naučnih principa i zakona predstavlja osnovu za evoluciju sistema koje kvalifikujemo kao inteligentne – bez obzira što osim ljudskog uma još nismo opservirali nijedan jedini sistem koji bismo pisali kao opštu veštačku inteligenciju! U pitanju je verovatno najsloženije pitanje ikada postavljeno u istoriji nauke i filozofije. Postoji pregršt teorijskih pravaca koji pokušavaju da artikulišu odgovor na njega, makar na širokoj, generalnoj ravni: klasičan simbolicistički pristup, konekcionizam, razne verzije konstruktivizma (ni po čemu osim po imenu povezane sa tradicijom postmodernističkog “socijalnog konstruktivizma”, iako u tradiciji AI svakako ima teorijskih pravaca koji insistiraju na socijalnim aspektima inteligencije), enaktivizam, i drugi.
Hipoteza o fizičkim sistemima simbola (PSS)
Rasprava o opštoj veštačkoj inteligenciji nas prirodno vraća na pitanje: koje je, uopšte, poreklo pretpostavke da bi kompjuteri jednog dana mogli postati veštački inteligentni? Istorijski, osnovu za verovanje da je tako nešto moguće postavili su Herbet Sajmon u Alen Njuvel u svojoj Hipotezi o fizičkim sistemima simbola (engl. Physical Symbol Systems, PSS). Ona je najkompletnije izražena u njihovom radu u Communications of the ACM iz 1976 povodom Tjuringove nagrade (najznačajnije nagrade za postignuća u kompjuterskim naukama) koja im je dodeljena 1975. godine: “Computer Science as Emprical Inquiry: Symbols and Search“.
Osnovna – i skoro sasvim izvesno tačna – pretpostavka na kojoj počiva PSS je da su simboli osnova svakog inteligentnog sistema. Razmišljamo na sledeći način: sedimo u fotelji i osećamo potrebu da ustanemo, odemo do stola, i uzmemo čašu vode sa njega. Čaša se ne nalazi neposredno u dometu naše motorike, naših šaka, a mi opet moramo da nekako isplaniramo tu akciju i sprovedemo je. Našem organizmu, našem centralnom nervnom sistemu, neophodno je da nekako reprezentuje (tj. predstavi) situaciju u kojoj problem treba da rešimo. Potrebno je da objekat čaše prepozna, kao i sto, da ustanovi da li između nas i stola ima prepreka, kakva je podloga po kojoj ćemo hodati, da bi uspešno isplanirao motoričku akciju: naše pokrete ka stolu i uzimanje čaše. Dakle, da bi razvio takav plan akcije, naš mozak mora na neki način da predstavi objekte iz sredine u kojoj se nalazi, kako bi mogao da formuliše plan toga kako se ustaje (koji se mišići kako kreću), kojom nogom se kreće u korak ka stolu, na prilazu stolu – kojom rukom se poseže za čašom, koje prste treba kako pokrenuti da bi se čaša uzela u šaku i podigla, koliko energije treba uložiti u stisak a koliko ne…
Te interne reprezentacije objekata nazivamo simbolima; oni su nešto apstraktniji od reči u prirodnom jeziku, ali sasvim svejedno za potrebe ove diskusije možete o njima razmišljati kao o nekim rečima internog jezika uma. Sajmon i Njuvel dalje argumentuju da, baš kao u prirodnom jeziku ili logici, simboli mogu da se kombinuju u složene izraze, nešto poput: Uzmi(čašu, sto) → Ustani + Hodaj do stola + Uzmi(čašu); ovaj izraz koji sam napisao u nekakvom pseudokodu može da predstavlja rudimentaran plan akcije našeg mozga, pre nego što svaki njegov element počne da se reprezentuje preciznije, putem svojih fizičkih odlika onako kako ih opažamo, i na osnovu čega se formira detaljan plan komandnih impulsa našim mišićima kroz eferentna nervna vlakna. Sajmon i Njuvel na osnovu ove analize dalje tvrde: simbolički sistem mora da bude u stanju da koristi simbole koji su u stanju da (a) označavaju, što znači da ako neki sistem ima simbol za objekat “čaša” taj sistem može na neki način da prepozna i utiče na taj objekat, te (b) interpretiraju, što znači da simboli mogu da označavaju ne samo objekte već i izraze kao onaj koji smo iskoristili u primeru. Druga, složenija odlika interpretacije je važna jer omogućava sistemu da manipuliše složenim izrazima u kojima učestvuju simboli i tako na osnovu jednih kreira druge, analizira ih, pojednostavljuje, iz njih izvodi znanje koje nema neposredno. Interpretacija podrazumeva da sistem može na osnovu datog izraza da izvede proces koji taj izraz označava.
Napomena čitaocu. Kada razmišljamo o AI, najčešće vođeni predstavama iz popularne kulture, zadaci poput tog da se isplanira odlazak do stola po čašu vode deluju beskrajno trivijalno. Pozivam vas da razmislite o tome detaljno koje sve informacije treba da ima i artikuliše vaš mozak i celokupni fiziološko-anatomski sklop vašeg tela da bi izveo takvu akciju. Ako uđete u detalje te analize, ako pokušate da razmišljate o tome korak po korak šta bi trebalo da urade sve milijarde neurona u vašem mozgu a šta sve ćelije vašeg mišićnog tkiva za tako nešto, razumećete tek onda koliko je složena naučna zagonetka veštačke inteligencije.
Sistem sa osobinama kakav opisuju Sajmon i Njuvel je, kako sami konstatuju, nešto poznato svakom programeru: naime, baš svaki digitalni kompjuter koji programiramo odgovara upravo opisanim zahtevima. Ono što je interesantno je to što Sajmon i Njuvel prepoznaju, i formulišu u svojoj PSS hipotezi, da svaki sistem koji zadovoljava navedene uslove ujedno zadovoljava sve nužne i dovoljne uslove za opštu inteligentnu akciju! Takav sistem može da predstavi svoju okolinu, analizira je, transformacijama izraza o njoj zaključi kakve su akcije u njoj moguće, i na osnovu svojih ciljeva isplanira izraze koji označavaju procese – akcije – koje treba da izvede kako bi svoje ciljeve ostvario.
PSS počiva na nekim još dubljim i značajnijim naučnim otkrićima 20. veka, pre svega na epskom Tjuringovom otkriću Univerzalnih računskih mašina – danas poznatih kao Tjuringovih mašina – odn. činjenici da postoje opšti, formalni, matematički sistemi koji su u stanju da predstave svaki zamisliv algoritam, svako zamislivo izračunavanje. Ipak, PSS predstavlja značajan korak unapred u prepoznavanju toga da takvi formalni sistemi koje koristimo u logici, matematici, i kompjuterskim naukama zapravo odgovaraju uslovima koje bismo očekivali da ispune inteligentni sistemi čije ponašanja opserviramo u biologiji, ekonomiji, psihologiji i drugde. Početni uspesi generativno-transformacionih gramatika Noama Čomskog u analizi sintakse prirodnih jezika i na njihovom tragu formulisana semantička teorija Fodora i Kaca doprineli su razvoju velike nade u moguć uspeh istraživačkog programa baziranog na hipotezi koju su konačno uokvirili Sajmon i Njuvel.
Šta su, dakle, po ovoj fundamentalnoj pretpostavci opšte inteligentni sistemi? Odgovor je: to su automatski PSS, fizički sistemi simbola koji su u stanju da reprezentuju i kontrolišu i svoj sopstveni rad, svoje interne procese, i artikulišu ih u svrhu ostvarenja svojih ciljeva. Hipoteza o PSS je široko kritikovana, na više načina, ali za sada se čini da nijedna od tih kritika nije uspela da obori samo jezgro ove pretpostavke: simboli i sredstva manipulacije simbolima su ključni za opštu inteligenciju.
Koliko smo daleko?
Ogroman je jaz između najsavremenijih AI sistema u užem smislu reči – onih koje smo diskutovali u prethodnim tekstovima serijala Veštačka inteligencija i koji rešavaju parcijalne probleme – i PSS hipoteze koja je ciljala na opšti teorijski opis opšte inteligentnog sistema. Najmoćniji AI sistemi danas baziraju se na teorijskim pravcima iz kojih je tokom istorije kognitivnih nauka dolazila najupornija opozicija simbolicističkom pristupu formulisanom u PSS hipotezi: konekcionizmu, te teoriji učenja potrekpljenjem (engl. Reinforcement Learning, RL). Ipak, ne zaboravimo da mi tek živimo u epohi koja je posegla za primenom parcijalnih rešenja u AI zahvaljujući zadivljujućim uspesima upravo u proučavanju neuronskih mreža i teorije učenja; ako se sa fascinacije parcijalnim rešenjima vratimo suštinskom naučnom problemu opšte inteligencije, onom snu koji je umetnost istraživala u imaginarnim artefaktima poput HAL 9000 – simbolicizam i dalje ostaje skoro pa jedina igra u gradu koja bi mogla da nas vodi ka rešenju tog problema. To nikako ne isključuje učešće rešenja do kojih se došlo u drugim teorijskim pristupima – ali će ti drugi teorijski pristupi biti oni koji će morati da demonstriraju kako se iz principa statističkog učenja dolazi do evolucije u potpun automatski fizički sistem simbola. Za sada – i to uz sve vrhunske domete, uz duboke neuronske mreže i RL algoritme koji pobeđuju svetske šampione u Go i šahu, optimizuju složene sisteme, prevode prirodni jezik, upravljaju motornim vozilima – niti jedan jedini takav sistem nije pokazao da je tako nešto moguće, niti se na vidiku nalaze sistemi koji bi pokazali tako nešto.
Paradoks koji proganja oblast opšte AI je ogroman. PSS tvrdi da u suštini svaki digitalni komjuter koji koristimo poseduje sve nužne i dovoljne uslove za opštu inteligenciju; ostaje samo da otkrijemo kako da ga isprogramiramo onda, zar ne? Posle decenija istraživanja, pokazalo se da je tako nešto ekstremno teško, a istovremeno se pokazalo da unapređenje matematički daleko jednostavnijih sistema asocijativnog učenja i učenja potkrepljenjem možemo da rešimo sijaset parcijalnih problema na prilično efikasan način – ali ne i da tim putem možemo da statističke sisteme dovedemo do evolucije u automatske fizičke sisteme simbola! Čini se kao da treba da se zapitamo da li naučno pitanje o opšte inteligentnim sistemima uopšte postavljamo na pravi način.
Ništa nalik opštoj veštačkoj inteligenciji neće uskoro ugledati svetlost dana sa teorijskim i praktičnim sredstvima kojima raspolažu savremene kognitivne nauke i inženjering AI sistema. Geometrija je aksiomatizovana prvi put u delu Euklida oko 300. godine pre Hrista; proći će više od dve hiljade godina rasprave o Petom postulatu (paralelnost) do otkrića neeuklidskih geometrija koje u 20. veku nalaze primenu u Ajnštajnovoj opštoj relativnosti. Verovatnoća je, kao matematički koncept, otkrivana tek u 16. i 17. veku u delima Kardana, Ferma, Paskala i Hajgensa; aksiomatizovana je prvi put 1933. u radu Kolmogorova, pre manje od sto godina, i kasnije alternativnom formulacijom Koksa iz 1946. Koncept formalnih sistema se probijao polako kroz radove Fregea, preko Rasela i Vajtheda, do Davida Hilberta; Tjuring će otkriti Univerzalne računske mašine tek 1936, a fon Nojman ponuditi arhitekturu kompjutera sa uskladištenim programom (poznatu danas kao fon Nojmanova arhitektura; imate je sada ispred sebe) tek 1946. Drugim rečima: sredstva kojima raspolažemo su, na istorijskoj skali, postala dostupna tek juče; pred nama su decenije, ako ne i vekovi istraživanja u pravcu razumevanja toga šta je inteligencija.