Henri Kisindžer o veštačkoj inteligenciji — Rađanje sveta za koji ljudi nisu stvoreni

Iako je celu svoju karijeru posvetio tradicionalnim pitanjima diplomatije, međunarodnih odnosa i istorije, bivši državni sekretar SAD i nobelovac Henri Kisindžer u svojoj 98. godini ima potpuno novu oblast interesovanja, tehnološki najsavremeniju i najmanje poznatu: veštačku inteligenciju. Postao je zaintrigiran za ovu temu 2016. godine, nakon što ga je Erik Šmit, tada izvršni predsednik Gugla, ubedio da prisustvuje jednom predavanju na Bilderberg konferenciji.

Malo je falilo da Kisindžer propusti tu sesiju - pošto se nalazila izvan njegovih uobičajenih interesovanja - ali ga je početak prezentacije zadržao na stolici.

Govornik je opisao rad kompjuterskog programa koji će uskoro moći da se nadmeće sa svetskim prvacima u igri „go". Budući da je sve što se tiče Kine privlačilo Kisindžerovu pažnju, i da je i sam pisao o složenosti igre „go" i njenom značenju za kinesku spoljnopolitičku doktrinu, Kisindžer je ostao na predavanju. Bio je začuđen saznanjem da bi kompjuter mogao da ovlada „goom", koji je kompleksniji od šaha. U njemu svaki igrač poseduje 181 ili 180 kamenčića (u zavisnosti od boje koju odabere) naizmenično razmeštenih na prethodno praznoj tabli, a pobeda ide onoj strani koja, donoseći bolje strateške odluke, parališe protivnika efektivnijom kontrolom teritorije.

Mašina je, kako je predavač rekao, ovladala veštinom igranja time što je samu sebe uvežbala. Poznajući osnovna pravila „goa", kompjuter je odigrao bezbroj igara protiv samog sebe, učeći na sopstvenim greškama i tako unapređujući svoje algoritme. U toku tog procesa je prevazišao veštine svojih ljudskih mentora.

I zaista, u mesecima nakon ovog govora, program veštačke inteligencije nazvan „Alfa Go“ ubedljivo je pobedio najveće svetske igrače „goa".

Perpetuum mobile u politici

Dok je slušao kako govornik slavi ovaj tehnički progres, iskustvo istoričara i povremenog državnika navelo je Kisindžera da se zamisli. On je oduvek verovao u snagu ljudske sposobnosti da kreira svoj sveti svetski poredak, ratom i mirom, ali uvek na osnovu duboko ljudskih motiva i potreba. Sudbina sveta rešavala se na mirovnim konferencijama, uz diplomatsko umeće i intelektualnu snagu. Sada je Meternih trebalo da ustupi mesto algoritmu, a Pariska konferencija, koja je trebalo da uspostavi mir koji će okončati svaki rat, i to na osnovu naučnih činjenica i spoznaja koje je Vudro Vilson doneo u Evropu preko svoje grupe „Istraživanje", trebalo je nauku prepusti mašinama koje su perpetuum mobile znanja i koje same sebe uče?

Za jedinog preostalog hladnoratovskog diplomatskog kolosa nije bilo sumnje da se svet nalazi pred sudbinskom promenom.  Kakve će biti istorijske posledice mašina koje podučavaju same sebe - mašina koje stiču znanje procesima svojstvenim samo njima i primenjuju ga za ciljeve koji potencijalno ostaju van okvira ljudskog razumevanja. Da li će ove mašine naučiti da međusobno komuniciraju? Kako će donositi odluke pred mnoštvom opcija? Da li je moguće da ljudska istorija doživi sudbinu Inka koji su se suočili sa španskom kulturom koja je bila van okvira njihovog razumevanja i na koju su gledali sa strahopoštovanjem? Da li smo na ivici nove faze ljudske istorije?

Da bi stigao do odgovora na ova pitanja, posle tog predavanja Kisindžer je u svojim 90-im godinama počeo, zajedno sa Šmitom, da organizuje male seminare od četiri ili petoro ljudi svake tri ili četiri nedelje. Na kraju tog istraživačkog perioda, pozvali su Dana Hutenlohera i onda su se njih trojica sastajali godinu dana, svake nedelje popodne.

Bila je to, pored ostalog, zadivljujuća radna energija i upornost čoveka koji je već tada prevalio 90. godinu. Tako je nastala njihova upravo objavljenja knjiga Doba veštačke inteligencije (koju će uskoro u prevodu na srpski objaviti Klub PLUS iz Beograda).

Krajnje odredište veštačke inteligencije

Kisindžeru je jasno da sada veštačka inteligencija, proizvod ljudske genijalnosti, poništava primat ljudskog razuma: ona istražuje i počinje da opaža aspekte sveta brže od ljudi, drugačije od načina na koji to ljudi rade, a u nekim slučajevima i na način koji ljudi ne razumeju.

Njih trojica - Kisindžer, Šmit i Hutenloher - pozvali su američku vladu da obrazuje komisiju koja bi regulisala razvoj veštačke inteligencije. U tekstu koji je pre dve godine objavljen u Vol Strit DŽornalu upozorili su da veštačka inteligencija ima potencijal da pokrene duboka egzistencijalna i filozofska pitanja o „primatu ljudskog razuma" i ulozi ljudi u svetu.

Trio je pozvao američku vladu da osnuje komisije sa zadatkom da „oblikuje veštačku inteligenciju u skladu sa ljudskim vrednostima, uključujući dostojanstvo i moralno delovanje ljudi". Oni su zaključili da je „napredak veštačke inteligencije neizbežan, ali njegovo krajnje odredište nije".

Šta ako veštačka inteligencija napiše najbolji scenario godine, da li treba da dobije Oskara? Ako veštačka inteligencija simulira ili vodi najznačajnije diplomatske pregovore godine, da li bi trebalo da dobije Nobelovu nagradu za mir?

Veštačka inteligencija je „sposobnost digitalnog računara ili kompjuterski kontrolisanog robota za obavljanje zadataka koji su svojstveni inteligentnim bićima". Ona je još uvek u ranoj fazi, ali to je tehnologija koja napreduje mnogo brže od drugih - čak brže od interneta. Najnovije istraživanje kompanije Dell procenjuje da „85 odsto radnih mesta koja će postojati 2030. nije još ni stvoreno!". Ovo postavlja pitanje: kako možemo obrazovati radnu snagu da se pripremi za ovaj nivo neizvesnosti?

Leteći automobili i virtuelna kolica

Druga oblast koju je Kisindžer uzeo kao primer jeste pojava automobile bez vozača, automobila-drona. Automobil bez vozača ilustruje razlike između delovanja tradicionalnih kompjutera koje kontrolišu ljudi a pokreće softver, i univerzuma kojim veštačka inteligencija nastoji da ovlada.

Vožnja automobila zahteva procene brojnih situacija koje je nemoguće predvideti i samim tim nemoguće unapred programirati. Šta bi se desilo, da se poslužimo poznatim hipotetičkim primerom, ako bi takav automobil sticajem okolnosti bio prinuđen da bira između toga da ubije penzionera ili da ubije dete? Koga bi odabrao? Zašto? Kojim faktorima bi dao prednost? I da li bi mogao da objasni svoj rezon? Ukoliko bi bio priupitan (i sposoban da komunicira), njegov iskreni odgovor bi verovatno bio: ,,Ne znam (jer pratim matematičke, a ne ljudske principe)"; ili: ,,Ne biste razumeli (jer sam naučen da se ponašam na određeni način, ali ne i da ga objašnjavam)". Uprkos tome, sve su prilike da će automobili bez vozača odneti prevagu na putevima za svega desetak godina, ako ne i ranije.

Trenutno stotine kompanija grabi ka industrijskom cilju da „autonomni automobili budu na putu za komercijalnu upotrebu u roku od godinu dana i takođe imaju mogućnosti za njihovo potpuno operativno korišćenje u vazduhu  (leteći automobili) do 2024." Čini se da će do 2030. biti potrebna posebna dozvola za upravljanje vozilom kojim upravljaju ljudi, što ilustruje uverenje da će automobili bez vozača preuzeti vlast na kopnenim i vazdušnim drumovima. Tako će se rešiti problem nestašice vozača za kamione, što je najčešće muško zanimanje u SAD, koji sada muči zapadne zemlje. To će u perspektivi dvesti do gubljenja 3 do 5 miliona radnih mesta, samo u SAD.

Zvuči zastrašujuće podatak da skoro 90 odsto Amazonovih investicija dovode do ogromnog gubitka posla u svakoj industriji.

Prodavnice lanca prehrambenih proizvoda Amazon Go omogućavaju kupcima da kupuju u prodavnici koristeći samo e-aplikaciju za pametne telefone, da izađu sa onim što im treba, bez provere napolju, bez blagajnika, bez čekanja u redovima.

Ove prodavnice rade korišćenjem iste tehnologije koje se koriste u autonomnim automobilima kao što je senzorska fuzija, kompjuterski vid i duboko učenje. Senzori prodavnice mogu da otkriju kada se proizvodi uzimaju ili vraćaju na police, i da ih automatski prate u vašim „virtuelnim kolicima". Kada napustite prodavnicu, automatski vam se naplaćuje.

Novi period ljudske svesti

Erik Šmit uviđa da je algoritamska brzina odlučujuća. „Sada smo prešli od sposobnosti čitanja knjiga do opisivanja knjiga, do toga da nemamo vremena ni da ih čitamo, ni da ih zamislimo, niti da o njima raspravljamo. U pitanju je ubrzanje vremena i informacija, što mislim, zaista prevazilazi ljudske kapacitete. Mislim da ljudi nisu stvoreni za ovo. Dakle, u krajnjem slučaju, preopterećenost informacijama će verovatno premašiti našu sposobnost da obradimo sve što se dešava", smatra nekadašnji direktor Gugla.

Kisindžer kaže da je celog života nastojao da uvidi koji je smisao istorije. Ljudi su tokom cele istorije nastojali da razumeju stvarnost i ljudsku ulogu u njoj.

„Tema o smislu istorije i kuda idemo okupirala je moj život", napisao je Kisindžer. „Tehnološko čudo me ne fascinira toliko; ono što me fascinira jeste da krećemo u novi period ljudske svesti koji još uvek ne razumemo u potpunosti. Kada kažemo novi period ljudske svesti, mislimo na to da će percepcija sveta biti drugačija, u najmanju ruku različita, kao između doba prosvećenosti i srednjeg veka, kada je zapadni svet prešao sa religiozne percepcije sveta na percepcija sveta na osnovu razuma, polako. Ovo će biti brže. Postoji jedna bitna razlika. U prosvetiteljstvu je postojao konceptualni svet zasnovan na veri. I tako su Galilej i kasni pioniri prosvetiteljstva imali preovlađujuću filozofiju protiv koje su morali da testiraju svoje razmišljanje. Možete pratiti evoluciju tog razmišljanja. Živimo u svetu koji, u stvari, nema filozofiju; nema dominantnog filozofskog gledišta. Tako da tehnolozi mogu da divljaju. Oni mogu da razviju stvari koje menjaju svet, ali nema nikoga ko bi rekao: Moramo ovo da integrišemo u nešto."

Kancelarija Bele kuće za nauku i tehnološku politiku pre mesec dana pozvala je na kreiranje „zakona o pravima" kako bi se zaštitila od zloupotrebe veštačke inteligencije.

Kisindžer u Guglu

Kada je Kisindžer upoznao Erika Šmita, on ga je pozvao da govori u Guglu. Kisindžer je rekao da Gugl smatra pretnjom civilizaciji, pošto nije želeo da jedna organizacija ima monopol na davanje informacija.

„Smatrao sam da je izuzetno opasno da jedna kompanija može da pruži informacije i da prilagodi ono što je isporučila svojoj studiji o tome šta je javnost želela ili smatrala verovatnim", rekao je Kisindžer. „Tako je istina postala relativna. To je bilo sve što sam znao u to vreme. A razlog zašto me je pozvao da se sastanem s njegovom algoritamskom grupom bio je da shvatim da ovo nije proizvoljno, već da izbor onoga što je predstavljeno iza sebe ima neko promišljanje i analizu. To nije otklonilo moj strah od moći koju ima jedna takva privatna organizacija."

Kisindžera je poseta Guglu navela na razmišljanje i istovremeno zabrinula zbog uticaja koji će tehnologija imati na ljude i njihovo postojanje i saznanja da tehnolozi to rade bez razumevanja uticaja njihovog dela ili ranije istorije.

Kisindžer tvrdi da su procesi veštačke inteligencije postali toliko moćni, tako neprimetno upleteni u ljudske poslove i tako nepredvidivi, da bez predumišljaja i upravljanja, vrsta „epohalnih transformacija" koju će sprovesti može poslati ljudsku istoriju u opasnom pravcu. „Ovladavajući određenim kompetencijama brže i odlučnije od ljudi, veštačka inteligencija bi vremenom mogala da umanji ljudsku kompetenciju i samo ljudsko stanje dok ih pretvara u podatke", naveo je Kisindžer. „Filozofski, intelektualno - u svakom pogledu - ljudsko društvo je nespremno za uspon veštačke inteligencije", tvrdi Kisindžer.

On ide tako daleko da predviđa okončanje „ere prosvetiteljstva", odnosno kraj dominacije ljudskog razuma u istoriji i prepuštanje tog mesta mašini i algoritmima.

Tri strepnje

Razvoj  veštačke inteligencije donosi tri vrste strepnje i neizvesnosti. Prva je da bi veštačka inteligencija mogla da ostvari neželjene rezultate. Druga strepnja je da bi u dostizanju nameravanih ciljeva ona mogla da promeni ljudski misaoni proces i ljudske vrednosti. Treće, veštačka inteligencija bi mogla da ostvari predviđene ciljeve, ali da ne bude u stanju da objasni rezon iza svojih zaključaka.

Kisindžer, koji je svoju slavu stekao na nuklearnim pitanjima, upozorava da će razvoj veštačke inteligencije biti mnogo teže kontrolisati od nuklearnog oružja jer će se razvoj tehnologije obavljati u tajnosti: „S veštačkom inteligencijom neznanje druge strane je jedno od vaših najboljih oružja - njegovo širenje će biti mnogo teže. Zbog toga značajan broj naučnika, istraživača industrije i tehnoloških sredstava podržao je akciju za zabranu upotrebe autonomnog oružja. Pitanje je, međutim, najblaže rečeno izazovno. Kao što istraživač bezbednosti Pol Šar piše u nedavno objavljenoj knjizi  Vojska bez vojnika, autonomno oružje se decenijama uvlači u vojne sisteme. Nije uvek lako povući liniju kod autonomnih sistema, a tehnologija je primamljiva jer se može koristiti da se oružje učini pouzdanijim."