Špijuni, laži i algoritmi (2/2)

Revolucija u tehnologiji obmanjivanja

Američka obaveštajna zajednica mora da konačno pronikne kako da brže i bolje od svojih protivnika iskoristi revoluciju u upotrebi javnih izvora informacija i niza drugih tehnologija. Ona, istovremeno, mora uskladiti ove napore sa svojim ustavnim i etičkim obavezama o zaštiti privatnosti i građanskih sloboda.

To je lakše reći nego učiniti. Razmotrimo još jednom slučaj javno dostupnih podataka. U srednjem veku, kada je papir bio oličenje nečijeg bogatstva a knjigama onemogućen pristup (izuzev ako niste monah u manastiru), znanje je bilo dragoceno a pisanje i prepisivanje je bilo izuzetno skupo. Stvaranje sadržaja je danas toliko jeftino da se, prema nekim procenama, količina podataka pohranjenih na Zemlji udvostručuje svake dve godine, što znači da će čovečanstvo proizvesti sadašnju količinu podataka u narednih 24 meseca – što je količina podataka nastala tokom dosadašnje istorije čovečanstva.

Obaveštajne službe su oduvek bile u obavezi da pronalaze iglu u plastu sena. Danas, ti „plastovi sena“ rastu eksponencijalno. Da bi ostali relevantni, obaveštajni analitičari su prisiljeni da se kreću daleko brže – a to će ponekad činiti na račun jednog dubljeg, detaljnijeg i pažljivijeg „kopanja“ po podacima. Zato brojne kompanije iz privatnog sektora intenzivno rade na „prisluškivanju društvenih medija“ (social listening) i drugim rešenjima, koristeći se prednostima javno dostupnih informacija i sposobnostima njihove brze procene.

Firma In-Q-Tel, venčer firma povezana s agencijom CIA je „odgajila“ brojne obećavajuće tehnološke start-up kompanije, i to ulaganjem novca u ove početničke firme. Ali, postići da bilo koja tehnološka inovacija zaživi i ukoreni se u obaveštajnim agencijama predstavlja izuzetan izazov, zahvaljujući „ugrađenim“ izvođačima sa sopstvenim finansijskim podsticajima, već davno ugovorenim ali neretko i zastarelim informatičkim sistemima i sklerotičnim politikama izbegavanja bilo kakvog ulagačkog rizika – sve to izuzetno otežava da komercijalne kompanije, a posebno start-up firme, započnu plodotvornu saradnju s vladom.

Prikupljanje i obrada svih podataka je samo pola bitke: doći u posed većeg broja informacija je od male koristi ukoliko analitičari ne mogu proceniti koje su informacije verodostojne a koje ne. Verodostojnost, dovoljan izazov kada su u pitanju osetljivi podaci, još je veći problem u svetu u kojem se eksponencijalno uvećavaju količine javno dostupnih (i na mnogo načina osetljivih) informacija. Blogeri, društveni sajber aktiv isti i drugi koji doprinose (ne)relevantnosti sadržaja na svetskoj računarskoj mreži imaju različite podsticaje koji radije naglašavaju svoju hitrost i provokativnost, a na uštrb korektnosti i rigoroznosti pri svom odabiru relevantnih i činjenicama potkrepljenih podataka. Kao rezultat toga, značajno se povećava rizik od greške.

Dodajmo tome sve veći izazov koji nameće pravovremena akcija a to je – pogoditi trenutak i biti u toku, a potom pravovremeno odgovoriti na pretnju. U eri Gugla, kada je od bilo čije informacije o bilo čemu do neke druge informacije dovoljan samo prelazak prstom ili jedan klik, javno dostupan sadržaj sve više se nalazi i pred očima donosilaca političkih odluka – i to bez dodatnih provera ili analiza. Ovakvim svojim ponašanjem kreatori politika preuzimaju rizik od donošenja preuranjenih procena i iskrivljenog prosuđivanja, umesto da strpljivo sačekaju da se obave obaveštajne procene, koje su doduše nešto sporije ali koje pažljivo razmatraju kredibilitet izvora i nude alternativu, tj realistično tumačenje zbog čega je došlo do razvoja neke krizne situacije. Da bi ostali relevantni u ovom okruženju, obaveštajni analitičari su prisiljeni da se „kreću“ višestruko brže – ponekad na račun dubljeg „kopanja“ po sveže pristiglim podacima. Konkurencija u vidu javno dostupnih izvora takođe može pojačati štetne pritiske na analitičare kako bi u što kraćem roku proizveli kratkoročne obaveštajne procene a ne dugoročnu analizu koja relevantno dobacuje i „preko horizonta“ – to je nešto što obaveštajnoj sferi već nedostaje.

Razlučiti istinito od lažnog će u budućnosti postati još teže. Razvojem veštačke inteligencije otpočela je revolucija obmane i prevare u elektronskim medijima. Ruski set dezinformacija plasiran uoči izbora 2016. godine brzo će postati tek bleda slika spram onoga što će vrlo uskoro biti moguće izvesti uz pomoć sofisticirano izrađenih zvučnih i vizuelnih falsifikata (deepfake, DF), digitalno manipulisanog audio ili vizuelnog materijala dizajniranog tako da bude što realniji. Istraživači angažovani u komercijalne i akademske svrhe već su stvorili izuzetno verne fotografije nepostojećih ljudi.

U odvojenim istraživanjima, timovi sa Univerziteta Stenford i Univerziteta u Vašingtonu upotrebili su veštačku inteligenciju i tehnologiju za sinhronizaciju pokreta usana kako bi generisali nepostojeći nastup Baraka Obame, koji je tom prilikom izgovarao rečenice koje inače nikada nije izgovorio. Kao i kod drugih tehnologija, pristup pojednostavljenom deepfake programiranju se brzo širi. Neki programi su dovoljno laki da ih i srednjoškolci bez ikakvih prethodnih programerskih znanja mogu koristiti da generišu neverovatno ubedljive falsifikate. Čak se i vrhunska računarska tehnologija i kapaciteti potrebni za sofisticiranije audio-vizuelne falsifikate sada mogu nabaviti po relativno niskoj ceni.

Ne treba mnogo da bi se shvatio manipulativni potencijal ove tehnologije. Zamislite da gledate naizgled pravi video koji prikazuje stranog lidera koji raspravlja o planovima za izgradnju tajnog programa nuklearnog naoružanja ili kandidata za predsednika koji zlostavlja dete samo nekoliko dana uoči izbora. Njihovo poricanje lako bi moglo biti odbačeno jer su dokazi neosporni – na kraju krajeva, oduvek je bilo i biće da poverujemo u ono što su naše oči videle.

Obaveštajne agencije će se u budućnosti suočavati sa herkulovskim zadatkom identifikacije ovih gotovo savršenih falsifikata, koje je- za razliku od drugih falsifikata, poput majstorski falsifikovanih i retuširanih fotosa – nesvakidašnje teško detektovati A sve to zahvaljujući AI tehnici koju je 2014. izumeo Guglov inženjer. Poznate kao “generativne kontradiktorne mreže”; ovaj termin predstavlja pristup u kojem se dva računarska algoritma suprotstave jedan drugom, pri čemu jedan generiše slike jedan dok drugi pokušava da otkrije falsifikate. Budući da se algoritmi „uče“ tako što se međusobno sučeljavaju i nadmeću, malo je verovatno da će bilo koji DF detektor zadugo ostati efikasan; i, ukoliko je u početku i efikasan, ima veoma malo vremena pre nego što ga DF nadmudri. Prevare su oduvek bile deo špijunaže i ratovanja, ali ne na ovom nivou preciznosti, dosega i brzine.

Usvajanje prave strategije

Američka obaveštajna zajednica preduzela je neke važne korake kako bi se prilagodila ovom rapidno promenljivom tehnološkom okruženju. U 2015. godini, tadašnji direktor CIA-e Džon Brenan osnovao je novu upravu koja se fokusirala na digitalne inovacije a takođe je preuredio dotadašnju strukturu CIA-e, delom i kako bi digitalne stručnjake i obaveštajce koji se bave javno dostupnim izvorima približili i povezali sa CIA-inim tradicionalnim sakupljačima podataka i analitičarima. Nacionalna geo-kosmička obaveštajna agencija (NGA) je pokrenula je inicijativu ubrzani razvoj veštačke inteligencije kako bi se ubrzale i poboljšale analize slika. CIA, Agencija za nacionalnu bezbednost (NSA) i druge obaveštajno-bezbednosne agencije su se preselile u data-oblak, stvarajući “okruženje za fuziju velike količine podataka” koje analitičarima iz svih ovih agencija treba da omogući bržu i efikasniju „big data“ analitiku. Mnoga druga skorašnja unapređenja ostaju tajna.

Napori u ovom pravcu deluju obećavajuće, ali pojedinačna unapređenja sama po sebi nisu dovoljna. Obaveštajnoj zajednici je potrebna sveobuhvatna strategija za povratak u igru i održavanje prednosti američke obaveštajne sfere i u aktuelnoj, novoj tehnološkoj eri. Nacionalna obaveštajna strategija za ovu 2019. godinu je podaleko od ovog cilja, s izjavama upečatljivo intoniranim samozadovoljstvom i uz nejasne napomene kako, recimo, “treba povećati integraciju i koordinaciju”, “bolje iskoristiti partnerstva” i “povećati transparentnost ali i zaštitu informacija od nacionalne bezbednosti”. Inovacije se pominju samo na pola stranice. Američka obaveštajna strategija za novo tehnološko doba treba da otpočne tako što će identifikovati koje su to prepoznatljive snage Sjedinjenih Država i kako se njihove prednosti mogu dugoročno koristiti.

Veliki deo današnje spoljnopolitičke diskusije usredsređen je na slabosti Sjedinjenih Država, predstavljajući sliku nacije koja je izolovana, ranjiva i nadjačana od strane nemilosrdnih i efikasnih autokrata. Nova obaveštajna strategija bi trebalo da preokrene aktuelni scenario. Umesto da podlegne zavisti autoritarnih sila sa strane, zdravo polazište bi trebalo da bude prepoznavanje onih američkih prednosti koje njihovi rivali niti mogu prepoznati niti se u njih uklopiti, kao i kako bi te prednosti mogle kompenzovati bilo koju slabu tačku i ranjivosti sopstvenog odbrambenog sistema.

Sjedinjene Države prevazilaze svoje protivnike na više frontova. Širok raspon saveza – uključujući „Five Eyes“ obaveštajno partnerstvo pet savezničkih obaveštajnih službi – Amerikanci udruženi sa Australijom, Kanadom, Novim Zelandom i Britanijom – proširuje globalni doseg i sposobnosti Sjedinjenih Država. Etnički šarolika populacija nudi prirodnu prednost u prikupljanju „žive sile“ tj kvalifikovanog personala širom sveta. Otvoreno društvo kao što su Sjedinjene Države i njene demokratske vrednosti dugo su ohrabrivale slobodan protok ideja i pomagale nacijama i pojedincima širom sveta da se uključe u ostvarenje ovog njenog cilja. Inovacioni ekosistem Sjedinjenih Američkih Država i dalje služi kao neprikosnoveni inkubator naprednih tehnologija.

Međutim, korišćenje ovih snaga zahtevaće i široko utemeljenje globalnih napora, prevshodno baziranih  na povezivanju obaveštajnih struktura i društva, kao i efikasnijem povezivanju samih službi na globalnom nivou, uz doprinos tehnoloških kompanija, gređanskog društva i akademske zajednice. Posebna komisija sastavljena od vrhunskih ljudi bez premca u svojim oblastima, koje je američki Kongres već pokrenuo i čije aktivnosti prati i koordinira, mogla bi da pokrene ovu promenu. Nemoguće je predvideti koje će uvide i inicijative ovaj proces generisati, mada je već uočeno nekoliko područja na koje treba obratiti pažnju.

Na organizacionom frontu, obaveštajci zaduženi za javno pristupačne informacije zaslužuju da imaju sopstvenu agenciju. Trenutno, njihove prikupljene informacije prolaze kroz odeljenje CIA pod nazivom Open Source Enterprise, premda je podizanje ove agencije nalik održavanju vojnog vazduhoplovstva u armiji, sputavajući neku novu potencijalnu misiju nevoljnošću birokratije, koja prirodno favorizuje druge prioritete. U agenciji CIA, poverljive informacije i dalje imaju primat nad javno dostupnim informacijama, tako da podaci izvučeni iz javno dostupnih izvora (open-source intel) imaju drugorazredni status. Open-source obaveštajci nikada dosad nisu zadobili potrebnu pažnju i novac – niti će – dokle god se nalaze unutar CIA-e ili bilo koje druge postojeće agencije.

Open source obaveštajci zaslužuju svoju agenciju

Ljudski kapital tj stručnost i sposobnost će u budućnosti biti pojednako bitni. Sadašnji sistem zapošljavanja u obaveštajnim službama bio je osmišljen za „neka druga vremena“, kada su obaveštajci provodili čitavu karijeru radeći za vladu. Danas, u nekim agencijama, mnogi prvoklasni zaposlenici izlaze na vrata nakon samo nekoliko godina, noseći sa sobom svoju stručnost i obuku, nikada se ne vraćajući nazad. Mnogi više nikada ne uđu i „zahvaljujući“ sporom birokratskom procesu regrutacije. Eksperte za visoke tehnologije je posebno teško privući i zadržati, dok bi obaveštajne agencije trebalo da stvaraju veći broj „izaslanika“, a ne samo onih koji će doživotno ostati pod njihovim okriljem – dovodeći mlade i zrele tehnološke eksperte unutar i izvan državnih struktura kako bi unapredili odnose, razumevanje i poverenje između američke tehnološke industrije i obaveštajne zajednice.

Zapravo, premošćavanje podele između tehnološke industrije i obaveštajne zajednice jeste imperativ američke nacionalne bezbednosti. Za velike tehnološke kompanije kao što su Apple, Facebook, Google i drugi, programi nadzora koje je 2013. razotkrio Edvard Snouden, bivši „ugovorac“ u ministarstvu odbrane stvorio je dubok i trajan manjak poverenja. Tviter neće poslovati sa obaveštajnim agencijama jer ovoj kompaniji nije svejedno kako će se njene informacije koristiti. Viši rukovodilac u jednoj od vodećih tehnoloških kompanija i bivši viši rukovodilac još jedne vodeće tehnološke kompanije je jednom prilikom rekao da ključni ljudi iz tehnoloških industrija i kompanija gledaju na američke obaveštajne službe kao na „zlotvore i neprijatelje“ – gledaju ih kao što gledaju, recimo, i na kineske obaveštajce: i jedni, baš kao i drugi, morali bi da budu sasvim izuzeti iz njihovih tehnoloških sistema.

Obaveštajna zajednica je, sa svoje strane, sve zabrinutija zbog spremnosti američkih tehnoloških kompanija da prodaju svoje proizvode i usluge stranim klijentima koji možda ne dele demokratske principe Sjedinjenih Država ili pak nacionalne interese. Google, koji poseduje najsofisticiranije kapacitete za razvoj veštačke inteligencije, objavio je da neće sarađivati sa Pentagonom na bilo kakvim AI projektima koji bi se mogli koristiti za izradu oružja, mada ozbiljno razmišlja o tome kako da kineskoj vladi pomogne u razvijanju boljeg cenzurisanog tj filterisanog internet-pretraživača. Projekat „dubinskog“ učenja razvijan u ruskoj laboratoriji za veštačke neuralne sisteme „iPavlov“ koristi hardver kompanije Envidija (NVIDIA), najsavremenije kalifornijske kompanije za razvoj čipova. “Mi ih prodajemo svima”, izjavio je nedavno potpredsednik Envidijinog odeljenja za razvoj poslovanja. Upravljanje situacijom i usaglašavanje haotičnih kontradiktornosti prisutnih između komercijalnih podsticaja, privatnosti i nacionalnih interesa zahteva i nameće, naravno, i odnos između američke obaveštajne zajednice i talentovanih inovatora iz Silikonske doline.

Prvi principi

U odnosu na sve ono što bi trebalo promeniti, još važnije je ono što ne bi trebalo menjati. Prvi prioritet bilo kojeg pravca transformacije američkih obaveštajnih službi ne bi trebalo da bude nanošenje štete najvrednijoj imovini koju obaveštajna zajednica poseduje: njenoj posvećenosti objektivnosti, bez obzira na političke posledice. Ovaj princip, zapravo, i objašnjava razlog zbog kojeg su generacije američkih donosilaca odluka imale poverenje u rad obaveštajne zajednice – ne onu vrstu poverenja da su podaci obaveštajaca uvek ispravni (jer nisu) već poverenje u smislu da iza njih i njihove profesionalnosti ne postoji bilo kakav skriveni motiv, politički program ili stranačka ostrašćenost.

Ovaj osnovni princip iskušava sam američki predsednik koji javno omalovažava svoje obaveštajce uz otvoreno neslaganje sa procenama američkih obaveštajnih agencija. Ovakvo ponašanje je vid vršenja pritiska na američke obaveštajce koji bi sada trebalo da za svoje podatke “nazovu“ nekog odozgo i okvalifikuju onako kako to čini aktuelni predsednik SAD, umesto da se rukovode dokazima. Do sada, pod direktorom Nacionalne obaveštajne službe Denom Koutsom, američki obaveštajci se čvrsto drže svog duha, verovanja i stremljenja. I pored svega, rizici su visoki: Američka obaveštajna zajednica može razviti najbolju obaveštajnu strategiju u novoj tehnološkoj eri, ali ako ikada izgubi reputaciju usled nedostatka objektivnosti, nepristrasnosti i profesionalizma, izgubiće i svoju vrednost u očima američkog naroda.

Amy Zegart, Michael Morell, Foreign Affairs

Leave a Reply

Fill in your details below or click an icon to log in:

WordPress.com Logo

You are commenting using your WordPress.com account. Log Out /  Change )

Google photo

You are commenting using your Google account. Log Out /  Change )

Twitter picture

You are commenting using your Twitter account. Log Out /  Change )

Facebook photo

You are commenting using your Facebook account. Log Out /  Change )

Connecting to %s

This site uses Akismet to reduce spam. Learn how your comment data is processed.