AI kao umetnik: Nemoguća misija

Kreativnost jeste i uvek će biti ljudska, tvrdi harvardski profesor filozofije Sean Dorrance Kelly.

Bio je ti 31. mart 1913. godine kada su u Velikoj sali koncertne kuće Muzikferajn u Beču izbili neredi, usred izvođenja orkestracije pesme Albana Berga. Lomio se i nameštaj. Policija je uhapsila organizatora koncerta jer je udario Oskara Štrausa, malo poznatog kompozitora opereta. Štraus se kasnije, na suđenju, dosetkom osvrnuo na frustraciju publike. Udarac koji je zadobio, insistirao je on, bio je najskladniji zvuk tokom čitave te večeri. Istorija je donela drukčiju presudu: dirigent koncerta, ujedno i čuveni savremeni kompozitor i perjanica atonalne klasike, Arnold Schoenberg „propao“ je u tom trenutku kao možda najkreativniji i najuticajniji kompozitor dvadesetog veka.

Možda nećete uživati u Šenbergovoj disonantnoj muzici (za šta su velike šanse ukoliko nemate živaca, vremena i fokusa); muzike koja odbacuje konvencionalni tonalitet da bi rasporedila 12 nota skale prema pravilima koja ne dozvoljavaju da bilo koja prevladava. On je, međutim, promenio ono što ljudi shvataju kao muziku. To je ono što ga čini istinski kreativnim i inovativnim umetnikom. Šenbergove tehnike su sada besprekorno integrisane u sve: od filmskih partitura i brodvejskih mjuzikla, do solo deonica Milesa Davisa i Ornette Coleman-a.

Kreativnost je među najtajanstvenijim i najupečatljivijim dostignućima ljudskog postojanja. Ali, šta je to?

Kreativnost nije tek neka „novotarija našeg vremena“. I mališan za klavirom mogao bi pogoditi novu sekvencu nota, ali u nekom značajnijem, suštinskijem smislu, te note nisu kreativne. Takođe, kreativnost je ograničena istorijom: ono što se u jednom periodu ili mestu smatra kreativnom inspiracijom bi se, u nekom drugom, moglo zanemariti, shvatajući to kao smešno, glupo ili ludo. Zajednica mora prihvatiti one ideje koje su toliko dobre da su opšteprihvaćene kao kreativne.

Kao u slučaju Šenberga, ili bilo kojeg drugog savremenog umetnika, to prihvatanje ne mora biti univerzalno. Možda to prihvatanje od zajednice zaista ne bi došlo još dugi niz godina – jer, ponekad se kreativnost generacijama pogrešno odbacuje. Ali, ukoliko neka zajednica na kraju ne prihvati inovaciju, onda i nema smisla govoriti o toj zajednici kao o kreativnoj.

Napredak u veštačkoj inteligenciji doveo je do brojnih nagađanja, naime, o tome da će ljudska bića uskoro biti zamenjena mašinama u svim domenima, uključujući i oblast kreativnosti. Ray Kurzweill, futurista, predviđa da ćemo do 2029. stvoriti AI koji može proći kao prosečno obrazovano ljudsko biće. Oksfordski filozof Nik Bostrom nešto je oprezniji; Ne navodi datum, ali predlaže da filozofi i matematičari odgode svoj rad na osnovnim naučnim pitanjima do trenutka punog razvoja „superinteligencije“ naših naslednika, one inteligencije definisane kao „intelekt koji u velikoj meri premašuje kognitivne performanse ljudi u praktično svim domenima (njihovih) interesa“.

Obojica veruju da će jednom, kada se inteligencija na ljudskom nivou proizvede u mašinama, doći do naleta napretka – ono što Kurcvajl naziva „singularnošću“, a Bostrom „eksplozijom inteligencije“ – u kojoj će nas mašine vrlo brzo zameniti krupnim merama u svakom domenu. To će se dogoditi, tvrde oni, jer je nadljudsko dostignuće isto što i obično ljudsko postignuće, osim što se sva relevantna izračunavanja izvode mnogo brže, u onome što Bostrom naziva „hitrom, naprednom superinteligencijom“.

Pa, šta je u tom slučaju sa najvišim nivoom ljudskih dostignuća – kreativnim inovacijama? Da li će naše najkreativnije umetnike i mislioce masovno nadmašiti mašine?

Ne.

Ljudsko kreativno dostignuće, zbog načina na koji je ugrađeno u društvo, neće podleći napretku veštačke inteligencije. Reći drugačije značilo bi pogrešno razumeti ono što su u krajnjem zbiru ljudi, kao vrsta, a i naša kreativnost.

Ova tvrdnja nije apsolutna: ona zavisi od normi kojima dozvoljavamo da upravljaju našom kulturom, kao i naših očekivanja od tehnologije. Ljudska bića su u prošlosti pripisivala veliku moć i genijalnost čak i beživotnim totemima. Sasvim je moguće da ćemo doći do tačke kada ćemo se prema veštački inteligentnim mašinama odnositi kao toliko nadmoćnima u odnosu na nas da ćemo im prirodno pripisivati kreativnost. Ako se to dogodi, to neće biti zato što su nas mašine nadmašile. Biće to zato što ćemo sami sebe umanjiti, sebe surovo kritikovati i ocrniti.

Ljudsko kreativno dostignuće, zbog načina na koji je usađeno u društveno tkivo, neće podleći napretku veštačke inteligencije.

Ovde, takođe, prvenstveno govorim o napretku mašina kakav je nedavno viđen, sa trenutno aktuelnom paradigmom dubokog učenja kao i njenovih računarskih „naslednika“. Druge paradigme, modeli i primeri su u prošlosti upravljali istraživanjima veštačke inteligencije. Oni već nisu uspeli da ispune svoje obećanje. Još neke druge paradigme mogu se uspostaviti u budućnosti, ali ako pretpostavimo da će neka zamišljena buduća umetnička inteligencija – čije karakteristike ne možemo smisleno opisati – postići čudesne stvari, onda je to stvaranje mita, a ne obrazloženi argument o mogućnostima tehnologije.

Kreativno dostignuće različito deluje u različitim domenima. Ovde ne mogu da ponudim potpunu taksonomiju različitih vrsta kreativnosti, pa ću, kako bih naglasio, skicirati argument koji uključuje tri sasvim različita primera: muziku, igre i matematiku.

Muzika za moje uši

Nao Tokui & AI: Imaginary Landscape (2018): Tokui koristi algoritam mašinskog učenja za stvaranje panoramskih slika pronađenih u Google Street View, koje potom dopunjava „zvučnim pejzažima“ kreiranim u veštačkim neuronskim mrežama

Možemo li zamisliti mašinu takvih nadljudski kreativnih sposobnosti da dovodi do promena u onome što shvatamo kao muziku, kao što je to činio Šenberg?

To je ono za šta tvrdim da mašina ne može doseći i postići. Da vidimo zašto.

Kompjuterski sistemi za muzičku kompoziciju postoje već duže vreme. Kurcvajl je 1965. godine, sa 17 godina, koristio preteču sistema za prepoznavanje obrazaca koji danas karakterišu algoritme dubokog učenja, programirajući računar za komponovanje prepoznatljive muzike. Danas se koriste varijante ove tehnike. Algoritmi dubokog učenja mogli su, na primer, da prihvate gomilu Bahovih korala i komponuju muziku toliko karakterističnu za Bahov stil da čak i stručnjake zavarava do stepena kada misle da se radi o nekoj od Bahovih originalnih kompozicija. Ovo je mimikrija. To je ono što umetnik radi kao šegrt na praksi: kopira i usavršava stil drugih umesto da radi autentičnim, svojim originalnim glasom. Nije vrsta muzičke kreativnosti koju povezujemo sa Bahom, niti ima veze sa Šenbergovom radikalnom inovacijom.

Pa, šta u tom slučaju kažemo? Da li može postojati mašina koja, poput Šenberga, izmišlja sasvim novi način muziciranja? Naravno, možemo zamisliti, pa čak i napraviti takvu mašinu. S obzirom na algoritam koji modifikuje sopstvena pravila kompozicije, mogli bismo lako proizvesti mašinu koja čini muziku toliko različitom od one koju danas smatramo dobrom muzikom, kao što je to tada činio Šenberg.

Ali, od ove tačke stvari postaju nešto komplikovanije.

Šenberga smatramo kreativcem i inovatorom ne samo zato što je uspeo da stvori novi način komponovanja muzike, već zato što su ljudi u njemu mogli da vide viziju kakav bi svet trebalo da bude. Šenbergova vizija podrazumevala je „rezervni“, čisti, efikasni minimalizam modernosti. Njegova inovacija nije bila samo pronalaženje novog algoritma za komponovanje muzike; trebalo je pronaći način razmišljanja o tome šta je muzika koja joj omogućava da komunicira, sa zahtevima savremenosti.

Neki bi mogli da tvrde da sam lestvicu podigao previsoko. Da li to tvrdim, pitaće oni, da je mašini potreban neki mistični, nemerljivi osećaj onoga što je društveno neophodno da bi se računalo kao kreativno? Nisam – iz dva razloga.

Prvo, setite se da je predlaganjem nove, matematičke tehnike za muzičku kompoziciju, Šenberg promenio naše razumevanje muzike. Samo kreativnost ove vrste koja prkosi tradiciji zahteva neku vrstu društvene osetljivosti. Da slušaoci nisu njegovu tehniku shvatili kao ostvarivanje anti-tradicionalizma u srcu radikalne modernosti rođene u Beču s početka 20. veka, možda je ne bismo „čuli“ kao nešto estetski vredno. Poenta je ovde da radikalna kreativnost nije „ubrzana“ verzija svakodnevne kreativnosti. Šenbergovo postignuće nije brža ili bolja verzija one vrste kreativnosti koju je pokazao Oscar Strauss, ili neki drugi prosečni kompozitor: ona je suštinski različita po prirodi.

Drugo, moj argument nije da reakcija kreativca na društvenu potrebu mora biti svesna dela koje bi zadovoljilo genijalne standarde. Umesto toga, tvrdim da na taj način moramo biti u stanju da protumačimo delo. Bila bi greška tumačiti sastav mašine kao deo takve vizije sveta. Argument za ovo je jednostavan.

Tvrdnje poput Kurcvajlove – da mašine mogu dostići inteligenciju na ljudskom nivou – pretpostavljaju da je imati ljudski um samo ljudski mozak koji sledi neki skup računarskih algoritama – pogled je koji se naziva „kompjuterizam“ (uma). Ali, iako algoritmi mogu imati moralne implikacije, oni sami nisu moralni agensi, provodnici i posrednici. Majmuna iza pisaće mašine koji slučajno otkuca „Otelo“ ne možemo uvrstiti u veličanstvenog kreativnog dramskog pisca. A ukoliko je u proizvodu veličina, to je samo „nezgoda“. Proizvod mašine možemo videti kao sjajan, ali ako znamo da je on samo ishod nekog proizvoljnog čina ili algoritamskog formalizma, ne možemo ga prihvatiti kao izraz vizije za dobrobit čoveka.

Iz tog razloga, čini mi se da se ništa osim drugog čoveka ne može pravilno razumeti kao istinski kreativni umetnik. Možda će AI jednog dana ići dalje od svog računarskog formalizma, ali to bi zahtevalo skok koji je trenutno nezamisliv. Ne bismo tražili samo nove algoritme ili postupke koji simuliraju ljudsku aktivnost; tražili bismo nove stvari; građu, činjenice, ideje, informacije, koji su osnova čovekovog bića.

Jedan duplikat čovekovog molekula bi na odgovarajući način mogao biti čovek. Mi već, međutim, imamo način da proizvedemo takvo biće: za to nam je potrebno oko devet meseci. Trenutno, mašina može da uradi samo nešto daleko manje zanimljivo od onoga što je čovek sposoban da postigne. Na primer, može da stvori muziku u Bahovom stilu – možda čak i muziku za koju neki stručnjaci misle da je bolja od Bahove. Ipak, to je samo zato što se njegova muzika može ocenjivati prema već postojećem standardu. Ono što mašina ne može je da donese promene u našim standardima za ocenjivanje kvaliteta muzike ili razumevanja šta muzika jeste ili šta ona nije.

Ovo ne znači da se negira da kreativni umetnici koriste sva sredstva kojima raspolažu i da ta sredstva (danas su sredstva zamenjena rečju „alati“) oblikuju vrstu umetnosti koju stvaraju. Truba je pomogla Dejvisu i Kolmenu da ostvare svoju kreativnost. Ali truba, sama po sebi, nije kreativna. Algoritmi veštačke inteligencije više liče na muzičke instrumente nego na ljude. Taryn Southern, bivša takmičarka iz ’Američkog idola’ je nedavno objavila album na kojem su udaraljke, melodije i akordi generisani algoritamski, mada je ona pisala tekstove i više puta doterivala algoritam instrumentacije, sve dok ovaj nije doneo željene rezultate. Početkom devedesetih, Dejvi Bouvi je učinio obrnuto: napisao je muziku i uz to koristio Mac aplikaciju pod nazivom Verbalizer da bi “pseudo slučajno“ rekombinovao rečenice u tekstovima pesama. Baš kao i prethodni alati (sredstva) muzičke industrije – od uređaja za snimanje i sintisajzera, do semplera i loopera – novi AI alati rade stimulišući i kanališući kreativne sposobnosti umetnika (i ujedno odražavajući ograničenja tih sposobnosti).

Igre bez granica

Mnogo je napisano o dostignućima sistema dubokog učenja – sistema koji su danas najbolji ’Go’ igrači na svetu. Računarski program ’AlphaGo’ i njegove varijante su neka vrsta potvrde da je stvoren potpuno novi način igranja ove stare igre. Naučili su stručnjake da brojni potezi pri otvaranju – za koje se dugo mislilo da su nepromišljeni – mogu dovesti do pobede. Program se igra u stilu koji stručnjaci opisuju kao čudan i (ljudskom načinu shvatanja) stran. „Programi za igranje igara su ono kako zamišljam igre iz daleke budućnosti“, izjavio je Shi Yue, vrhunski igrač, govoreći o svom doživljaju programa AlphaGo. Čini se da je algoritam zaista kreativan.

U nekom značajnijem smislu i aspektu on to i jeste. Igranje igara se, međutim, razlikuje od komponovanja muzike ili pisanja romana: u igrama postoji objektivno merilo uspeha. Znamo da imamo šta da naučimo od AlphaGo-a jer vidimo da pobeđuje.

Ali to je takođe ono zbog čega Go i obitava u „domenu igračaka“ (toy domain), jednim uprošćenim slučajem, koji nam na ograničeni i oskudni način govori o raznim stvarima ovoga sveta.

En Ridler & AI: „Pad kuće Ašer“ (2017)

Sloka gore: dvanaestominutna animacija zasnovana na nemom filmu Votsona i Vebera iz 1928. godine: Ridlerova je stvorila fotografije koristeći tri odvojene neuronske mreže: jednu obučenu na njenim crtežima, drugu na crtežima napravljenim od rezultata prve mreže, i treću treniranu na crtežima napravljenim od rezultata druge.

Najosnovnija vrsta ljudske kreativnosti menja naše razumevanje sebe, jer menja shvatanje onoga što smatramo dobrim. Tome nasuprot, u vezi igre Go, priroda dobrote jednostavno nije na radaru mašinskih programa: Strategija igre je dobra onda i samo ako mašina pobedi. A ljudski život, opšte uzev, nema ovu osobinu: ne postoji objektivno merilo uspeha u najvišim oblastima postignuća. Svakako ne u umetnosti, književnosti, muzici, filozofiji ili politici. A takođe, u tom pogledu, ni u razvoju novih tehnologija.

U raznim domenima igračaka, mašine će možda moći da nas nauče nešto, nečemu, o određenoj, vrlo ograničenoj, formi kreativnosti. Ipak, pravila ovog domena su unapred formirana; sistem može uspeti samo zato što nauči da igra dobro u okviru ovih ograničenja. Ljudska kultura i ljudsko postojanje su daleko zanimljiviji od ovoga. Postoje norme kako se ljudska bića ponašaju, naravno. Ali kreativnost u pravom smislu je sposobnost promene tih normi u nekom važnom ljudskom domenu. Uspeh u domenima igračaka nije pokazatelj da je kreativnost ove temeljnije, fundamentalnije vrste dostižna.

Kao nokaut

Skeptik bi mogao tvrditi da argument deluje samo zato što ja suprotstavljam igre umetničkom geniju. Postoje i druge paradigme kreativnosti u naučnom i matematičkom području. U ovim carstvima, pitanje nije uvezano sa vizijom sveta. Radi se o tome kako stvari, zapravo, stoje.

Da li bi mašina jednog dana mogla izneti matematičke dokaze toliko daleko ispred nas, toliko napredne da jednostavno moramo odstupiti i prikloniti se njenom kreativnom geniju?

Ne.

Računari su već pomogli u značajnim matematičkim dostignućima. Ali njihovi doprinosi nisu bili naročito kreativni. Uzmimo prvu veliku teoremu dokazanu pomoću računara: teoremu o četiri boje, koja kaže da bilo koja ravna mapa može biti obojena sa najviše četiri boje na takav način da se nijedna susedna „država“ ne dodiruje sa nekom koja je iste boje (ovo se, takođe, odnosi i na zemlje na sferičnoj površini zemaljske kugle, a ne samo na dvodimenzionalnoj predstavi).

Pre skoro pola veka, 1976. godine, Keneth Apel i Volfgang Haken s Univerziteta u Ilinoisu objavili su kompjuterom potpomognuti dokaz ove teoreme. Računar je izvršio milijarde proračuna, proveravajući hiljade različitih vrsta mapa – toliko da je ljudima bilo (i ostalo) logistički neizvodljivo da provere da li je svaka mogućnost u skladu sa “pogledom” i “perspektivom” računara. Od tada, kompjuteri rutinski pomažu u širokom spektru novih dokaza koje čovek iznosi u obliku premisa i teorija.

AI & Tom Vajt: Električni ventilator (2018). Umetnik je koristio ’perceptivne mašine’, algoritme koji destiluju podatke prikupljene na hiljadama fotografija uobičajenih predmeta, sa ciljem njihove sinteze u apstraktne oblike. Dobijene rezultate zatim testira i dorađuje, sve dok ih sistem ne prepozna.

Međutim, superračunar ne radi ništa kreativno dok proverava ogroman broj slučajeva. Umesto toga, radi nešto dosadno u nepojamno mnogo navrata. Ovo se čini gotovo suprotnim od kreativnosti. Štaviše, toliko je daleko od vrste razumevanja za koje obično mislimo da bi, kao dokaz, recimo, poput matematičkog, trebalo da ponudi: jer, računar u tolikoj meri dosadno rutinski „algoritmuje“ da neki stručnjaci ove „mašinske strategije“ proistekle iz računarskih operacija uopšte ne smatraju (validnim) matematičkim dokazima. Filozof matematike i nauke Thomas Tymoczko je tvrdio da, ukoliko ne možemo čak ni da verifikujemo da li je dokaz čovekove postavke tačan i utemeljen, onda sve što zaista činimo jeste ukazivanje poverenja računsko-računarskim procesima, koji su skloni greškama.

Iako pretpostavimo da treba da verujemo takvim (iz algoritma proisteklim) rezultatima, međutim, dokazi dobijeni uz pomoć računara su, po analogiji, nešto poput komponovanja muzike uz pomoć računara. Ako nam daju vredan „proizvod“, odnosno, „konačni ishod“ (tzv. umetničko delo), to je prevashodno zbog doprinosa čoveka. Ipak, neki stručnjaci tvrde da će veštačka inteligencija moći da postigne i više od ovoga. Pretpostavimo, onda, da posedujemo krajnju, ultimativnu opciju: samostalnu mašinu koja sve nove teoreme dokazuje sama.

Da li bi jednog dana, kako tvrde Kurcvajl i Bostrom, neka ovakva mašina mogla u ogromnoj meri nadmašivati čovekovu matematičku kreativnost,? Pretpostavimo, na primer, da AI donosi rešenje nekog izuzetno važnog i teškog otvorenog problema u matematici.

Sposobnost istinske kreativnosti, one vrste kreativnosti koja ažurira, nadograđuje i usavršava naše (po prirodi ljudske) razumevanje prirode bića, u osnovi je onoga što bi ljudskost i trebalo biti.

Postoje dve mogućnosti. Prva je da je dokaz izuzetno pametan i kada stručnjaci u toj oblasti prođu kroz njega, otkriju da je tačan. U ovom slučaju, AI koja je otkrila dokaz biće nagrađena aplauzom; Čak se i sama mašina može smatrati kreativnim matematičarem. Ali, takva mašina ne bi bila dokaz singularnosti; ne bi nas toliko nadmašila u kreativnosti da, navodno, čak ne bismo mogli ni da razumemo šta je to što radi. Čak i da poseduje takvu vrstu kreativnosti na ljudskom nivou, to je ne bi neizbežno uvelo u carstvo onkog nadljudskog.

Neki matematičari su poput muzičkih virtuoza: Odlikuje ih savršeno vladanje nečim unutar već postojećeg idioma. Ali geniji kao što su Srinivāsa Aiyangār Rāmānujan, Emmy Noether ili Alexander Grothendieck su verovatno preoblikovali matematiku baš kao što je Schoenberg preoblikovao muziku. Njihova dostignuća nisu bila oličena samo u dokazivanju dugogodišnjih hipoteza, već u novim i neočekivanim oblicima rezonovanja, koji su delovali ne samo snagom njihove logike već i sposobnošću da druge matematičare argumentovano ubede u značaj njihovih inovacija. Zamišljeni AI koji donosi „pametni dokaz problema“ koji je dugo zbunjivao matematičare srodan je računarskom programu AlphaGo i njegovim varijantama: impresivan, ali nimalo nalik Šenbergu.

To nas dovodi do druge mogućnosti. Pretpostavimo da je najbolji i najsjajniji algoritam za duboko učenje labav, pa nakon izvesnog vremena kaže: „Našao sam dokaz fundamentalno nove teoreme, ali je isuviše komplikovan da bi ga razumeli i vaši najbolji matematičari.“

Ovo, zapravo, nije moguće. Dokaz koji ne mogu da razumeju ni najbolji matematičari se, zapravo, ne računa kao dokaz. Dokazivanje nečega podrazumeva da to dokazujete nekome. Kao što muzičar(ka) mora nagovoriti svoju publiku da prihvati njegov/njen estetski koncept dobre muzike, tako i matematičar mora nagovoriti druge matematičare da postoje dobri razlozi da poveruju u takvo, inovativno-kreativno viđenje istine. Da bi se neki matematički podatak smatrao valjanim dokazom, neka tvrdnja mora biti razumljiva i podržana od strane nekog nezavisnog skupa stručnjaka koji su u dobroj poziciji da je razumeju. Ako stručnjaci – koji bi trebalo da su sposobni da razumeju dokaz – to nisu u stanju, onda naučna zajednica odbija da ovaj novi način prihvati kao dokaz.

Iz tog razloga, matematika više liči na muziku nego što bi se moglo i pomisliti. Mašina nas ne bi mogla uveliko nadmašivati u kreativnosti, jer bi njeno postignuće ili bilo razumljivo – jer nas, u tom slučaju, ne bi ubedljivo nadmašilo – ili pak ne bi bilo razumljivo – jer u tom slučaju ne bismo mogli da na njen “opus” gledamo kao ostvarenje bilo kakvog kreativnog napretka.

Oko posmatrača

Inženjerstvo i primenjena nauka su, na neki način, negde između ovih primera. Postoji nešto poput objektivnog, spoljnog merila uspeha. Ne možete „pobediti“ u izgradnji mostova ili otkrivanju novih lekova onako kako možete u šahu, ali se može videti da li most pada ili je virus eliminisan. Ovi objektivni kriterijumi stupaju na snagu tek kad je domen prilično dobro preciziran: dolazi do jakih, laganih materijala, recimo, ili lekova koji uspešno suzbijaju određene bolesti. AI bi mogao pomoći u otkrivanju lekova tako što bi, u stvari, uradio isto što i AI koji je sastavio ono što je zvučalo kao dobro izvedena Bahova kantata, ili bi smislio briljantnu strategiju za Go. Poput mikroskopa, teleskopa ili kalkulatora, takav AI se pravilno shvata kao sredstvo koje omogućava čovekova otkrića – a ne kao autonomni kreativni agent „mašinskog porekla“.

Ovde vredi razmisliti o specijalnoj teoriji relativnosti. Alberta Ajnštajna pamte kao „otkrivača“ fizičkog relativiteta – ali ne zato što je prvi smislio jednačine koje bolje opisuju strukturu prostora i vremena. Džordž Ficdžerald, Hendrik Lorenc i Anri Poenkare, između ostalih, zapisali su te jednačine pre Ajnštajna. Hvaljen je i ustoličen kao otkrivač teorije jer je originalno, izvanredno i suštinski istinito razumeo šta te jednačine znače, a i bio je u stanju da to razumevanje prenese drugima.

Da bi se mašina mogla baviti fizikom koja je u bilo kom smislu uporediva s Ajnštajnovom kreativnošću, ona mora da je u stanju da druge fizičare ubedi u vrednost svojih ideja – bar toliko dobro koliko je i on sam to učinio. Što će reći, morali bismo biti u mogućnosti da prihvatimo njene „predloge“, sa ciljem da nam prenesu valjanost njihovog sopstvenog izvođenja. Ako bi takva mašina ikada i nastala, kao u alegorijskoj priči o Pinokiju, morali bismo da se prema njoj odnosimo kao prema čoveku. To znači, između ostalog, da bismo „tome“, toj mašini, morali da pripišemo ne samo inteligenciju već i ono dostojanstvo i moralnu vrednost koje odgovaraju ljudskim bićima. Čini mi se da smo daleko od ovog scenarija i nema razloga da mislimo da će nas trenutna računarska paradigma veštačke inteligencije – u svom obliku dubokog učenja ili bilo kojem drugom – ikada približiti njemu.

Kreativnost je jedna od glavnih karakteristika ljudskih bića. Sposobnost istinske kreativnosti, ona vrsta kreativnosti koja konstantno poboljšava i nadograđuje naše razumevanje prirode bića, koja menja način na koji shvatamo šta je to biti lep, ili dobar, ili istinit – ta je sposobnost osnova onoga što čovek treba biti. Ova vrsta kreativnosti, međutim, zavisi od našeg vrednosnog suda i brižnost za nju kao takvu (mašina ne poseduje takvu potrebu-instinkt). Kao što je pisac Brian Christian na jednom mestu istakao, ljudska bića se sve manje ponašaju poput bića koja bi trebalo da kreativnost vrednuju kao jednu od svojih najuzvišenijih mogućnosti, već se, tome nasuprot, pre ponašaju kao same mašine.

Koliko ljudi danas ima poslove koji od njih zahtevaju praćenje unapred određenih skripti za njihove razgovore? Koliko je u ovoj ispraznoj šaradi malo od onoga što nam je poznato kao stvaran, autentičan, kreativan i otvoren ljudski razgovor? Koliko je to, ta „konverzacija“, taj „razgovor“ umesto toga, zapravo, samo jedna vrsta poštovanja pravila onoga što je mašina u stanju da uradi? A koliko je nas – ukoliko dopuštamo da budemo uvučeni u ovakva „izvođenja scenarija“ – takođe ispražnjeno od smisla, suštine ljudskosti? Koliko vremena svakog dana dozvoljavamo sebi da budemo ispunjeni efikasnim mašinskim aktivnostima – popunjavanjem kompjuterizovanih obrazaca i upitnika, odgovaranjem na najraznovrsnije „mamce“, koji rade na naše najprizemnije impulse nalik životinjskim – „igrajući“ s njima, recimo, igrice – te unapred smišljene scenarije – igrajući igrice osmiljene radi „optimizacije naše zavisnosti“ reagovanja na sve ovo (mašinske, algoritamske mamce)?

U opasnosti smo od ove zabune i u nekim od najdubljih domena ljudskih dostignuća. Ukoliko sebi dozvolimo da kažemo da su mašinski dokazi koje ne možemo razumeti istinski „dokazi“, na primer, ustupajući društveni autoritet mašinama – tretiraćemo dostignuća matematike kao da uopšte ne zahtevaju ljudsko razumevanje. Potući ćemo jednu od naših najviših formi kreativnosti i inteligencije, i svesti ih na komadić binarnih informacija: da ili ne. Jedinica ili nula.

AI & M.C. Escher: Ether A2

Čak i da posedujemo te informacije, one bi nam bile od male vrednosti bez izvesnog razumevanja razloga koji su u osnovi. Ne smemo izgubiti iz vida suštinski karakter rezonovanja, koji je u osnovi onoga što je matematika po sebi.

Tako je i sa umetnošću, muzikom, filozofijom i književnošću. Ukoliko sebi dopustimo da se okliznemo, pa počnemo da mašinsku „kreativnost“ tretiramo kao zamenu za svoju, tada će nam mašine zaista izgledati neshvatljivo superiorne. To će se, međutim, dogoditi zato što ćemo izgubiti nit vodilju o osnovnoj ulozi koju kreativnost igra u postojanju čoveka i ljudskosti.

Sean Dorrance Kelly predaje filozofiju na Harvardu i koautor je bestselera „Sjaj svih stvari“ (All Things Shining).

MIT Review

Iz radijusa:

AIArtists.org, The world’s largest community of artists exploring the impact of AI on art & society

Artificial Intelligence and the Arts: Toward Computational Creativity

The Past, Present, and Future of AI Art

Next Level Art and the Future of Work and Leisure

Five artists who show art’s important relationship to AI

The Rise of AI Art—and What It Means for Human Creativity

Art made by AI is selling for thousands – is it any good?

If an AI creates a work of art, who owns the rights to it?

We’ve been warned about AI and music for over 50 years, but no one’s prepared

AI and music: will we be slaves to the algorithm?

The Relationship Between Art and AI

AI Is Blurring the Definition of Artist

How AI-generated music is changing the way hits are made

AI composers create music for video games

Music and Artificial Intelligence

12 songs created by AI

AI’s Growing Role in Musical Composition

A Retrospective of AI + Music, How AI has shaped music creation and the industry

Future Prooff: AI and music

Will Artificial Intelligence Replace Human Musicians?The machines are coming, but they seem to be coming to help us create better music

Baroni razbojnici digitalnog doba

Apr21

Način na koji je kompanija Cambridge Analytica iskoristila Facebook da prikupi podatke o desetinama miliona korisnika samo je jedan od problema vezanih za ovu društvenu mrežu i njen uticaj na društveni i politički život. Na izvestan način ovaj skandal je skrenuo pažnju sa važnijih pitanja koja proističu iz modela poslovanja giganata interneta: Google, Facebook, Amazon i druge velike tehnološke kompanije izgradile su najobuhvatniji i najbezobzirniji aparat nadzora i praćenja koji je svet ikada video. Svi smo pod njihovom prismotrom.

Poslovni model internet kompanija može se opisati kao kapitalizam nadziranja – što je prva učinila harvardska profesorka Shoshana Zuboff 2015. godine. Izgrađen na tehnologijama prikupljanja informacija i manipulisanja ponašanjem korisnika, kapitalizam nadziranja nastao je onog trenutka kada su inženjeri iz Googla shvatili da prateći šta korisnici unose u pretraživač mogu anticipirati njihove želje. Razvijanje tehnika za predviđanje želja korisnika omogućilo im je da plasiraju prilagođene oglase koji će uvećati prihode kompanije.

Danas praktično svaki aspekt svakodnevnog života ostavlja trag u korporativnim bazama podataka koji se koriste za predviđanje i oblikovanje svih oblika ponašanja. Ali korporacije koje se bave biznisom nadziranja ne zadovoljavaju se samo praćenjem želja korisnika; one aktivno oblikuju i usmeravaju te želje u skladu sa svojim ciljevima. To obično znači da se od nas očekuje da kliknemo na reklamu, posetimo veb-stranicu ili konačno nešto kupimo. Da bi to postigli, koriste se sve poznate prečice i predubeđenja koja utiču na ljude prilikom donošenja odluka, čime se bavi disciplina poznata kao „heuristika“. To često podrazumeva da se linkovi i drugi sadržaji moraju prikazati na način koji ih čini atraktivnijim, a u nekim slučajevima kao što su takozvani „mračni šabloni“ – trikovi za privlačenje pažnje i prodaju ili prikupljanje ličnih podataka koji uključuju element prevare – koriste se arhitekture izbora koje korisnike proračunato dovode u zabludu.

Opsežni eksperimenti omogućuju dalje usavršavanje oglasa i poziva na interakciju. Google je na primer do 2014. godišnje izvodio oko 10.000 eksperimenata u oblasti pretrage i plasiranja oglasa, a u bilo kom trenutku u toku je bar 1.000 eksperimenata. Eksperimentima se testiraju korisnički interfejsi, algoritmi i drugi elementi servisa da bi se ustanovilo koje kombinacije su najefikasnije za angažovanje korisnika. Oglasi vas prate sa jedne veb-stranice na drugu, svaki put suptilno izmenjeni, jer kompanija pokušava da na osnovu vašeg ponašanja i reakcija otkrije koja varijacija će vas naterati da konačno kliknete na oglas.

Otuda, ako koristite Chrome pretraživač ili Google aplikacije gotovo je sigurno da ste deo uzorka u desetinama psiholoških eksperimenata koji treba da ustanove profil vaših navika i slabe tačke koje kompanijama mogu doneti korist. Taj personalizovani i dinamički oblik podsticanja određenih oblika ponašanja pruža kompanijama mnoštvo prilika da manipulišu korisnicima na načine nezamislive pre nastanka interneta. A budući da se saznanja o vašim slabim tačkama dalje primenjuju za što efikasniji uticaj na ostale korisnike, vi ste praktično saučesnik, ne samo u sopstvenoj već i u manipulaciji vaših prijatelja i članova porodice, suseda i kolega, praktično svakog korisnika ovih usluga.

Većina ljudi ne shvata koliko inače nedostupnih informacija možete otkriti samo analizom relativno depersonalizovanih podataka o ponašanju neke osobe. Istraživanje iz 2013. koje je sproveo Centar za psihometriju Univerziteta u Kembridžu pokazalo je da i bez činjeničnih podataka o nekoj osobi analiza „lajkova“ na Facebooku može precizno pokazati njenu seksualnu orijentaciju, etničku pripadnost, nivo zadovoljstva životom, politička i verska ubeđenja, da li su joj roditelji razvedeni i da li koristi droge. U nastavku istraživanja 2015. pokazalo se da kroz analizu „lajkova“ kompjuter može proceniti karakteristike vaše ličnosti – koliko ste naklonjeni umetnostima, koliko ste stidljivi ili kooperativni – bolje nego članovi vaše porodice i prijatelji. Zamislite sad koliko se podataka, čak i onih koje smatrate ličnim i poverljivim, može izvući iz mora drugih informacija koje korporacije prikupljaju o vama i svakom drugom korisniku. Onda zamislite eksponencijalni rast količine takvih podataka koji će uslediti sa širenjem takozvanog interneta stvari (Internet of Things, IoT) – što je praktično mreža senzora, kamera i mikrofona koji će se kriti u vašim domovima, kancelarijama i na javnim mestima i vredno prikupljati i slati podatke u baze podataka kapitalizma nadziranja.

Oni koji su pratili saslušanje Marka Zuckerberga pred Kongresom prošle nedelje su u zabludi ako misle da ne treba da se brinu jer ne koriste Facebook. Tehnike praćenja koje kompanija koristi – uključujući alat Facebook Pixel namenjen oglašivačima i dugmad „like“ i „share“ – utkane su u sam internet i mnoštvo veb stranica. Na taj način se prate korisnici širom interneta, stiču predstavu o njihovim interesovanjima i upućuju im se prilagođeni oglasi. Zeynep Tufekci, profesor sociologije na Univerzitetu Severne Karoline, napisao je nedavno u New York Timesu da čak i ako nemate otvoren nalog, Facebook može dedukovati informacije o vama na osnovu onoga što zna o vašim prijateljima koji ga imaju. Čak i ako niste registrovani korisnik, Facebook verovatno sastavlja „skriveni dosije“ o vama, isto kao za svoje korisnike. U Americi nema načina da to sprečite. Koristili Facebook ili ne, on vas posmatra.

Često se tvrdi da su lični podaci cena koju plaćamo da bismo besplatno koristili ponuđene usluge. Ali to nije sasvim tačno. Prava cena koju plaćamo da bismo koristili Google i Facebook jeste naša privatnost. Odustajanje od prava na privatnost omogućuje kompanijama da istražuju vaše psihološke slabe tačke i naplaćuju oglašivačima mogućnost da ih koriste. Da bi to prikrile, ove kompanije se skrivaju iza dokumenata o politici privatnosti koji su često dugački, komplikovani i pisani nerazumljivim pravnim jezikom. Pre desetak godina jedno istraživanje je pokazalo da bi prosečnom korisniku godišnje trebalo oko 25 dana (i noći) da pročita sve politike privatnosti koje je primoran da prihvati. Ko ima vremena i volje da to čita? Pozivanje na privatnost da bi se opravdale takve prakse liči na prevaru – Federalna komisija za trgovinu je osudila politiku privatnosti koju nudi Google jer korisnike dovodi u zabludu – naročito kada se ima u vidu da korporacije u biznisu nadziranja koriste heurističke metode da otkriju najbolji način prezentacije politika privatnosti tako da navedu korisnike da ih prihvate.

Možda vam se čini da je to razumna cena za održavanje kontakta sa prijateljima i rođacima. Ali ono što dobijate zauzvrat nije verna slika vašeg socijalnog kruga, već prilagođena verzija kojom upravljaju algoritmi inženjera iz Facebooka. To što vidite nije stvarnost, već slika stvarnosti koju je za vas filtrirao Facebook. U tu prilagođenu sliku enkodirani su različiti sudovi o tome šta je po mišljenju Facebooka vredno vaše pažnje. Na primer, algoritam za prikazivanje novih objava smanjuje vidljivost onih korisnika koji prema kriterijumima kompanije nisu dovoljno aktivni – to jest, prikazuje manji broj njihovih objava drugim korisnicima – i uvećava vidljivost onih koji su aktivniji. To je nov oblik kontrole: radite ono što Facebook od vas želi i bićete nagrađeni; ako ne ispunite kvotu, bićete kažnjeni socijalnom nevidljivošću. To može proizvesti teške posledice. Zamislite, na primer, da ste se u trenutku teške bolesti okrenuli Facebooku u pokušaju da doprete do prijatelja koji će vas podržati i utešiti, ali niko od vaših prijatelja ne reaguje i vi umirete u uverenju da nikome nije stalo do vas – samo zato što niste bili dovoljno aktivni da bi Facebook smatrao da je vaša bolest vredna pažnje vaših prijatelja. To nije anti-utopija iz budućnosti – to se navodno dogodilo prošle godine.

Kada Mark Zuckerberg govori o povezivanju ljudi, kao što često čini, on uvek zaboravlja da naglasi da je to povezivanje ljudi sa Facebookom. Koliko god da Zuckerberg priča o zajednici i povezanosti, Facebook ne postoji da bi doprineo održavanju društvenih veza i istinskih prijateljstava. On zarađuje od oglašavanja i zato želi da što više surfujete, skrolujete i klikćete i tako ustupate detalje o svom životu za dalju obradu. Da bi to postigao, Facebook se mora pozicionirati kao centar vašeg društvenog života i posrednik vaše stvarnosti.

Tako posredovana stvarnost daje kompaniji kao što je Zuckerbergova značajan uticaj na globalni protok informacija. Sa tim uticajem ide i odgovornost. Ipak, zahvaljujući nedavno procurelim internim dokumentima znamo da Facebook ne razmišlja mnogo o posledicama svog delanja i da toleriše globalni procvat lažnih vesti i dezinformacija. U Mjanmaru na primer, gde je Facebook toliko dominantan da mnogi veruju da su Facebook i internet jedna ista stvar, brisani su sadržaji kojima se skreće pažnja na etničko čišćenje Rohinja muslimana i zabranjivani sadržaji njihovih grupa, dok pozive na nasilje protiv njih niko nije cenzurisao. Uticaj Facebooka u Mjanmaru je tako veliki da ga Ujedinjene nacije i grupe za zaštitu ljudskih prava optužuju za pomaganje u genocidu.

Da ne bude zabune, takvo ponašanje nije ograničeno samo na Facebook; to je endemski oblik ponašanja u kapitalizmu nadziranja. Poznato je da je Google preporučivao linkove koji vode do stranica o teorijama zavere; u članku u Timesu objavljeno je da je Google čak postavljao oglase za lažne vesti na stranice posvećene proveri činjenica u vestima. U pokušaju da uveća broj klikova i prihod, YouTube, jedan od servisa pod kontrolom Googla, usmerava korisnike na sve ekstremnije video snimke i postaje vodeći generator radikalizacije u 21. veku.

Svet upravo otkriva da stvarnost posredovana Facebookom olakšava nadziranje glasača od strane političkih partija i kampanja. Facebook alati „prilagođena publika“ i „slična publika“ omogućuju oglašivačima, uključujući i političke organizacije, da dostave spiskove ljudi na koje ciljaju i povežu ih sa njihovim profilima. Oglašivači onda mogu izabrati slične ljude koji nisu bili na njihovim spiskovima i usmeriti političke poruke na sve njih, što znatno pojačava efekte kampanje. Pomoću takvih alata za mikrociljanje organizatori kampanja mogu precizno plasirati različite poruke različitim grupama glasača. Prema članku iz magazina Wired, tokom američkih predsedničkih izbora 2016. Trumpova kampanja je svakog dana koristila oglase u 40-50 hiljada različitih varijacija pažljivo osmišljenih da deluju na ciljane grupe i prethodno testiranih eksperimentima. Na dan treće predsedničke debate, takvih prilagođenih varijacija bilo je 175.000. Menadžer Trumpove digitalne kampanje tvrdi da je Trump pobedio zahvaljujući Facebooku i Twitteru.

Za vreme izbora za Kongres 2010. godine Facebook je organizovao sopstveno istraživanje efekata političkih poruka upućenih preko onlajn platformi. Istraživanje je pokazalo da je moguće uvećati verovatnoću izlaska birača na glasanje za oko 0,4 odsto plasiranjem obaveštenja da su njihovi prijatelji već glasali i ohrabrivanjem da učine isto (nešto drugačiji eksperiment izveden 2012. dao je sličan rezultat). To ne zvuči kao mnogo, ali na nivou zemlje to je oko 340.000 glasova. George W. Bush je pobedio sa razlikom od nekoliko stotina glasova u Floridi; Donald Trump je 2016. pobedio zahvaljujući tome što je uspeo da privuče oko 80.000 glasova više u samo tri države. Pažljivo dizajnirane mikro-kampanje pod parolom „izađi i glasaj“ imaju veliki značaj u slučajevima kada je trka izjednačena. Takođe, u kampanji 2016. Trump je koristio alatku „prilagođena publika“ za vođenje tri kampanje za odvraćanje onih grupa birača koji bi mogli glasati za Hillary: ciljali su na demokrate koji podržavaju Sandersa porukama o njenim vezama sa finansijskom elitom; na mlade žene porukama o njenoj podršci suprugu uprkos optužbama za seksualno neprimereno ponašanje; i na Afroamerikance porukama o njenim komentarima o „supergrabljivcima“ iz 1996. Negativne kampanje nisu ništa novo, ali precizno ciljanje mikro-kampanjama danas ih čini efikasnijim nego ikada – po cenu potkopavanja poverenja u političare i vere u demokratski proces.

Kao što primećuje profesor Tufekci: „Ako su inženjeri konsenzusa 20. veka imali na raspolaganju lupe i bejzbol palice, njihove kolege u 21. veku imaju teleskope, mikroskope i skalpele u obliku algoritama i analitike“. Moguće je da ne postoji dvoje ljudi koji su videli isti skup oglasa, jer se u svakom sukobljavanju argumenata i dezinformacija vrše precizna prilagođavanja za različite grupe, pa glasači i ne znaju šta je servirano drugima. Dok su se političke kampanje u prošlosti odvijale pred očima javnosti, a tvrdnje i argumenti kandidata su stavljani pod lupu, mikro-ciljanje znači da se izborni proces danas pomerio ka privatnoj i personalnoj sferi, bez mnogo prilika za unakrsno ispitivanje i osporavanje dezinformacija. Po mišljenju stručnjaka za digitalne medije Justina Hendrixa i Davida Carolla, to je „noćna mora za demokratiju“.

Kao društvo polako dolazimo sebi i uočavamo probleme koje stvara Facebook. Poštovanje privatnosti nikada nije bilo deo njihove misije. Zuckerberg je više puta podsećao senatore da je Facebook izrastao iz ideje grupe studenata za veb-stranicu – ali nije pomenuo da su na toj stranici birali najzgodnije studentkinje bez njihove saglasnosti. U prvoj deceniji razvoja ovog sajta, njegov moto je bio „kreći se brzo i ruši sve što ti se nađe na putu“. Sa takvim poslovnim etosom nije neobično što nas skandali povezani sa Facebookom više ne iznenađuju.

Ponekad neko primeti sumnjive postupke ove kompanije i digne prašinu. Kao i poslednjih dana, onda se obično pojavi Zuckerberg, izjavi da mu je veoma žao i da nije mogao da predvidi problem (uprkos upozorenjima stručnjaka i grupa za zaštitu privatnosti), izgovori nekoliko rečenica o „zajednici“ i planiranim „poboljšanjima“ i obeća da će se Facebook promeniti. Ali posle svih izvinjenja i obećanja da će biti pažljiviji i da će korisnicima osigurati više privatnosti – a bilo ih je dosta – neke stvari ostaju iste: nadziranje je ugrađeno u gene Facebooka, a svrha njegovog postojanja je kapitalizam nadziranja. Rešenje koje se nudi je predvidivo i pogrešno: dajte Facebooku još veću moć.

Zuckerbergovo saslušanje pred Kongresom jasno je pokazalo nekoliko stvari. Facebook i dalje odbija da prizna koliko malo korisnici znaju o onome što Facebook radi. Zuckerberg tvrdi da je većina korisnika upoznata sa aktivnostima praćenja koje se sprovode i da im to ne smeta, ali istraživanja pokazuju da se većina korisnika ne bi saglasila sa takvim praksama. Takođe, da bi opravdao svoj poslovni model, Facebook insistira na tvrdnji da korisnici preferiraju ciljano oglašavanje, uprkos tome što istraživanja pokazuju da 41 odsto njihovih korisnika više voli tradicionalno oglašavanje, dok se svega 21 odsto opredeljuje za ciljane oglase (63 odsto bi volelo da vidi manje oglasa bilo koje vrste). Sada se zna da desetine hiljada aplikacija imaju pristup velikim količinama podataka o korisnicima prikupljenim do 2015, baš kao i Cambridge Analytica. Tek sada, kad se našao pod reflektorima javnosti, Facebook pokušava da revidira odobrenja za korišćenje podataka.

Konačno, ni Facebook ni Google niti bilo koja od kompanija za nadziranje i praćenje ne mogu se same od sebe reformisati na iole smislen način, jer su zavisne od naših podataka. Poslednji patenti koje je Facebook zaštitio ne obećavaju ništa dobro. Kapitalizam nadziranja se često prikazuje kao prirodan poredak stvari u digitalnom svetu, ali to je rezultat izbora koje su pravili ljudi u trci za profitom. Kao poslovni model on nije ni neizbežan ni nepromenjiv.

Korak u dobrom smeru bi bio prelazak na kontekstualno oglašavanje. To znači da biste oglase dobijali na osnovu sadržaja stranice koju posećujete, a ne na osnovu analize podataka prikupljenih praćenjem ponašanja korisnika. Najavljena Opšta uredba o zaštiti podataka o ličnosti (GDPR) u Evropskoj uniji, kojom se štite prava korisnika, zahteva nove pristupe. I Facebook i Google su imali teškoća da ispune zahteve već postojećih zakona o zaštiti podataka koji su u Evropi stroži. Sudovi u Belgiji i Nemačkoj nedavno su objavili da su neke od praksi koje primenjuje Facebook (uključujući praćenje ljudi koji nemaju Facebook nalog) protivzakonite, a Google je već bio kritikovan i plaćao velike kazne zbog prikupljanja podataka bez saglasnosti i obaveštavanja korisnika o tome šta radi sa njima.

Ispunjavanje uslova koje postavlja GDPR verovatno će biti veliki izazov za kompanije koje se bave biznisom nadziranja. Ali uz zaprećene kazne i do 4 odsto globalnog prometa za ozbiljna kršenja pravila EU, tehnološke kompanije će morati ozbiljnije da shvate svoju odgovornost i sprovedu reforme. Pošto će već morati da primene nova pravila da bi nastavile da rade u Evropi, mogle bi – relativno lako – da primene ista pravila na korisnike u Severnoj Americi i ostatku sveta. I zaista, Facebook je pod sve većim pritiskom da tako i postupi – a i Zuckerberg je natuknuo da bi kompanija mogla poći u tom smeru. To bi bio veliki korak napred; zaštitnica prava potrošača Jessica Rich u članku objavljenom u magazinu Wired primećuje da bi bilo još bolje kad bi i Sjedinjene Države usvojile zakone slične onima u Evropi.

Problematična praksa kompanija za nadziranje i njihovo uporno odbijanje da odgovorno postupaju doveli su nas do prekretnice. Možemo se usprotiviti visokom nivou korporativnog nadziranja, kakvo pre dolaska interneta svakako ne bismo prihvatili, tako što ćemo izvršiti pritisak na Facebook i zakonodavce da nešto promene i tako što ćemo koristiti alternativne servise sa drugačijim poslovnim modelima. Takođe možemo zahtevati pozivanje na odgovornost čitavog digitalnog oligopola i bolju zaštitu naše privatnosti i podataka. Ovo je trenutak odluke: da li će internet pripasti njima ili nama?

Jennifer Cobbe, The New York Review of Books, 12.04.2018.

Peščanik.net, 19.04.2018.

Srodni link: Paul Mason – Budućnost Facebooka

Panamska dokumenta: zlatni rudnik za teoretičare zavere

Apr16

Na prvi pogled, Panamski dokumenti kao da su, čini se, predodređeni da prerastu u mit i legendu unutar krugova teoretičara zavere. Istraga, objavljena u nedelju trećeg aprila oslanjala se na 2,6 terabajta tajnih podataka koji razotkrivaju ogromnu mrežu ofšor kompanija koje kriju novac povezan sa političarima, poznatim ličnostima i kriminalcima širom sveta. Ova otkrića nude teoretičarima zavere još jedan opijajući “gutljaj ambrozije”, jer su ovi papiri retka i veoma očigledna potvrda organizovane “podlosti s predumišljajem” od strane elite. Još od Edvarda Snoudena (Edward Snowden) nije bilo dokumenata koji su tako čvrsto potvrđeni od strane zvaničnih instanci.

Ali, možda i očekivano, teorije zavere sada cvetaju na temu samih Panamskih dokumenata. Jesu li oni autentični, sumnjičavo se upitala čak i grupa aktivista okupljena oko WikiLeaks, koja podržava kako Snoudena tako i Džulijena Asanža.

Neki veruju da ovaj set iscurelih podataka ima za cilj ublažavanje kriticizma na račun Hilari Klinton, koja je u jeku kampanje za demokratskog kandidata na ovogodišnjim izborima u Sjedinjenim Državama. Nakon ubistva američkih diplomata u sigurnoj kući u Bengaziju 11.septembra 2012, ona se, uoči ovog terorističkog napada, a u svojstvu šefice Stejt Departmenta i samim tim najodgovornija, oglušila o molbe osoblja američke ambasade u Libiji da im se pojačaju bezbednosne mere, uz to i pokušavajući da zataška ovaj masakr time što je u medijima isprva tvrdila kako je ovo ubistvo plod “trenutnih, nekontrolisanih emocija rulje”, dok se kasnije pokazalo kako je napad bio unapred osmišljen od strane ISIS-a. Drugi tvrde kako je američki Stejt Department sam proizveo ovu priču kako bi oblatio svoje političke neprijatelje. Online diskusije na forumu su uzavrele, i, naravno, u njima prednjači čuveni teksaški teoretičar zavere, radio-voditelj i autor mnogih dokumentaraca na urotničke teme, Aleks Džons, koji je takođe sumnjičav i kada je u pitanju motiv onih koji stoje iz ovog curenja podataka. On i Vikiliks izrazili su sumnju na poreklo dokumenata kao i na integritet novinarstva. U pitanju su, kako kažu, organizacije koje finansiraju projektne lidere u ICIJ-u. Ono što je možda najupečatljivije jeste kako se, ovakvim nerazumevanjem situacije oko Panamskih dokumenata kao i nesposobnošću poimanja načina na koji mediji funkcionišu, istovremeno mogu osuditi svi koji traže i otkrivaju stvarne ili navodne skandale oko korupcije, posebno u politici, ali i osnažiti medijska artiljerija koja se nalazi u rukama države. Stoga je afera oko Panamskih dokumenata mač sa dve oštrice. I dalje u vazduhu visi pitanje: da li je ova afera isprodukovana, i, ukoliko jeste, u koje i čije svrhe?

Za početak, evo malo i pozadine čitave situacije oko curenja Panamskih dokumenata: Nemački list Zidojče Cajtung (Süddeutsche Zeitung) počeo je da prima zaštićene datoteke iz nepoznatog izvora, što je trajalo više od godinu dana. Dokumenti – email poruke, računi, fotografije, itd koji su pripadali panamskoj advokatskoj kancelariji Mosak Fonseka (Mossack Fonseca), koja je već nekoliko decenija opštepoznata “javna tajna” među brojnim poslovnim i javnim ličnostima. Fonseka je bilo mesto specijalizovano za otvaranje ofšor kompanija u ime banaka, koje su ovo činile u ime svojih klijenata. Novine su kontaktirale ICIJ kako bi ova krovna svetska organizacija istraživačkih novinara vodila ono što će ovog aprila postati dosad najveća novinarska međunarodna istraga, obuhvatajući više od 100 novinskih redakcija iz 80 zemalja. Pokazalo se da su njihovi nalazi u nekim slučajevima bili dalekosežno kompromitujući i intenzivno razorni. Do sada, Panamski dokumenti rezultirali su ostavkama islandskog premijera, najvišeg funkcionera u FIFA, kao i šefa Austrijske banke.

Kada je ova vest pukla kao grom iz vedra neba, Putin i njegovi saradnici počeli su da uzvraćaju medijsku paljbu. Ruska državna televizija RT i njena informativna mreža tvrdili su da su zapadni mediji ovim skandalom nastojali da uzdrmaju Putina uoči predstojećih ruskih izbora. Ostali novinski članci postavljali su pitanje da li, koliko i kako je na ovo curenje imala uticaja američka vlada i moćni američki pojedinci.

Očigledna implikacija bila je da je na ICIJ počelo da se gleda samo kao na medijsku “pokrivku” za one prave, opake igrače koji deluju u tajnosti. Ko su, dakle, donatori koji stoje iza ICIJ-a, s, ko su, dakle, ljudi sposobni da utiču na uredničke i uređivačke aktivnosti u redakcijama širom sveta, i da li ih oni finansiraju?

ICIJ na svojoj internet stranici navodi ko su njegove pristalice koje ga finasiraju. Neki, poput Pulicerovog centra za izveštavanje o krizama, usmereni su ka podsticanju jakog istraživačkog novinarstva. Većina drugih naginjalo je nalevo. Fondacije Otvoreno Društvo (Open Society Foundations), na primer, finansira bogati liberal Džordž Soroš (George Soros), potom Ford fondacija, Adesijum fondacija (Adessium), uz Fondaciju Dejvida i Lusil Pakard, koji svi teže da podrže istraživanja pre svega onih uzročnika koji su povezani sa aktuelnim svetskim stanjem i problemima, recimo, klimatskim promenana.

Tako se može reći da oni koji su uhvaćeni u unakrsnoj vatri Panamskih dokumenata, čemu se pridružio i medijski konzervativac Breitbart, bacaju senku na finansijere novinarskih organizacija.

Ovo se čini kao sasvim fer (U stvari, novinari bi trebalo da se zapitaju da li bi trebalo da javnosti skreću pažnju na finansijere jedne novinske organizacije koju finansiraju republikanski teškaši poput braće Koh ili Šeldona Adelsona. “Da” je pravi odgovor). Direktor ICIJ-a Džerard Rajl, međutim, kaže da osobe koje ispisuju čekove za ICIJ ne pišu preko ove novinarske organizacije svoje priče. Zaštitni zid koji postoji između redakcije i njenih finansijera znači da finansijeri znaju samo to da je na pomolu neka velika priča. On kaže da ne prihvata donacije od onih potencijalnih izvora koji žele da diktiraju reportaže i novinarska istraživanja, tvrdeći da ne postoje nikakvi dokazi da takvi donatori kao što je Ford pokušavaju da igraju uređivačku ulogu. “Novac od finansijera nije bitan u našoj uređivačkoj politici”, dodaje on. “A ne verujem ni u uzimanje njihovog novca samo kako bismo pisali priče na teme koje nam oni diktiraju.”

Iako je ICIJ svoju reputaciju izgradio objavljivanjem informacija o međunarodnim istragama vezanim za poreske rajeve, ova novinarska grupacija nipošto nije specijalizovanaa samo za novac sumnjivog porekla. ICIJ je takođe medijski pokrivao o priče o posledicama aktivnosti Svetske banke, o rudarstvu u Africi, kao i o trgovini leševima.

Ako su ove optužbe plod konspiracije, onda je izvesno da su njeni organizatori u tu bombu upakovali mnogo šrapnela. Čak se i filmska zvezda Džeki Čen našao pod mikroskopom.

Ono što je još verovatnije jeste da je šačica bogatih ljudi krenula da finansira dobro novinarstvo. Već sam imovinski status povezan s njihovim imenima podstiče paranoidne spekulacije. Neki ljudi, na primer, skloni su da atakuju na porodice Rokfelera i Karnegija kao finansijere ICIJ-a. Postoji jedan mali broj “nekih” imena koja pobuđuju daleko žustrije reakcije među teoretičarima zavere. Ova tvrdnja, ipak, nije sasvim tačna. Fondacije povezane sa svakom od ove dve porodice podržavaju matičnu organizaciju kojoj ICIJ pripada, a to je Centar za javni integritet (Center for Public Integrity), mada sam Rajl kaže kako njeno funkcionisanje ne zavisi od novca koji se direktno prima od njih.

Malo je dokaza koje su teoretičari zavere dosad ponudili kako bi potkrepili svoje teorije. “Verovati u teorije zavere umnogome je nalik podržavanju nekog kandidata”, kaže Džozef Uscinski, profesor na Univerzitetu Majami i stručnjak za teoretičare zavere. “Bez obzira šta da im se kaže, oni će svaku informaciju uvek tumačiti u svetlu svojih predubeđenja, onoga u šta već veruju.”

Kao što Uscinski primećuje, čak je i izveštavanje o Votergejtu od strane dnevnog lista Vašington Post bilo predmet sumnjičavosti i spekulacija.

Da su Panamski dokumenti nekim slučajem razotkrili veći broj Amerikanaca, manje bi se skeptika pojavilo. Naravno, nekoliko američkih medijskih kuća želelo je da radi sa ICIJ-om, koji god da je bio razlog za tu zainteresovanost, a tu su i stotine stručnjaka za offshore kompanije čiji su fajlovi još uvek na bezbednom.

Ono što smo dosad saznali je isprovociralo Vikiliks da pozove ICIJ na objavjivanje svih dokumenata vezanih za Panamske dokumente. “Krtica” koja je dosad obezbedila ovoliko obimno curenje podataka kaže da će omogućiti nezavisnim novinarskim izvorima da proveravaju postojeće informacije, da će istraživati one informacije o kojima se dosad nije izveštavalo, i na taj način se suprotstavljati svakoj potencijalnoj pristrasnosti. Rajl ne planira da svoj kancelarijski orman otvori za svetsku javnost. On kaže da postoji puno dokumenata sa podacima iz pasoša i ostalih ličnih dokumenata, podacima o osobama čije je korišćenje offshore kompanija legalno, a može biti osetljiv materijal za krađu identiteta mnogobrojnih osoba.

Neslaganje između dve strane, međutim, moglo je biti razlog zbog kojeg je Rajl napao VikiLiks u intervjuu za magazine Wired. “Mi nismo Vikiliks. Pokušavamo da pokažemo da novinarstvo može biti odgovorno”, rekao je on ovom mesečniku. Od tada, kriticizam od strane Vikiliksa, koji je u početku bio koncentrisan na Panamske dokumente, dodatno poduprt teorijama zavere i propagandom koja se pojavila u medijima onih zemalja čiji su se građani nađli na udaru ovog curenja podataka.

Nakon svega ovoga, postavlja se pitanje: postoji li neki efikasan način za utišavanje galame koja se digla oko Panamskih dokumenata? Postoji jedan način kojeg je sam Rajl uspeo da se seti: “Sve što možete da uradite jeste da radite ono što mislite da je najbolje moguće kada je u pitanju vaša (novinarska) profesija, a onda se udobno zavalite i pustite da samo novinarstvo progovori.”

Jack Murtha, CJR

Najlepša forma vode – pahulja

Jan26

Pre tri zime, fotograf Daglas Lever (Douglas Levere) tražio je priliku za neki svoj sporedni projekat, nešto što bi ga razonodilo kao “hobi”ali mu ne bi smetalo u obavljanju njegovih svakodnevnih obaveza; nešto što ne bi zahtevalo predugačka putovanja od svoje kuće u predgrađu Bafala, Njujork. Dosetio se nečeg što mu je na severoistoku ove američke države lako dostupno a naizgled neiscrpno, čega tamo ima i više nego što žiteljima te oblasti treba. Setio se snega.

Shodno tradiciji koju je začeo Vilson ‘Pahulja’ Bentli (Wilson ‘Snowflake’ Bentley) jedan od prvih fotografa čiji je objektiv veoma uspešno snimao svu složenost ove možda najlepše forme koju voda poprima – pahulja – i Lever ih “lovi” dok padaju, ili ih kupi finom četkicom, ponekad i sa haube svog automobila. Potom ih stavlja na staklene pločice koje odnosi u svoju garažu, jedino mesto u svojoj kući gde je dovoljno hladno da bi radio to što želi, a onda, koristeći uređaje kućne izrade – više ili manje mikroskopska sočiva povezana za digitalni fotoaparat – snima ih u krupnom planu, često slikajući jednu jedinu pahulju i pedeset puta pa i više. Potom sve te slike zajedno ukombinuje i “uveže” u jedan oštri prizor visoke rezolucije.

Leverova ideja o “savršenom primerku” otkriva i “savršenu nesavršenost” asimetrije. U svojim fotografijama, belu boju pahulja zamenio je prozračnošću leda, sa svojim strukturama i obrascima koje je sama priroda ‘izgravirala’. A neke od njegovih pahuljica su geometrijski tačne, sa preciznošću koja je gotovo mehanička. Neke druge pahulje su, recimo, poput tečnosti i više su nalik na “fluidne cvetove”.