AI kao umetnik: Nemoguća misija

Kreativnost jeste i uvek će biti ljudska, tvrdi harvardski profesor filozofije Sean Dorrance Kelly.

Bio je ti 31. mart 1913. godine kada su u Velikoj sali koncertne kuće Muzikferajn u Beču izbili neredi, usred izvođenja orkestracije pesme Albana Berga. Lomio se i nameštaj. Policija je uhapsila organizatora koncerta jer je udario Oskara Štrausa, malo poznatog kompozitora opereta. Štraus se kasnije, na suđenju, dosetkom osvrnuo na frustraciju publike. Udarac koji je zadobio, insistirao je on, bio je najskladniji zvuk tokom čitave te večeri. Istorija je donela drukčiju presudu: dirigent koncerta, ujedno i čuveni savremeni kompozitor i perjanica atonalne klasike, Arnold Schoenberg „propao“ je u tom trenutku kao možda najkreativniji i najuticajniji kompozitor dvadesetog veka.

Možda nećete uživati u Šenbergovoj disonantnoj muzici (za šta su velike šanse ukoliko nemate živaca, vremena i fokusa); muzike koja odbacuje konvencionalni tonalitet da bi rasporedila 12 nota skale prema pravilima koja ne dozvoljavaju da bilo koja prevladava. On je, međutim, promenio ono što ljudi shvataju kao muziku. To je ono što ga čini istinski kreativnim i inovativnim umetnikom. Šenbergove tehnike su sada besprekorno integrisane u sve: od filmskih partitura i brodvejskih mjuzikla, do solo deonica Milesa Davisa i Ornette Coleman-a.

Kreativnost je među najtajanstvenijim i najupečatljivijim dostignućima ljudskog postojanja. Ali, šta je to?

Kreativnost nije tek neka „novotarija našeg vremena“. I mališan za klavirom mogao bi pogoditi novu sekvencu nota, ali u nekom značajnijem, suštinskijem smislu, te note nisu kreativne. Takođe, kreativnost je ograničena istorijom: ono što se u jednom periodu ili mestu smatra kreativnom inspiracijom bi se, u nekom drugom, moglo zanemariti, shvatajući to kao smešno, glupo ili ludo. Zajednica mora prihvatiti one ideje koje su toliko dobre da su opšteprihvaćene kao kreativne.

Kao u slučaju Šenberga, ili bilo kojeg drugog savremenog umetnika, to prihvatanje ne mora biti univerzalno. Možda to prihvatanje od zajednice zaista ne bi došlo još dugi niz godina – jer, ponekad se kreativnost generacijama pogrešno odbacuje. Ali, ukoliko neka zajednica na kraju ne prihvati inovaciju, onda i nema smisla govoriti o toj zajednici kao o kreativnoj.

Napredak u veštačkoj inteligenciji doveo je do brojnih nagađanja, naime, o tome da će ljudska bića uskoro biti zamenjena mašinama u svim domenima, uključujući i oblast kreativnosti. Ray Kurzweill, futurista, predviđa da ćemo do 2029. stvoriti AI koji može proći kao prosečno obrazovano ljudsko biće. Oksfordski filozof Nik Bostrom nešto je oprezniji; Ne navodi datum, ali predlaže da filozofi i matematičari odgode svoj rad na osnovnim naučnim pitanjima do trenutka punog razvoja „superinteligencije“ naših naslednika, one inteligencije definisane kao „intelekt koji u velikoj meri premašuje kognitivne performanse ljudi u praktično svim domenima (njihovih) interesa“.

Obojica veruju da će jednom, kada se inteligencija na ljudskom nivou proizvede u mašinama, doći do naleta napretka – ono što Kurcvajl naziva „singularnošću“, a Bostrom „eksplozijom inteligencije“ – u kojoj će nas mašine vrlo brzo zameniti krupnim merama u svakom domenu. To će se dogoditi, tvrde oni, jer je nadljudsko dostignuće isto što i obično ljudsko postignuće, osim što se sva relevantna izračunavanja izvode mnogo brže, u onome što Bostrom naziva „hitrom, naprednom superinteligencijom“.

Pa, šta je u tom slučaju sa najvišim nivoom ljudskih dostignuća – kreativnim inovacijama? Da li će naše najkreativnije umetnike i mislioce masovno nadmašiti mašine?

Ne.

Ljudsko kreativno dostignuće, zbog načina na koji je ugrađeno u društvo, neće podleći napretku veštačke inteligencije. Reći drugačije značilo bi pogrešno razumeti ono što su u krajnjem zbiru ljudi, kao vrsta, a i naša kreativnost.

Ova tvrdnja nije apsolutna: ona zavisi od normi kojima dozvoljavamo da upravljaju našom kulturom, kao i naših očekivanja od tehnologije. Ljudska bića su u prošlosti pripisivala veliku moć i genijalnost čak i beživotnim totemima. Sasvim je moguće da ćemo doći do tačke kada ćemo se prema veštački inteligentnim mašinama odnositi kao toliko nadmoćnima u odnosu na nas da ćemo im prirodno pripisivati kreativnost. Ako se to dogodi, to neće biti zato što su nas mašine nadmašile. Biće to zato što ćemo sami sebe umanjiti, sebe surovo kritikovati i ocrniti.

Ljudsko kreativno dostignuće, zbog načina na koji je usađeno u društveno tkivo, neće podleći napretku veštačke inteligencije.

Ovde, takođe, prvenstveno govorim o napretku mašina kakav je nedavno viđen, sa trenutno aktuelnom paradigmom dubokog učenja kao i njenovih računarskih „naslednika“. Druge paradigme, modeli i primeri su u prošlosti upravljali istraživanjima veštačke inteligencije. Oni već nisu uspeli da ispune svoje obećanje. Još neke druge paradigme mogu se uspostaviti u budućnosti, ali ako pretpostavimo da će neka zamišljena buduća umetnička inteligencija – čije karakteristike ne možemo smisleno opisati – postići čudesne stvari, onda je to stvaranje mita, a ne obrazloženi argument o mogućnostima tehnologije.

Kreativno dostignuće različito deluje u različitim domenima. Ovde ne mogu da ponudim potpunu taksonomiju različitih vrsta kreativnosti, pa ću, kako bih naglasio, skicirati argument koji uključuje tri sasvim različita primera: muziku, igre i matematiku.

Muzika za moje uši

Nao Tokui & AI: Imaginary Landscape (2018): Tokui koristi algoritam mašinskog učenja za stvaranje panoramskih slika pronađenih u Google Street View, koje potom dopunjava „zvučnim pejzažima“ kreiranim u veštačkim neuronskim mrežama

Možemo li zamisliti mašinu takvih nadljudski kreativnih sposobnosti da dovodi do promena u onome što shvatamo kao muziku, kao što je to činio Šenberg?

To je ono za šta tvrdim da mašina ne može doseći i postići. Da vidimo zašto.

Kompjuterski sistemi za muzičku kompoziciju postoje već duže vreme. Kurcvajl je 1965. godine, sa 17 godina, koristio preteču sistema za prepoznavanje obrazaca koji danas karakterišu algoritme dubokog učenja, programirajući računar za komponovanje prepoznatljive muzike. Danas se koriste varijante ove tehnike. Algoritmi dubokog učenja mogli su, na primer, da prihvate gomilu Bahovih korala i komponuju muziku toliko karakterističnu za Bahov stil da čak i stručnjake zavarava do stepena kada misle da se radi o nekoj od Bahovih originalnih kompozicija. Ovo je mimikrija. To je ono što umetnik radi kao šegrt na praksi: kopira i usavršava stil drugih umesto da radi autentičnim, svojim originalnim glasom. Nije vrsta muzičke kreativnosti koju povezujemo sa Bahom, niti ima veze sa Šenbergovom radikalnom inovacijom.

Pa, šta u tom slučaju kažemo? Da li može postojati mašina koja, poput Šenberga, izmišlja sasvim novi način muziciranja? Naravno, možemo zamisliti, pa čak i napraviti takvu mašinu. S obzirom na algoritam koji modifikuje sopstvena pravila kompozicije, mogli bismo lako proizvesti mašinu koja čini muziku toliko različitom od one koju danas smatramo dobrom muzikom, kao što je to tada činio Šenberg.

Ali, od ove tačke stvari postaju nešto komplikovanije.

Šenberga smatramo kreativcem i inovatorom ne samo zato što je uspeo da stvori novi način komponovanja muzike, već zato što su ljudi u njemu mogli da vide viziju kakav bi svet trebalo da bude. Šenbergova vizija podrazumevala je „rezervni“, čisti, efikasni minimalizam modernosti. Njegova inovacija nije bila samo pronalaženje novog algoritma za komponovanje muzike; trebalo je pronaći način razmišljanja o tome šta je muzika koja joj omogućava da komunicira, sa zahtevima savremenosti.

Neki bi mogli da tvrde da sam lestvicu podigao previsoko. Da li to tvrdim, pitaće oni, da je mašini potreban neki mistični, nemerljivi osećaj onoga što je društveno neophodno da bi se računalo kao kreativno? Nisam – iz dva razloga.

Prvo, setite se da je predlaganjem nove, matematičke tehnike za muzičku kompoziciju, Šenberg promenio naše razumevanje muzike. Samo kreativnost ove vrste koja prkosi tradiciji zahteva neku vrstu društvene osetljivosti. Da slušaoci nisu njegovu tehniku shvatili kao ostvarivanje anti-tradicionalizma u srcu radikalne modernosti rođene u Beču s početka 20. veka, možda je ne bismo „čuli“ kao nešto estetski vredno. Poenta je ovde da radikalna kreativnost nije „ubrzana“ verzija svakodnevne kreativnosti. Šenbergovo postignuće nije brža ili bolja verzija one vrste kreativnosti koju je pokazao Oscar Strauss, ili neki drugi prosečni kompozitor: ona je suštinski različita po prirodi.

Drugo, moj argument nije da reakcija kreativca na društvenu potrebu mora biti svesna dela koje bi zadovoljilo genijalne standarde. Umesto toga, tvrdim da na taj način moramo biti u stanju da protumačimo delo. Bila bi greška tumačiti sastav mašine kao deo takve vizije sveta. Argument za ovo je jednostavan.

Tvrdnje poput Kurcvajlove – da mašine mogu dostići inteligenciju na ljudskom nivou – pretpostavljaju da je imati ljudski um samo ljudski mozak koji sledi neki skup računarskih algoritama – pogled je koji se naziva „kompjuterizam“ (uma). Ali, iako algoritmi mogu imati moralne implikacije, oni sami nisu moralni agensi, provodnici i posrednici. Majmuna iza pisaće mašine koji slučajno otkuca „Otelo“ ne možemo uvrstiti u veličanstvenog kreativnog dramskog pisca. A ukoliko je u proizvodu veličina, to je samo „nezgoda“. Proizvod mašine možemo videti kao sjajan, ali ako znamo da je on samo ishod nekog proizvoljnog čina ili algoritamskog formalizma, ne možemo ga prihvatiti kao izraz vizije za dobrobit čoveka.

Iz tog razloga, čini mi se da se ništa osim drugog čoveka ne može pravilno razumeti kao istinski kreativni umetnik. Možda će AI jednog dana ići dalje od svog računarskog formalizma, ali to bi zahtevalo skok koji je trenutno nezamisliv. Ne bismo tražili samo nove algoritme ili postupke koji simuliraju ljudsku aktivnost; tražili bismo nove stvari; građu, činjenice, ideje, informacije, koji su osnova čovekovog bića.

Jedan duplikat čovekovog  molekula bi na odgovarajući način mogao biti čovek. Mi već, međutim, imamo način da proizvedemo takvo biće: za to nam je potrebno oko devet meseci. Trenutno, mašina može da uradi samo nešto daleko manje zanimljivo od onoga što je čovek sposoban da postigne. Na primer, može da stvori muziku u Bahovom stilu – možda čak i muziku za koju neki stručnjaci misle da je bolja od Bahove. Ipak, to je samo zato što se njegova muzika može ocenjivati prema već postojećem standardu. Ono što mašina ne može je da donese promene u našim standardima za ocenjivanje kvaliteta muzike ili razumevanja šta muzika jeste ili šta ona nije.

Ovo ne znači da se negira da kreativni umetnici koriste sva sredstva kojima raspolažu i da ta sredstva (danas su sredstva zamenjena rečju „alati“) oblikuju vrstu umetnosti koju stvaraju. Truba je pomogla Dejvisu i Kolmenu da ostvare svoju kreativnost. Ali truba, sama po sebi, nije kreativna. Algoritmi veštačke inteligencije više liče na muzičke instrumente nego na ljude. Taryn Southern, bivša takmičarka iz ’Američkog idola’ je nedavno objavila album na kojem su udaraljke, melodije i akordi generisani algoritamski, mada je ona pisala tekstove i više puta doterivala algoritam instrumentacije, sve dok ovaj nije doneo željene rezultate. Početkom devedesetih, Dejvi Bouvi je učinio obrnuto: napisao je muziku i uz to koristio Mac aplikaciju pod nazivom Verbalizer da bi “pseudo slučajno“ rekombinovao rečenice u tekstovima pesama. Baš kao i prethodni alati (sredstva) muzičke industrije – od uređaja za snimanje i sintisajzera, do semplera i loopera – novi AI alati rade stimulišući i kanališući kreativne sposobnosti umetnika (i ujedno odražavajući ograničenja tih sposobnosti).

Igre bez granica

Mnogo je napisano o dostignućima sistema dubokog učenja – sistema koji su danas najbolji ’Go’ igrači na svetu. Računarski  program ’AlphaGo’ i njegove varijante su neka vrsta potvrde da je stvoren potpuno novi način igranja ove stare igre. Naučili su stručnjake da brojni potezi pri otvaranju – za koje se dugo mislilo da su nepromišljeni – mogu dovesti do pobede. Program se igra u stilu koji stručnjaci opisuju kao čudan i (ljudskom načinu shvatanja) stran. „Programi za igranje igara su ono kako zamišljam igre iz daleke budućnosti“, izjavio je Shi Yue, vrhunski igrač, govoreći o svom doživljaju programa AlphaGo. Čini se da je algoritam zaista kreativan.

U nekom značajnijem smislu i aspektu on to i jeste. Igranje igara se, međutim, razlikuje od komponovanja muzike ili pisanja romana: u igrama postoji objektivno merilo uspeha. Znamo da imamo šta da naučimo od AlphaGo-a jer vidimo da pobeđuje.

Ali to je takođe ono zbog čega Go i obitava u „domenu igračaka“ (toy domain), jednim uprošćenim slučajem, koji nam na ograničeni i oskudni način govori o raznim stvarima ovoga sveta.

En Ridler & AI: „Pad kuće Ašer“ (2017)

Sloka gore: dvanaestominutna animacija zasnovana na nemom filmu Votsona i Vebera iz 1928. godine: Ridlerova je stvorila fotografije koristeći tri odvojene neuronske mreže: jednu obučenu na njenim crtežima, drugu na crtežima napravljenim od rezultata prve mreže, i treću treniranu na crtežima napravljenim od rezultata druge.

Najosnovnija vrsta ljudske kreativnosti menja naše razumevanje sebe, jer menja shvatanje onoga što smatramo dobrim. Tome nasuprot, u vezi igre Go, priroda dobrote jednostavno nije na radaru mašinskih programa: Strategija igre je dobra onda i samo ako mašina pobedi. A ljudski život, opšte uzev, nema ovu osobinu: ne postoji objektivno merilo uspeha u najvišim oblastima postignuća. Svakako ne u umetnosti, književnosti, muzici, filozofiji ili politici. A takođe, u tom pogledu, ni u razvoju novih tehnologija.

U raznim domenima igračaka, mašine će možda moći da nas nauče nešto, nečemu, o određenoj, vrlo ograničenoj, formi kreativnosti. Ipak, pravila ovog domena su unapred formirana; sistem može uspeti samo zato što nauči da igra dobro u okviru ovih ograničenja. Ljudska kultura i ljudsko postojanje su daleko zanimljiviji od ovoga. Postoje norme kako se ljudska bića ponašaju, naravno. Ali kreativnost u pravom smislu je sposobnost promene tih normi u nekom važnom ljudskom domenu. Uspeh u domenima igračaka nije pokazatelj da je kreativnost ove temeljnije, fundamentalnije vrste dostižna.

Kao nokaut

Skeptik bi mogao tvrditi da argument deluje samo zato što ja suprotstavljam igre umetničkom geniju. Postoje i druge paradigme kreativnosti u naučnom i matematičkom području. U ovim carstvima, pitanje nije uvezano sa vizijom sveta. Radi se o tome kako stvari, zapravo, stoje.

Da li bi mašina jednog dana mogla izneti matematičke dokaze toliko daleko ispred nas, toliko napredne da jednostavno moramo odstupiti i prikloniti se njenom kreativnom geniju?

Ne.

Računari su već pomogli u značajnim matematičkim dostignućima. Ali njihovi doprinosi nisu bili naročito kreativni. Uzmimo prvu veliku teoremu dokazanu pomoću računara: teoremu o četiri boje, koja kaže da bilo koja ravna mapa može biti obojena sa najviše četiri boje na takav način da se nijedna susedna „država“ ne dodiruje sa nekom koja je iste boje (ovo se, takođe, odnosi i na zemlje na sferičnoj površini zemaljske kugle, a ne samo na dvodimenzionalnoj predstavi).

Pre skoro pola veka, 1976. godine, Keneth Apel i Volfgang Haken s Univerziteta u Ilinoisu objavili su kompjuterom potpomognuti dokaz ove teoreme. Računar je izvršio milijarde proračuna, proveravajući hiljade različitih vrsta mapa – toliko da je ljudima bilo (i ostalo) logistički neizvodljivo da provere da li je svaka mogućnost u skladu sa “pogledom” i “perspektivom” računara. Od tada, kompjuteri rutinski pomažu u širokom spektru novih dokaza koje čovek iznosi u obliku premisa i teorija.

AI & Tom Vajt: Električni ventilator (2018). Umetnik je koristio ’perceptivne mašine’, algoritme koji destiluju podatke prikupljene na hiljadama fotografija uobičajenih predmeta, sa ciljem njihove sinteze u apstraktne oblike. Dobijene rezultate zatim testira i dorađuje, sve dok ih sistem ne prepozna.

Međutim, superračunar ne radi ništa kreativno dok proverava ogroman broj slučajeva. Umesto toga, radi nešto dosadno u nepojamno mnogo navrata. Ovo se čini gotovo suprotnim od kreativnosti. Štaviše, toliko je daleko od vrste razumevanja za koje obično mislimo da bi, kao dokaz, recimo, poput matematičkog, trebalo da ponudi: jer, računar u tolikoj meri dosadno rutinski „algoritmuje“ da neki stručnjaci ove „mašinske strategije“ proistekle iz računarskih operacija uopšte ne smatraju (validnim) matematičkim dokazima. Filozof matematike i nauke Thomas Tymoczko je tvrdio da, ukoliko ne možemo čak ni da verifikujemo da li je dokaz čovekove postavke tačan i utemeljen, onda sve što zaista činimo jeste ukazivanje poverenja računsko-računarskim procesima, koji su skloni greškama.

Iako pretpostavimo da treba da verujemo takvim (iz algoritma proisteklim) rezultatima, međutim, dokazi dobijeni uz pomoć računara su, po analogiji, nešto poput komponovanja muzike uz pomoć računara. Ako nam daju vredan „proizvod“, odnosno, „konačni ishod“ (tzv. umetničko delo), to je prevashodno zbog doprinosa čoveka. Ipak, neki stručnjaci tvrde da će veštačka inteligencija moći da postigne i više od ovoga. Pretpostavimo, onda, da posedujemo krajnju, ultimativnu opciju: samostalnu mašinu koja sve nove teoreme dokazuje sama.

Da li bi jednog dana, kako tvrde Kurcvajl i Bostrom, neka ovakva mašina mogla u ogromnoj meri nadmašivati čovekovu matematičku kreativnost,? Pretpostavimo, na primer, da AI donosi rešenje nekog izuzetno važnog i teškog otvorenog problema u matematici.

Sposobnost istinske kreativnosti, one vrste kreativnosti koja ažurira, nadograđuje i usavršava naše (po prirodi ljudske) razumevanje prirode bića, u osnovi je onoga što bi ljudskost i trebalo biti.

Postoje dve mogućnosti. Prva je da je dokaz izuzetno pametan i kada stručnjaci u toj oblasti prođu kroz njega, otkriju da je tačan. U ovom slučaju, AI koja je otkrila dokaz biće nagrađena aplauzom; Čak se i sama mašina može smatrati kreativnim matematičarem. Ali, takva mašina ne bi bila dokaz singularnosti; ne bi nas toliko nadmašila u kreativnosti da, navodno, čak ne bismo mogli ni da razumemo šta je to što radi. Čak i da poseduje takvu vrstu kreativnosti na ljudskom nivou, to je ne bi neizbežno uvelo u carstvo onkog nadljudskog.

Neki matematičari su poput muzičkih virtuoza: Odlikuje ih savršeno vladanje nečim unutar već postojećeg idioma. Ali geniji kao što su Srinivāsa Aiyangār Rāmānujan, Emmy Noether ili Alexander Grothendieck su verovatno preoblikovali matematiku baš kao što je Schoenberg preoblikovao muziku. Njihova dostignuća nisu bila oličena samo u dokazivanju dugogodišnjih hipoteza, već u novim i neočekivanim oblicima rezonovanja, koji su delovali ne samo snagom njihove logike već i sposobnošću da druge matematičare argumentovano ubede u značaj njihovih inovacija. Zamišljeni AI koji donosi „pametni dokaz problema“ koji je dugo zbunjivao matematičare srodan je računarskom programu AlphaGo i njegovim varijantama: impresivan, ali nimalo nalik Šenbergu.

To nas dovodi do druge mogućnosti. Pretpostavimo da je najbolji i najsjajniji algoritam za duboko učenje labav, pa nakon izvesnog vremena kaže: „Našao sam dokaz fundamentalno nove teoreme, ali je isuviše komplikovan da bi ga razumeli i vaši najbolji matematičari.“

Ovo, zapravo, nije moguće. Dokaz koji ne mogu da razumeju ni najbolji matematičari se, zapravo, ne računa kao dokaz. Dokazivanje nečega podrazumeva da to dokazujete nekome. Kao što muzičar(ka) mora nagovoriti svoju publiku da prihvati njegov/njen estetski koncept dobre muzike, tako i matematičar mora nagovoriti druge matematičare da postoje dobri razlozi da poveruju u takvo, inovativno-kreativno viđenje istine. Da bi se neki matematički podatak smatrao valjanim dokazom, neka tvrdnja mora biti razumljiva i podržana od strane nekog nezavisnog skupa stručnjaka koji su u dobroj poziciji da je razumeju. Ako stručnjaci – koji bi trebalo da su sposobni da razumeju dokaz – to nisu u stanju, onda naučna zajednica odbija da ovaj novi način prihvati kao dokaz.

Iz tog razloga, matematika više liči na muziku nego što bi se moglo i pomisliti. Mašina nas ne bi mogla uveliko nadmašivati u kreativnosti, jer bi njeno postignuće ili bilo razumljivo – jer nas, u tom slučaju, ne bi ubedljivo nadmašilo – ili pak ne bi bilo razumljivo – jer u tom slučaju ne bismo mogli da na njen “opus” gledamo kao ostvarenje bilo kakvog kreativnog napretka.

Oko posmatrača

Inženjerstvo i primenjena nauka su, na neki način, negde između ovih primera. Postoji nešto poput objektivnog, spoljnog merila uspeha. Ne možete „pobediti“ u izgradnji mostova ili otkrivanju novih lekova onako kako možete u šahu, ali se može videti da li most pada ili je virus eliminisan. Ovi objektivni kriterijumi stupaju na snagu tek kad je domen prilično dobro preciziran: dolazi do jakih, laganih materijala, recimo, ili lekova koji uspešno suzbijaju određene bolesti. AI bi mogao pomoći u otkrivanju lekova tako što bi, u stvari, uradio isto što i AI koji je sastavio ono što je zvučalo kao dobro izvedena Bahova kantata, ili bi smislio briljantnu strategiju za Go. Poput mikroskopa, teleskopa ili kalkulatora, takav AI se pravilno shvata kao sredstvo koje omogućava čovekova otkrića – a ne kao autonomni kreativni agent „mašinskog porekla“.

Ovde vredi razmisliti o specijalnoj teoriji relativnosti. Alberta Ajnštajna pamte kao „otkrivača“ fizičkog relativiteta – ali ne zato što je prvi smislio jednačine koje bolje opisuju strukturu prostora i vremena. Džordž Ficdžerald, Hendrik Lorenc i Anri Poenkare, između ostalih, zapisali su te jednačine pre Ajnštajna. Hvaljen je i ustoličen kao otkrivač teorije jer je originalno, izvanredno i suštinski istinito razumeo šta te jednačine znače, a i bio je u stanju da to razumevanje prenese drugima.

Da bi se mašina mogla baviti fizikom koja je u bilo kom smislu uporediva s Ajnštajnovom kreativnošću, ona mora da je u stanju da druge fizičare ubedi u vrednost svojih ideja – bar toliko dobro koliko je i on sam to učinio. Što će reći, morali bismo biti u mogućnosti da prihvatimo njene „predloge“, sa ciljem da nam prenesu valjanost njihovog sopstvenog izvođenja. Ako bi takva mašina ikada i nastala, kao u alegorijskoj priči o Pinokiju, morali bismo da se prema njoj odnosimo kao prema čoveku. To znači, između ostalog, da bismo „tome“, toj mašini, morali da pripišemo ne samo inteligenciju već i ono dostojanstvo i moralnu vrednost koje odgovaraju ljudskim bićima. Čini mi se da smo daleko od ovog scenarija i nema razloga da mislimo da će nas trenutna računarska paradigma veštačke inteligencije – u svom obliku dubokog učenja ili bilo kojem drugom – ikada približiti njemu.

Kreativnost je jedna od glavnih karakteristika ljudskih bića. Sposobnost istinske kreativnosti, ona vrsta kreativnosti koja konstantno poboljšava i nadograđuje naše razumevanje prirode bića, koja menja način na koji shvatamo šta je to biti lep, ili dobar, ili istinit – ta je sposobnost osnova onoga što čovek treba biti. Ova vrsta kreativnosti, međutim, zavisi od našeg vrednosnog suda i brižnost za nju kao takvu (mašina ne poseduje takvu potrebu-instinkt). Kao što je pisac Brian Christian na jednom mestu istakao, ljudska bića se sve manje ponašaju poput bića koja bi trebalo da kreativnost vrednuju kao jednu od svojih najuzvišenijih mogućnosti, već se, tome nasuprot, pre ponašaju kao same mašine.

Koliko ljudi danas ima poslove koji od njih zahtevaju praćenje unapred određenih skripti za njihove razgovore? Koliko je u ovoj ispraznoj šaradi malo od onoga što nam je poznato kao stvaran, autentičan, kreativan i otvoren ljudski razgovor? Koliko je to, ta „konverzacija“, taj „razgovor“ umesto toga, zapravo, samo jedna vrsta poštovanja pravila onoga što je mašina u stanju da uradi? A koliko je nas – ukoliko dopuštamo da budemo uvučeni u ovakva „izvođenja scenarija“ – takođe ispražnjeno od smisla, suštine ljudskosti? Koliko vremena svakog dana dozvoljavamo sebi da budemo ispunjeni efikasnim mašinskim aktivnostima – popunjavanjem kompjuterizovanih obrazaca i upitnika, odgovaranjem na najraznovrsnije „mamce“, koji rade na naše najprizemnije impulse nalik životinjskim – „igrajući“ s njima, recimo, igrice – te unapred smišljene scenarije – igrajući igrice osmiljene radi „optimizacije naše zavisnosti“ reagovanja na sve ovo (mašinske, algoritamske mamce)?

U opasnosti smo od ove zabune i u nekim od najdubljih domena ljudskih dostignuća. Ukoliko sebi dozvolimo da kažemo da su mašinski dokazi koje ne možemo razumeti istinski „dokazi“, na primer, ustupajući društveni autoritet mašinama – tretiraćemo dostignuća matematike kao da uopšte ne zahtevaju ljudsko razumevanje. Potući ćemo jednu od naših najviših formi kreativnosti i inteligencije, i svesti ih na komadić binarnih informacija: da ili ne. Jedinica ili nula.

AI & M.C. Escher: Ether A2 

Čak i da posedujemo te informacije, one bi nam bile od male vrednosti bez izvesnog razumevanja razloga koji su u osnovi. Ne smemo izgubiti iz vida suštinski karakter rezonovanja, koji je u osnovi onoga što je matematika po sebi.

Tako je i sa umetnošću, muzikom, filozofijom i književnošću. Ukoliko sebi dopustimo da se okliznemo, pa počnemo da mašinsku „kreativnost“ tretiramo kao zamenu za svoju, tada će nam mašine zaista izgledati neshvatljivo superiorne. To će se, međutim, dogoditi zato što ćemo izgubiti nit vodilju o osnovnoj ulozi koju kreativnost igra u postojanju čoveka i ljudskosti.

Sean Dorrance Kelly predaje filozofiju na Harvardu i koautor je bestselera „Sjaj svih stvari“ (All Things Shining).

 

MIT Review

 

Iz radijusa:

AIArtists.org, The world’s largest community of artists exploring the impact of AI on art & society

Artificial Intelligence and the Arts: Toward Computational Creativity

The Past, Present, and Future of AI Art

Next Level Art and the Future of Work and Leisure

Five artists who show art’s important relationship to AI

The Rise of AI Art—and What It Means for Human Creativity

Art made by AI is selling for thousands – is it any good?

If an AI creates a work of art, who owns the rights to it?

We’ve been warned about AI and music for over 50 years, but no one’s prepared

AI and music: will we be slaves to the algorithm?

The Relationship Between Art and AI

AI Is Blurring the Definition of Artist

How AI-generated music is changing the way hits are made

AI composers create music for video games

Music and Artificial Intelligence

12 songs created by AI

AI’s Growing Role in Musical Composition

A Retrospective of AI + Music, How AI has shaped music creation and the industry

Future Prooff: AI and music

Will Artificial Intelligence Replace Human Musicians?The machines are coming, but they seem to be coming to help us create better music

Katalonija i pitanje otcepljenja

Ekonomista Vladimir Gligorov je za portal Peščanik.net izneo svoj pogled na Kataloniju i njeno otcepljenje od Španije, upoređujući sličnosti i razlike ovog slučaja sa raspadom Jugoslavije.

– Otcepljenje unutar EU podrazumeva fiskalnu devoluciju, to jest prenos fiskalnih nadležnosti naniže

Španija je već sada fiskalno visoko decentralizovana, pa otcepljenje Katalonije u tom smislu ne bi imalo ozbiljnije posledice

– S obzirom na snažno protivljenje centralnih vlasti, otcepljenje Katalonije, ukoliko se dogodi, bilo bi jednostrano, a ne sporazumno

– Ako ishod referenduma bude pozitivan i ako vlada Katalonije odluči da odluku sprovede, to će verovatno dovesti do ispita ili krize legitimiteta, tačnije do sukoba centralne i secesionističke vlasti

– Secesija je dugotrajan proces i ustavna rešenja su uvek moguća, osim ako zahtev za secesijom ne dovede do represije i sukoba sa dugoročnim posledicama

Katalonija će na referendumu odlučiti da li da se odvoji od Španije. Nameće se poređenje s pokušajem Kvebeka da napusti Kanadu. Međutim, za razliku od Španije, gde je vrhovni sud referendum o otcepljenju proglasio neustavnim, u Kanadi je vrhovni sud objavio da je savezna vlada dužna da poštuje odlučno izraženu demokratsku odluku Kvebeka i uđe u pregovore o odvajanju, iako Kvebek ni po kanadskom ni po međunarodnom pravu nema pravo na otcepljenje. Slučaj Katalonije razlikuje se i od slučaja Škotske koja ima ustavno pravo da se otcepi ukoliko tako odluči. Katalonski scenario nije blizak ni odluci Britanije da napusti EU, jer Ugovor o EU dopušta takvu odluku. Uz volju i pravo na otcepljenje, moraju biti zadovoljena još tri najšire prihvaćena kriterijuma: odluka ne sme biti doneta preko noći; ona mora biti rezultat čina samoopredeljenja, bez intervencija spolja; u državi koja se osamostaljuje ne sme doći do sužavanja postojećih građanskih prava ni u jednom segmentu populacije.

Šta se dešava ako se – kao što je slučaj s Katalonijom – savezna vlada protivi otcepljenju, a najviši sud odluči da je secesija u suprotnosti sa zakonom, to jest da je ustav ne dopušta? U tom slučaju secesija se mora sprovoditi suprotno volji savezne vlade i suprotno zakonu. Na koji način se to može izvesti?

Proteklih decenija dogodilo se nekoliko postupaka otcepljenja. Neki od njih su protekli pod nadzorom Saveta bezbednosti, a neki pod nadzorom Međunarodnog suda pravde ili međunarodnih savetodavnih komisija (poput Badinterove komisije). Neka otcepljenja su obavljena uz posredovanje Ujedinjenih nacija ili Evropske unije (uloga Martija Ahtisarija na Kosovu i Miroslava Lajčaka u Crnoj Gori najznačajniji su primeri te dve vrste posredništva), dok su druga – u onim slučajevima kad se nije radilo o aneksiji (kao što se dogodilo na Krimu) – bila unilateralna. U slučaju Katalonije je malo verovatno međunarodno učešće, tako da će Katalonci i njihova vlada, ako to odluče, morati da sprovedu jednostrano otcepljenje. Na koji način bi to mogli da učine?

Pogledajmo primer otcepljenja Slovenije, u to vreme republike u okviru Jugoslavije. Jugoslovenski vrhovni sud bio je protiv otcepljenja i jugoslovenska vlada poslala je vojsku da spreči slovenačke vlasti u preuzimanju kontrole nad državnim granicama. Slovenačke vlasti prestale su da plaćaju poreze, zapravo doprinose saveznim vlastima. Badinterova komisija, koja je osnovana da bi savetovala Evropsku ekonomsku zajednicu (EEZ), dala je mišljenje da je otcepljenje zasnovano na referendumu opravdano ukoliko se država, u ovom slučaju savezna država Jugoslavija, nalazi u poodmaklom stadijumu raspadanja. Referendum je bio prvi korak ka izgradnji slovenačke države i osnova za njeno priznanje od strane EEZ, a kasnije EU.

Države su stvarni entiteti, a ne pravne tvorevine – to je prihvaćeno tumačenje međunarodnog prava koje je Međunarodni sud pravde potvrdio u slučaju Kosova. Drugim rečima – unutrašnji suverenitet prethodi spoljašnjem, a ne obrnuto.

I Crna Gora se odlučila za jednostrano preuzimanje fiskalnih nadležnosti, ali obrnutim redosledom (Jugoslavija je tada već bila federacija samo dve države – Srbije i Crne Gore). U prvom koraku Crna Gora je stekla finansijsku nezavisnost, to jest nije više slala doprinose u savezni budžet niti je iz njega primala sredstva; umesto toga je živela od sopstvenog novca. Olakšavajuća okolnost je bilo to što se savezna vlada nije protivila: primanja Crne Gore iz saveznog budžeta bila su veća od njenih doprinosa. U sledećem koraku Crna Gora je kao valutu usvojila nemačku marku, uz objašnjenje da je jugoslovenski (srpski) dinar inflatoran i da je praktično fiskalni instrument savezne vlasti. Tek tada – uz posredovanje i nadzor EU – Crna Gora je održala referendum i postala samostalna država.

U više slučajeva – ne samo u Jugoslaviji – otcepljenja su bila praćena teritorijalnim sukobima. Otcepljenje Makedonije je bilo izuzetak, jer niko nije osporavao njene teritorije. Makedonija je napravila dogovor sa krnjom Jugoslavijom (nakon secesije Slovenije i Hrvatske) o izmirenju nerešenih imovinskih sporova, prvenstveno u vezi sa imovinom Jugoslovenske narodne armije, nakon čega je usledio pun prenos fiskalne i monetarne vlasti. U drugim slučajevima – u Jugoslaviji i drugde – dolazilo je do sukoba oko teritorija. Zbog vojnih i civilnih sukoba i nasilja, međunarodna zajednica je u većini takvih slučajeva bila primorana da se umeša. U većini takvih slučajeva, kao u slučaju Krima i istočne Ukrajine, dolazi do spoljnog mešanja, naročito vojnog, što često za rezultat ima legitimisanje secesije koju takva intervencija treba da spreči i delegitimisanja spoljne aneksije.

Slučaj Španije uporediv je sa slučajem Jugoslavije zbog asimetričnog federalizma dve države. Za razliku od binarnih federacija kao što su bile Čehoslovačka ili državna unija Srbije i Crne Gore, otcepljenje Katalonije dovodi u pitanje ustavni poredak i stabilnost preostalog dela federalne Španije. Jugoslavija nije bila u stanju da se nosi sa otcepljenjem Slovenije, a da se pritom ne raspadne. To brine i centralnu špansku vlast – da će otcepljenje Katalonije voditi drugim otcepljenjima i potencijalnom raspadu Španije.

Posebno je zanimljiv slučaj otcepljenja Kosova od Srbije gde je 1991. godine sproveden referendum o otcepljenju koji je vrhovni sud Srbije proglasio nezakonitim. Nakon što je ubedljiva većina građana glasala za otcepljenje, kosovske vlasti su se fiskalno odvojile od Srbije i upravljale Kosovom kao paralelnom državom, iz senke. Srbija je na to odgovorila proglašavanjem vanrednog stanja u pokrajini. Naposletku je došlo do nasilne pobune i međunarodne vojne intervencije. Savet bezbednosti je dobio zadatak da nadzire proces izgradnje države, kontroliše granice i nadgleda pravni sistem. Kosovo je proglasilo nezavisnost 2008. godine, a Međunarodni sud pravde je 2010. presudio da u tom procesu nije bilo kršenja zakona.

Finansijska nezavisnost i kontrola nad teritorijom ključni su u svim slučajevima otcepljenja, dok međunarodna zajednica zahteva ispunjenje prethodno navedenih dodatnih uslova. U slučaju Katalonije, kao i u slučajevima Kvebeka i Škotske, granice su jasne i neupitne, a pitanje kontrole nad teritorijom je rešeno. Preostaje pitanje ko će tom teritorijom upravljati.

To je pravno pitanje, i pre svega pitanje ko ubira poreze i pruža javne usluge. Nakon otcepljenja u okviru EU pravni standardi ne bi smeli da se pogoršaju. Spoljna intervencija je malo verovatna i ne igra važnu ulogu u slučaju Katalonije. Dakle, ključno je pitanje fiskalnog otcepljenja, posebno s obzirom na članstvo u evropskoj monetarnoj uniji.

Zapravo, unutar EU secesija se svodi na potpuno preuzimanje fiskalne vlasti na lokalnom nivou, sa izuzetkom fiskalnih obaveza prema Evropskoj uniji. Dobar primer za to je raspad Čehoslovačke koji se dogodio dok je država bila van Evropske unije, ali se očekivalo da će se u budućnosti pridružiti Uniji. Sve što je preostalo da se uradi bilo je da dve države naslednice stvore zasebne fiskalne sisteme.

Kontrola granica sa zemljama van EU je značajna; ona predstavlja tačku u kojoj se može otvoriti pitanje o kontroli nad teritorijom. Ako Katalonija izlaskom iz Španije izlazi i iz EU, ona onda mora uspostaviti kontrolu nad svim svojim granicama, uključujući i onu prema Španiji. To nije moguće bez saglasnosti Španije i EU, ukoliko se žele izbeći sukobi oko granica, to jest oko kontrole nad teritorijom. Šta preostaje Kataloniji ako taj pristanak izostane?

Katalonija se može odlučiti na preuzimanje fiskalne vlasti. To je uobičajena strategija otcepljenja – uspostavljanje unutrašnjeg suvereniteta pre osvajanja spoljašnjeg.

Španija je već fiskalno decentralizovana, i to na asimetričan način. Provincije, poput Katalonije, ubiru većinu poreza i šalju ih centralnim vlastima. Katalonski doprinos španskom budžetu veći je od primanja iz budžeta. Centralna vlast ubira i socijalne i zdravstvene doprinose, kao i doprinose za fond za nezaposlene. U slučaju Jugoslavije, socijalni fondovi su bili lokalni (kao i u EU). Za razliku od Španije, u Jugoslaviji nisu postojale službe i korporacije pod kontrolom centralnih vlasti, osim u slučaju proizvodnje oružja i municije. Federalnu vlast činile su vojska, centralna banka i zaposleni u federalnoj vladi (međusobne obaveze u pogledu zajedničkog duga prema inostranstvu bile su dogovorene nekoliko godina pre raspada države).

Katalonska zakonodavna tela morala bi da ustanove fiskalni sistem nove države. Španija bi prestala da prima poreze i doprinose iz Katalonije. To bi najverovatnije dovelo do konfrontacije zato što centralna vlast očigledno namerava da nastavi s pravnim i ostalim merama u pokušaju da opovrgne odluke katalonske vlade. Vrlo je verovatno da će centralna vlast direktno preuzeti neke od fiskalnih i budžetskih nadležnosti, a malo je verovatno da će Katalonija stvarati paralelnu državu, kao što je to učinilo Kosovo nakon što je centralna vlast osujetila zahtev za otcepljenjem.

Razlika između jugoslovenskih država i većine drugih slučajeva otcepljenja je u tome što se savezni budžet Jugoslavije, kao i budžet EU, uglavnom oslanjao na doprinose iz republika, a ne na porez (sa izuzetkom carina). Ni socijalno osiguranje nije bilo centralizovano. Zato su jugoslovenske republike mogle da se otcepe na način koji je sličan britanskom odvajanju od EU. Stvari stoje drugačije s federalnom državom sa centralizovanim sistemom poreza i socijalnog osiguranja. Da bi postala zaista fiskalno nezavisna, država koja želi otcepljenje mora preuzeti fiskalnu vlast i sistem socijalnog osiguranja.

Za razliku od EU, Jugoslavija je imala zajedničku vojsku. Španija takođe ima vojsku, kao i centralnu upravu nad policijom i drugim službama bezbednosti. Centralna vlast ih može iskoristiti da nametne svoju volju provincijama. To može dovesti do krize legitimiteta i ispita legitimnosti ne samo centralne vlasti nego i države koja se otcepljuje. U velikom broju istorijskih slučajeva, upravo je to bio uzrok nasilnih sukoba za kontrolu nad teritorijom otcepljene države.

Ukoliko se ispit legitimiteta – tačnije, utvrđivanje prava na prinudu i prava na upravljanje Katalonijom – ne može izbeći, za centralnu vlast bi bilo povoljnije da proizvede utisak da sledi oštar, dugotrajan i skup pravni i fizički sukob nego da u takav sukob zaista uđe. Efekat odvraćanja proizveden konkretnim ispoljavanjem sile nestaje ako se kosi sa osećajem za pravdu onih koji su podvrgnuti prinudi. Međutim, bez obzira na pretnje sukobom, secesionisti prvo moraju održati referendum da bi uopšte izazvali krizu legitimiteta. Prenos fiskalne vlasti, pogotovo kada je postepen, umanjuje budući rizik za centralnu vlast: kada jednom dođe do pravog ispita legitimiteta, država će se manje oslanjati na upotrebu sile da bi odnela prevagu.

Iako je Španija decentralizovana i predstavlja, slično Kanadi, labavu federaciju, Katalonija bi o otcepljenju prvo morala da pregovara sa španskim centralnim vlastima, da bi izgradila sopstveni budžet i fondove socijalnog osiguranja. Nije lako sprovesti unilateralno preuzimanje fiskalne vlasti ukoliko joj se centralna vlast snažno protivi. Legalitet centralne vlasti teže je osporiti kada njene intervencije nisu nasilne već su administrativne prirode. Da bi se ostatak Španije ubedio da dozvoli Kataloniji da se postepeno otcepi, potrebna je dugoročna i nepokolebljiva posvećenost Katalonije ostvarivanju samostalnosti. Ta posvećenost zavisi od dugoročnih prednosti koje samostalnost ima u odnosu na savez sa Španijom – prednosti koje možda i ne postoje.

Secesije su uglavnom dugotrajni procesi. U slučaju Jugoslavije, može se tvrditi da je kampanja za samostalnost Hrvatske počela osnivanjem Jugoslavije. Čak i kada postoji dugotrajna politička volja za samostalnošću, to ne znači da je otcepljenje neizbežno. U nekim slučajevima, poput već pomenutog Kvebeka, demokratska i ustavna rešenja mogu zaustaviti secesionističke trendove. Federalizacija Španije izvršena posle Frankove diktature otvara mogućnost za takvo rešenje. Članstvo u EU takođe bi trebalo da doprinese stabilnosti država članica, kao što je bio slučaj u velikom broju centralnoevropskih i balkanskih zemalja, s brojnim unutrašnjim etničkim i ostalim podelama. Dakle, u većini slučajeva se može pronaći ustavno rešenje koje će oslabiti podršku ideji otcepljenja. Pravo pitanje je kako pronaći takvo rešenje onda kada je država već stavljena na ispit legitimiteta secesionističkim referendumom.

Tekst na engleskom

Peščanik.net, 06.10.2017.

Srodni link:

Knjiga Vladimira Gligorova „Zašto se zemlje raspadaju – slučaj Jugoslavija“