Mi ljudi stigli smo tu gde jesmo jer smo bili najpametnija stvorenja na Zemlji. U odsustvu kandži, krila ili otrova, inteligencija je postala naša najvažnija evolutivna prednost. I ona nas je dobro služila, jer smo se uspeli da dominiramo na ovoj planeti. Ali sada, institucije širom sveta – uključujući univerzitete, ministarstva odbrane, bezbednosne agencije i velike internet gigante – nastoje da stvore nešto što će nas izbaciti s trona. Oni rade na mašinama koje će biti pametnije od nas i koje će ići ne samo ka veštačkoj inteligenciji već veštačkoj super -inteligenciji. Kao vrsta, mi se utrkujemo da izmislimo stvorenja koja će nas zameniti u našoj evolutivnoj niši. Zašto to činimo?

Neki od najinteligentnijih pripadnika naše vrste sada su zabrinuti upravo zbog toga. Profesor Stiven Hoking, na primer, nedavno je upozorio da bi veštačka inteligencija (AI) mogla biti “realna opasnost u ne tako dalekoj budućnosti”, pridružujući se tako glasovima unutar IT industrije, uključujući Microsoftovog koosnivača Bila Gejtsa, Jana Talina, koosnivača Skajpa, dok preduzetnik Elon Mask (SpaceX, Tesla Motors, SolarCity) predlaže da dobro porazmislimo pre nego što se odlučimo da mašine učinimo pametnijim od nas. Serija fascinantnih novijih knjiga posvećena ovoj temi ukazuje na koji način se u stručnim krugovima gleda na ovaj problem.

Lako možemo biti skloni da poverujemo da bi AI mogao biti sredstvo kao i svako drugo; kao volan ili laptop, pronalazak koji nam može pomoći da dalje ostvarujmo naše interese. Ali sjajan britanski matematičar, Irving Džon Gud (I.J. Good), koji je radio sa Alanom Tjuringom na razbijanju tajnih kodova nacista, a kasnije i na razvoju prvih računara, shvatio je pre 50 godina zašto to neće bilo tako. Jednom kada budemo imali mašinu malo inteligentniju od nas, istakao je on, bilo bi prirodno da preuzmemo intelektualni zadatak dizajniranja još inteligentnije mašine. Zato što je pametnija od nas, ona bi mogla da osmisli još pametniju mašinu, koja bi mogla dizajnirati još pametniju mašinu, i tako dalje. Po Gudovim rečima: “To bi onda bez sumnje bila eksplozija inteligencije koja bi inteligenciju čoveka ostavila daleko iza sebe. Tako bi prva ultrainteligentna mašina mogla biti poslednji izum koji bi čovek ikada trebalo da ostvari. ”

Gudovo proročanstvo je u srcu knjige Naša poslednja inovacija: Veštačka inteligencija i kraj ere čoveka, u kojoj pisac i režiser Džejms Barat (James Barrat) intervjuiše vodeće ličnosti u razvoju super-pametnih mašina i jasno argumentuje zašto treba da budemo zabrinuti. Tačno je da je napredak ka ljudskom nivou AI bio sporiji nego što su mnogi predviđali – neki se šale da je to proročanstvo za koje već pola veka govorimo da će se “dogoditi za 20 godina”. Ali do nekih impresivnih rezultata se u međuvremenu ipak došlo: IBM računar je potukao šahovskog velemajstora Garija Kasparova 1997, osvojivši i nagradu u američkom kvizu “Opasnost!” (Jeopardy!) 2011. U Baratovom istraživanju, više od 40 odsto stručnjaka u ovoj oblasti reklo je da očekuje pronalazak inteligentnih mašina u roku od narednih 15, a velika većina ga očekuje najkasnije do sredine ovog veka.

Sledeći Guda, Barat pokazuje kako bi veštačka inteligencija mogla postati super-inteligencija u roku od nekoliko dana, jer počinje da rešava sopstvene probleme u funkcionisanju, dopisuje i menja softver i crpe iz korpusa znanja koji su sada dostupna na internetu. Kada se ta eksplozija inteligencije desi, moći ćemo da razumemo ili predvidimo ponašanje mašine, onoliko koliko miš može da razume ili predvidi ponašanje čoveka.

Naš jedini vodič za život sa super-mašinama dolazi iz sfere naučne fantastike, bilo da je tu reč o apokaliptičnim filmovima kao što je onaj o Terminatoru ili onaj Daglasa Adamsa, o Paranoidnom Androidu čiji ga impresivni intelekt vodi jedino ka usamljenosti i osećanju nerazumevanja sa okolinom. U svojoj novoj knjizi, Zagledani u sebe: Da li će nas veštačka inteligencija spasti ili uništiti? Džordž Zarkadakis (George Zarkadakis) prepliće sci-fi vizije sa istraživanjima iz filozofije, tehnologije i istorije veštačke super- inteligencije (ASI). Istraživač AI, pre nego što se okrenuo pisanju, Zarkadakis pokazuje kako su ciljevi i ambicije tehnološke industrije vekovima bili oblikovani ” metaforama i sukobljenim narativima straha i ljubavi” – od golema do Fausta i Frankensteina – i kako oni mogu da nas dovedu u zabludu.

Mi imamo urođenu sklonost da “humanizujemo” (učitavamo ljudske sadržaje), tvrdi Zarkadakis, i na taj način mi pokušavamo da damo smisao našoj tehnologiji. Mi zamišljamo humanoidne robote kao što su Marvin ili Terminator Arnolda Švarcenegera; zamišljamo da ispunjavamo drevni san stvaranja stvorenja po našoj sopstvenoj slici. Ali ASI će biti daleko od ljudskog: neće deliti milione godina naše evolucione istorije, niti biti ograničen našim mozgom od krvi i mesa. Ko zna šta će biti njeni ciljevi i vrednosti, ili kako će posmatrati nas ljude – možda kao ništa više do praktičnih kesa ugljenika koje bi mogao da iskoristi za neke svoje ciljeve?

Sama drugost ASI je takođe tema knjige filozofa politike Čarlsa T Rubina (Charles T Rubin) Pomračenje čoveka: Nestanak čoveka i smisao progresa. Rubin istražuje korene naše želje da radikalno menjamo ljudsko stanje kroz tehnologiju. Ovaj nagon je doneo suštinski napredak u medicini, proizvodnji hrane i mnogim drugim oblastima. Ali Rubin ukazuje na uznemirujuću tendenciju među tehnološki orijentisanim idealistima da gledaju ne samo na stanje ljudskosti (i mogućnosti greške, nesavršenosti), već i na samo čovečanstvo kao problem. Takvi utopisti se nadaju da će superiorne mašine preuzeti donošenje odluka iz naših nepouzdanih ruku i tako rešiti sve naše probleme.

Ali da bi smo mogli da gajimo ovakve nade, to bi zahtevalo da ove mašine budu mudre na način koji za nas ima smisla. Kao Barat i Zarkadakis, i Rubin veruje da su veće šanse da za njih, to što mi želimo bude potpuno neshvatljivo. Umesto “naprednijih nas”, naša tehnologija će nas prosto zameniti. Rubin zaključuje da “ukoliko bi takva vrsta superinteligencije sutra zakucala na naša vrata, bilo bi je teško razlikovati od neprijateljske invazije vanzemaljaca”.

Da je ovo holivudski film, kamera bi se sada prebacila na skromni niz kancelarija u uskoj ulici u Oksfordu, gde grupa iskrenih mladih muškaraca i žena, neuobičajeno za filozofe, radi, u trci s vremenom, hita da zaustavi globalnu katastrofu. Tu je Institut za ljudsku budućnost, pionir u istraživanju budućnosti čovečanstva čiji je cilj da brine o perspektivama ljudskog roda i centar najnaprednijih analiza o problemima i mogućnostima ASI. Nik Bostrom (Nick Bostrom) direktor instituta, je napisao do sada najiscrpniju analizu o ovom pitanju: Super inteligencija, knjigu koju je FT u ranijim navratima već predstavio. Ovaj rad dopunjava sjajna kratka knjiga Stjuarta Armstronga, jednog od članova Instituta. Obojica su ozbiljno razmišljala o tome kako bi ASI mogle biti napravljene tako da imaju prijateljski odnos prema ljudima – i zaključili da bi postizanje takvog cilja bilo veoma teško.

Armstrong, u knjizi Pametniji od nas: Uspon veštačke inteligencije, na vanredno jasan način pokazuje koliko bi bilo teško komunicirati sa jednim vanzemaljcem sa mozgom kompjutera. Zamislite da mu tražimo da izleči rak – i on odluči da prosto obriše ljudsku rasu. Prosto, brzo i problem je rešen. Ili mu date zadatak da izvuče vašu majku iz zgrade u plamenu, a on odluči da razori pumpu za gas i katapultira vašu majku u vasionu? Ili ga pitate da poveća BDP, a on odluči da sravni sa zemljom Los Anđeles da bi stvorio velike poslove u građevinarstvu. Naše vrednosti se dobrim delom zasnivaju na zdravom razumu i neizrečenim pretpostavkama, koje bi- što bi vam mogao reći svaki filozof morala – bilo izuzetno teško definisati. Uključivanje tih vrednosti u programerski kod bi tražilo vekove, tvrdi Armstrong, a da bismo izbegli katastrofu, trebalo bi da svaku stvar u tom nizu “uradimo potpuno ispravno”.

Tema svih ovih knjiga je da ASI ne bi trebalo da nas mrze da bi nas uništili. Čak i ako bi njihov cilj bio da ispeku perfektan biskvit, primerci superinteligentnih mašina bi mogli da odluče da zbrišu celo čovečanstvo u slučaju da neko od nas, na primer, odluči da isključi rernu šporeta ranije nego što treba. Mi se možemo nadati da oni to nama, svojim kreatorima ne bi učinili, i da bi prema nama gajili osećanje ljubavi i poštovanja koje ih obavezuje. Ali to bi značilo da na ASI projektujemo onakva osećanja koja se ne mogu uprogramirati u njih jer je reč o ljudskom senzibilitetu. Uostalom, da smo na primer otkrili da su nas stvorile bakterije, da li bi smo bili bolji prema njima? Verovatno ne mnogo.

Možda još više od stvaranja prijateljski nastrojene mašine zabrinjava to što većima ljudi koja se bavi razvojem AI to uopšte i ne pokušava, ili naprotiv, pokušava upravo suprotno. Kako Barat ističe, većinu istraživanja sponzorišu biznisi a fokus istraživanja je na tome da mašina ima veštine da na primer trguje na berzi – više od polovine trgovine akcijama na Vol Stritu se danas obavi zahvaljujući ovakvim mašinama. Ostali glavni izvori finansiranja su bezbednosne agencije. DARPA, istraživački telo američkog ministarstva odbrane je dugo je bilo glavni sponzor AI. Prema Baratu, uz SAD, barem je još 55 zemalja fokusirano na “razvoj robota za bojno polje”. Drugim rečima, ozbiljan novac ide u AI dizajnirane da budu odlučno neprijateljski nastrojeni- AI koji su, u stvari, dizajnirani da ubijaju ljude. Šta bi dakle tu moglo da krene naopako?

Ovo nas vraća na pitanje: o čemu zapravo mislimo (kad preduzimamo ovakve stvari)? Odgovor je da ne postoji koherentan “mi”, već raznolika grupa suprotstavljenih interesa koja nastoji da napravi veliki proboj. Njihovi motivi se razlikuju, od utopijske nade za lečenje raka da prostog sticanja novca; od prirodne radoznalosti do narcisoidne želje za stvaranjem bića po našoj sopstvenoj slici. A iza svega toga je jednostavno težnja za moći. Zašto izmišljamo nešto što bi nas moglo uništiti? Odgovor je isti onaj koji izvlačimo iz svih trka u naoružanju: zato što se nadamo da možemo da ASI koristimo da unište naše neprijatelje pre nego što oni unište nas. Razlika je u tome, što će te mašine, ovoga puta, imati sopstvene umove.

Ali, možda je sve ovo samo fantazija, još jedna bajka u nizu, od kojih se ljudima diže kosa na glavi, od golema do Terminatora. Kao što je jedan istraživač istakao, još nismo uspeli da izmislimo mašinu koja bi mogla da ušeta u našu kuću i skuva čaj. Ali ako bi jedan AI odlučio da preuzme svet on ne bi ušetao kroz vrata kuhinje, ne bi ih čak ni rasturio na način na koji je to uradio Švarcenegerov terminator; On bi to naučio preuzimanjem digitalne infrastrukture od koje mi sve više zavisimo ili bi to učinio na način koji je nama ljudskim bićima nedokučiv. Imajući u vidu šta je na kocki, čak i minimalna šansa da se u realnosti dogodi nešto iz ovih uznemirujućih bajki, daje ovim autorima za pravo da nam sugerišu da se zabrinemo.

Stiven Kejv je autor knjige ‘Besmrtnost: Pokušaj da živimo zauvek i kako to oblikuje našu civilizaciju’ Stephen Cave is author of ‘Immortality: The Quest To Live Forever and How It Drives Civilisation’ (Biteback/Crown)

Stiven Kejv, Fajnenšel Tajms
Fotografija: Nik Hannes / Eievine

Literatura:

Our Final Invention: Artificial Intelligence and the End of the Human Era, James Barrat, St Martin’s Griffin, RRP$16.99, 336 pages
In Our Own Image: Will Artificial Intelligence Save or Destroy Us?, George Zarkadakis, Rider, RRP£12.99, 384 pages
Eclipse of Man: Human Extinction and the Meaning of Progress, Charles T Rubin, Encounter Books, RRP$23.99, 200 pages
Smarter Than Us: The Rise of Machine Intelligence, Stuart Armstrong, Machine Intelligence Research Institute, RRP£2.99/$4.99, 62 pages