Treći zakon: Analogna budućnost računarstva

Arterra/Getty/OneZero

Treći zakon, ne ponavljajmo naslov ali ipak samo evo sada – ne tiče se isključivo analogne budućnosti računarstva, već i “analognog” načina razmišljanja budućih računara. Zašto je i koliko bitno unaprediti i ponovo napraviti superiorni “analogni superračunar” – zarad sprečavanja masovne kontrole kako od  strane”nekih ljudi” tako i od strane “nekih mašina” – uveliko je u vrhu najzanimljivijih globalnih rasprava i diskusija – kako na nivou akademije i stručnjaka, tako i u društvu, među političarima i filozofima, građanima i aktivistima. Tekst se pojavio na portalu Medium u rubrici OZ, Nula/Jedan (OZ One/Zero), posvećenoj graničnim oblastima tehnologije i nauke. U pitanju su odlomci iz zbornika Džona Brokmana, posvećenog veštačkoj inteligenciji. U tekstu su izneti stavovi istoričara nauke Džordža Dajsona, koji se nalaze u njegovoj knjizi Treći Zakon.

Istorija računarstva može se podeliti na Stari i Novi zavet: pre i posle pojave elektronskih digitalnih računara, kao i pre i posle kodova (programa) koji su prodrli posvuda po Zemlji. „Starozavetni proroci“, su „obznanili“ temeljnu logiku i principe budućeg računarstva, uključujući tu pre svega dva filozofa i naučnika, Hobza i Lajbnica (Thomas Hobbes, Gottfried Wilhelm Leibniz). Tu su i „Novozavetni proroci“ u koje se ubrajaju Alan Tjuring, Džon fon Nojman, Klod Šenon i Norbert Viner (Alan Turing, John von Neumann, Claude Shannon, Norbert Wiener): Oni su stvorili same mašine.

Alan Tjuring se pitao šta je potrebno da bi mašine postale inteligentne. Džon fon Nojman pitao se šta je potrebno da bi se mašine samostalno reprodukovale. Klod Šenon pitao se šta je potrebno da bi mašine pouzdano komunicirale, bez obzira na to koliko „šuma“ i smetnji „gacalo“ procesorskim funkcijama. Norbert Viner se pitao koliko će vremena biti potrebno da mašine preuzmu kontrolu.

Vinerova upozorenja o upravljačkim sistemima van čovekove kontrole pojavila su se pre 70 godina (1949.), baš kada je predstavljena i prva generacija elektronskih digitalnih računara koji su permanentno isprogramirani (kraće: sa ugrađenim softverom koji obezbeđuje njihovo funkcionisanje). Ovi sistemi zahtevali su neposredan nadzor programera odnosno ljudsku intervenciju, potkrepljujući dodatno Vinerove bojazni. Pa, šta je problem, sve dok programeri kontrolišu mašine? Od tada je rasprava o rizicima autonomne kontrole ostala povezana sa raspravom o mogućnostima, moćima i ograničenjima digitalno kodiranih mašina. Uprkos njihovim zadivljujućim moćima, malo je toga urađeno na pažljivijem praćenju njihove autonomije. Ovo je opasna pretpostavka: „Šta bi bilo kad bi bilo“ kada bi do ovog trenutka digitalno programirani rad i operacije svih mašina sveta (pod iole nekom „kontrolom“ nas ljudi) odjednom bio zamenjen „nečim drugim“?

U proteklih sto godina, elektronika je prošla dve fundamentalne tranzicije: iz analogne u digitalnu i iz vakuumskih cevi (tzv. „lampaške“ tehnologije) u čvrste, integrisane komponente. To što su se ovi prelazi desili zajedno i u isto vreme ne znači i da su neraskidivo povezani. Baš kao što su digitalni matematički proračuni izvedeni zahvaljujući „lampaškoj“ tj. tehnologiji vakuumskih cevi, tako se analogne matematičke operacije mogu izvesti iz novonastale, procesorske (tranzistorske) tehnologije. Analogno računanje je živo i dobro, iako su vakumske cevi komercijalno izumrle (ostale su u proizvodnji vrhunskih audio-uređaja čija je toplina i vernost reprodukcije zvuka nemerljiva u poređenju sa tzv digitalnim audio izvorima – ovde je ujedno i prikriveni ishod ove priče, koji ide u prilog „analognim stvarima” u budućnosti).

Ne postoji sasvim precizno povučena linija koja bi obrazovala jasnu razliku između analognog i digitalnog računanja i računarstva. Opšte uzev, digitalno računanje bavi se celim brojevima, binarnim sekvencama, determinisanom logikom i vremenom koje se idejno predstavlja diskretnim skalarno-numeričkim priraštajem, dok analogno računanje obrađuje realne brojeve, „nedeterminističku“ logiku i kontinuirane funkcije, uključujući ovo „naše vreme“, sada, dok postoji kao kontinuitet u stvarnom svetu.

Zamislite da treba da pronađete sredinu nekog puta. Možete da izmerite njegovu širinu bilo kojim dostupnim priraštajem, a zatim digitalno izračunate sredinu do najbližeg uvećanja. Ili možete koristiti deo „strune“ – kao što to radi analogni računar – mapirajući širinu puta prema dužini niza i tako pronalazeći sredinu, bez ograničenja koja se pojavljuju kao rast na fiksnoj skali, udvostručavanjem niza na – sebi.

Mnogi sistemi rade i u analognom i u digitalnom režimu. Ovo „drvo“ integriše širok spektar inputa kao kontinuirane, neprekinute funkcije, ali, ako je prekinete – to jest ako posečete to „drvo“ – ustanovićete da ono broji godine kroz „digitalnu periodiku“, dakle u formi „digitalnog razumevanja zapisa“.

U analognim računskim operacijama složenost je u topologiji mreže, a ne u kodu tj. programu. Informacije se obrađuju kao kontinuirane funkcije vrednosti, kao što su napon i relativna frekvencija pulsa, a ne logičkim operacijama na diskretnim nizovima bitova. Digitalno računanje, netolerantno na grešku ili dvosmislenost, zavisi od ispravljanja-korigovanja grešaka na svakom koraku ovog „puta“. Analogno računanje toleriše greške, omogućavajući vam da živite s njima (podsetimo se onolikih malformacija i „sitnih greščica“ u svačijem genetskom kodu).

Uzgred, bit je najmanja jedinica informacije u računarstvu. Jedan bit predstavlja količinu informacije potrebnu za razlikovanje dva međusobna isključiva stanja, često predstavljana kao jedan (1) i nula (0), da/ne, tačno/netačno, ima/nema napona, itd. Bit se takođe koristi kao ime cifre u binarnom brojnom sistemu (sistem sa osnovom 2). Sama reč je prvi put upotrebljena 1948. godine u radu Kloda Šenona i nastala je sklapanjem početka engleske reči „binarna“ i kraja reči „cifra“ ili „jedinica“ na engleskom jeziku (binary digit ili binary unit). Šenon kaže da je ovu reč smislio Džon Taki.

Sasvim je moguće izgraditi nešto bez potpunog razumevanja tog istog.

Priroda koristi digitalno kodiranje za skladištenje, replikaciju (umnožavanje) i rekombinaciju nizova nukleotida, ali se oslanja na analogno računanje, koje funkcioniše u nervnom sistemu živih organizama, i gde je ono zaduženo za inteligenciju i kontrolu. Genetski sistem u svakoj živoj ćeliji je, zapravo, računar sa pohranjenim programom u sebi, sa već „učitanim softverom“. Ali, nijedan mozak to nije, za razliku od našeg organizma.

Digitalni računari realizuju promene između dve vrste bitova: one koji predstavljaju razlike u prostoru i bitova koji predstavljaju razlike u vremenu. Transformacije između ova dva oblika informacija, nizovi i njihova struktura upravljaju računarskim programiranjem, i sve dok računari zahtevaju ljudske programere, mi (ljudi) zadržavamo i kontrolu nad takvim mašinama.

Analogni računari takođe posreduju pri ovim transformacijma, koje se odvijaju između dva oblika informacija (vremenskih i prostornih): između struktura u prostoru i ponašanja u vremenu. Nema koda odnosno programa, i nema programiranja. Nekako – a mi to još ne razumemo u potpunosti – priroda je, s druge strane, evolucijom usavršila svoje „analogne računare“ – nama poznatije kao nervni sistem – koji utelovljuju informacije apsorbovane iz spoljnog sveta. Naši „analogni računari“, odnosno nervni sistemi – mozgovi – uče. Jedna od stvari koju nauče je kontrola. Nervni sistemi uče da kontrolišu sopstveno ponašanje, istovremeno učeći kako da kontrolišu svoje okruženje, do mere u kojoj je to moguće.

Računarstvo ima dugu istoriju koja seže čak i pre no što je postojala nauka o računarstvu – o primeni neuronskih mreža, ali najvećim delom to su bile simulacije neuronskih mreža pomoću digitalnih računara, a ne neuronske mreže koje su u prirodi evoluirale delovanjem same prirode (naši „moždani računari“). Ovo počinje da se menja: proces se kreće „odozdo prema gore“ jer trostruki pokretači bespilotnih ratnih dronova, autonomnih vozila i mobilnih telefona podstiču dalji razvoj „neuromorfnih mikroprocesora“ koji implementiraju stvarne, u prirodi i našim glavama postojeće neuronske mreže, umesto simuliranja neuronskih mreža direktno u silicijum (i druge potencijalne supstrate kao zamena za silicijum koji je danas „kost & meso“ svakog računara), a odozgo prema dole – kao što se i naši najveći i najuspešniji projekti u tom smeru sve više se okreću analognom računarstvu tj.analognom računanju u svojoj infiltraciji i kontroli sveta.

I, dok raspravljamo o inteligenciji digitalnih računara, analogno računarstvo tiho preobražava ono digitalno, na isti način na koji su analogne komponente poput vakuumskih cevi nekada doživele prenamenu – pri izgradnji digitalnih računara nakon Drugog svetskog rata. Pojedinačno determinisani procesori konačnih stanja, koji rade ograničene kodove, formiraju „višećelijske“ organizme velikih razmera, u nikad dovršenom jednom stanju, potpuno nalik višećelijskim organizmima u divljini i stvarnom svetu (u prirodi). Rezultirajući hibridni analogno-digitalni sistemi tretiraju tokove bitova kolektivno, „uvezano“, što je način na koji se protok elektrona tretira u vakumskoj cevi, dakle kolektivno uvezani – a ne pojedinačno, kao što se s bitovima postupa na uređajima diskretnog stanja koji stvaraju protok (tranzistori, procesori, mikročipovi itd). Bitovi su „novi elektroni“: Analogno računanje se vratilo, a po svojoj prirodi ono preuzima kontrolu.

Superračunar “Summit” kompanije IBM

Upravljajući svime, od protoka robe i saobraćaja do protoka ideja, ovi sistemi vrše operacije statistički, jer se informacije o kodiranim frekvencijama impulsa obrađuju u neuronu ili mozgu. Pojava i uspon inteligencije privlači našu pažnju na nas same, „Homo sapiensa“ – ali ono zbog čega bi trebalo da se zabrinemo je – pojava kontrole.

Zamislite da je sada 1958. i da vi pokušavate da odbranite kontinentalni deo SAD od vazdušnog napada. Da biste razlikovali neprijateljske letelice, jedna od stvari koja vam je potrebna, osim mreže računara i radarskih punktova za rano upozoravanje, jeste mapa celokupnog komercijalnog vazdušnog saobraćaja, ažurirana u realnom vremenu. Sjedinjene Države izgradile su takav sistem i prozvale ga „Sejdž“ (SAGE; Semi-Automatic Ground Environment, Poluautomatska sredina za prevenciju/sprečavanje mogućih civilnih, u ratu neplaniranih letova – pokretačka sila sličnih sistema i prva mreža velikih računara koja je, povezana s radarskim sistemom, upravljala, recimo, funkcionisanjem sistema NORAD). SAGE je, zauzvrat i kao neku vrstu „zahvalnice“, za civile stvorio nadasve korisni „Sejber“ (Saber), prvi integrisani rezervacioni sistem koji služi za rezervaciju avionskih putovanja u realnom vremenu.

Sejber i njegovi nastavljači ubrzo su postali ne samo sredstvo za pronalaženje karata raspoloživih avio-sedišta već i sistem koji je počeo da kontroliše, uz decentralizovanu obaveštajnu i informatičku mrežu, kuda će avioni leteti i kada.

Ali, zar negde nema neke „kontrolne sobe“, s nekim ko kontroliše „stanje stvari“ i „situaciju“? Možda i ne. Hajde da kažemo da, na primer, gradite sistem za mapiranje saobraćaja na autoputu u realnom (trenutnom) vremenu, jednostavno tako što ćete automobilima davati pristup mapi u zamenu za izveštavanje o brzini vozila i njegovoj lokaciji u svakom trenutku. Rezultat je potpuno decentralizovani sistem upravljanja. Nigde, zapravo, ne postoji model upravljanja… osim sistema po sebi, koji „kontroliše“.

Zamislite sada da ste u prvoj deceniji 21. veka i da želite da pratite složenost ljudskih odnosa u realnom vremenu. Za društveni život na nekom malom koledžu, mogli biste da napravite centralnu bazu podataka i da je redovno ažurirate, ali njeno održavanje postalo bi neodrživo i nadilazilo bi vaše mogućnosti ukoliko se „koledž“ uzme u većim razmerama i formatu. Zato je, ipak, daleko bolje da pošaljete besplatne kopije jednostavnog poluautonomnog koda (programa/softvera), koji se nalazi na lokalnom nivou, i pustite da ažurira određenu društvenu mrežu. Operacije po ovom kodu izvršavaju digitalni računari, ali analogno računanje koje opslužuje sistem u celini daleko prevazilazi složenost osnovnog koda. Ishod: dobijate model pulsno-frekvencijski programiranog „društvenog“ grafikona koji postaje društveni tj. graf socijalizacije određene grupe. On se prvo naširoko širi kampusom, a onda i svetom.

Predstojeća revolucija u računanju-računarstvu biće inicirana porastom analognih sistema, nad kojima digitalno programiranje više nema kontrolu.

Šta ako želite da napravite mašinu koja će zabeležiti značenje svega onoga što je ljudskoj vrsti poznato od njenog nastanka do danas? Imajući u vidu Murov zakon (Gordon Moore, 1965), očigledno je da nije potrebno još puno vremena da bi se digitalizovale sve postojeće informacije u svetu. Skenirate svaku knjigu koja je ikada štampana, prikupite svaki e-mail ikad napisan i sakupite 49 godina video-zapisa, radite to 24 sata, dok u stvarnom vremenu pratite gde su ljudska bića i šta ona rade. Ali – kako uhvatiti značenje?

Čak ni u digitalnom dobu, ovo se ne može definisati u bilo kakvom strogo logičkom smislu, jer značenje, među ljudima, nije u osnovi logično. Najbolje što možete da učinite, nakon što sakupite sve moguće odgovore, jeste da u „igru značenjima“ uvedete (što je moguće bolje) definisana pitanja i sastavite pulsno-frekvencionu „ponderisanu“ mapu (odnosno premerenu i podešenu algoritmom, stvarajući mapu „povezanosti svega postojećeg“). A pre nego što to saznate, vaš sistem neće samo naprosto posmatrati i mapirati značenje stvari, već će i konstruisati njihovo značenje. Vremenom će sam sistem kontrolisati značenje, na isti način na koji digitalno mapirani saobraćaj u jednom trenutku počinje da kontroliše protok saobraćaja – iako nam, na prvi pogled, izgleda da ga niko ne kontroliše.

Postoje tri zakona veštačke inteligencije. Prvi, poznat kao „Ešbijev zakon“, nazvan je po kibernetičaru Viljemu Rosu Ešbiju (William Ross Ashby, 1903-1972), autoru projekta „Design for a Brain“. On kaže da svaki efikasni sistem kontrole mora biti složen onoliko koliko je složen i sistem koji on kontroliše.

Drugi zakon, kojeg je artikulisao Džon fon Nojman (John von Neumann, 1903-1957)  kaže da je najvažnija karakteristika složenog sistema to što on predstavlja svoj najjednostavniji opis ponašanja. Najjednostavniji kompletni model organizma je – sam organizam. Pokušaj da se ponašanje sistema svodi na bilo koji formalni opis čini stvar još više, a ne manje, komplikovanim.

Treći zakon kaže da svaki sistem dovoljno jednostavan da bi bio razumljiv neće biti dovoljno komplikovan da bi se ponašao inteligentno, dok će svaki sistem dovoljno komplikovan da bi  mogao da se inteligentno ponaša biti isuviše komplikovan da bi se razumeo. Jednostavno rečeno, dokle god ne razumete do kraja „ono drugo biće“, to znači da ono poseduje inteligenciju (koja se, shodno dotičnom Trećem zakonu, ne može do kraja razumeti).

Treći zakon nudi utehu onima koji veruju da, sve dok ne budemo do kraja dokučili (našu, ljudsku) inteligenciju, ne treba brinuti o „nadljudskoj inteligenciji“ koja bi mogla nezavisno i nekontrolisano od nas nastati među mašinama. I pored svega, u Trećem zakonu postoji rupa. Potpuno je moguće uspešno izgraditi, stvoriti nešto – a pritom ne posedovati potpuno razumevanje “tog nečega”. Ne morate u potpunosti da razumete kako mozak funkcioniše da bi se, sudeći po razvoju stvari u nauci i tehnologiji, stvorio jedan takav koji funkcioniše identično „onom pravom“. Ovo je rupa koju nijedna vrsta, opseg i intenzitet nadzora nad algoritmima od strane programera i njihovih etičkih savetnika nikada ne može „sapeti“. Dokazano „dobar“ A.I. je – samo mit. Naš odnos sa istinskim A.I. uvek će biti pitanje vere, a ne dokaza.

Previše nas muči zabrinutost o mašinskoj inteligenciji, ali smo premalo zabrinuti za pitanja njene samo-reprodukcije, međusobne komunikacije i kontrole. Sledeća revolucija u računarstvu biće inicirana porastom analognih sistema nad kojima digitalno programiranje više nema kontrolu. Odgovor prirode onima koji veruju da mogu da naprave mašine koje bi kontrolisale „sve na svetu“ biće da im omogući da naprave mašinu koja će kontrolisati njih same – ljude koji žele kontrolu nad svakim i svačim.

∗  ∗  ∗

Odlomak iz knjige „Treći zakon“ Džordža Dajsona. Prilagođeno za zbornik Džona Brokmana Possible Minds: Twenty-Five Ways of Looking at AI  (Penguin Press & Publishing Group, Random House).

 

George Dyson

MEDIUM