Mašine sa svešću i njihova prava

Bina48 je robotska glava koja izgleda i govori kao čovek – pomera usne a pokreće je softver za konverzaciju. I mada ovaj robot nije živo biće, teško je reći i da u ovoj mašini uopšte nema života. Bina48 u razgovoru može ponekad izreći stvari koje iznenađuju. Google-ov direktor inženjeringa Ray Kurzweil kaže da je “divno sugestivan” jer asocira na budućnost kada će kompjuteri zaista misliti i osećati.

Kurcvejl je ovako komentarisao u predgovoru za knjugu Praktično Ljudski: Očekivanja i opasnosti od digitalne Besmrtnosti (Virtually Human: The Promise—and the Peril—of Digital Immortality), novoj knjizi Martine Rothblatt koja je i vlasnik Bine48, i koja u njoj piše o pravnim i etičkim argumentima zašto bi inteligentni softver eventualno zasluživao sva prava kao i mi, ljudi od krvi i mesa.

Pravnica i pionirka satelitskog radija (ona je idejni tvorac Geostara i Sirijusa), Rotblat je izvršna direktorka u United Therapeutics, biotehnološkoj kompaniji koju je osnovala da bi svoju ćerku izlečila od bolesti pluća. Uspeh kompanije je učinio da Rotblatova u Americi bude najbolje plaćena direktorka – ovo je privuklo pažnju javnosti delom i zato što je Martina Rothblatt rođena kao muško, a 1994. podvrgla se operaciji promene pola.

Njena transformacija služi kao neka vrsta pozadine, zaleđine ove knjige, u kojoj tvrdi da se čovečanstvo već uveliko zahuktalo na svom putu ka sledećem evolutivnom koraku: kopiranju ljudskih ličnosti u mašine. Tipični korisnici društvenih mreža, kako primećuje, već provode po nekoliko sati dnevno u aploudu/daunloudu, tvitovanju i sređivanju digitalnih informacija o sebi – ona ovo naziva “mentalnim dosijeima” (mindfiles). S obzirom da već jako dugo velike tehnološke kompanije ulažu milijarde dolara u istraživanje i razvoj veštačke inteligencije i digitalne asistencije, Rothblatt tvrdi kako je neizbežno da ove “mentalne fascikle” u jednom trenutku budu animirane, preobražavajući se u “mentalne klonove” (mindclones): svesne, digitalne verzije ljudi koji su žive ili su, možda, mrtvi.

Glavni interes Rotblatove tiče se debate o pitanju identiteta, građanskim pravima kao i značenju pojma ličnosti koji bi obuhvatao i prisustvo virtuelnih ljudi. Da li bi digitalna kopija vas bila baš vi, ili bi to bila nekakva drugačija ličnost? Kako bismo o njima sudili i prosuđivali? Još uvek smo dosta daleko od digitalnih bića, mada Rothblatt kaže da deo svog pozamašnog bogatstva ulaže u dugoročna istraživanja koja bi doprinela stvaranju veštaačke (samo)svesti. Taj rad se obavlja kroz Terasem Movement Foundation, fondaciju čiji izvorni projekti uključuju i robota Bina48 (kopija Rotblatove supruge, Bine Rothblatt) kao i servis pod nazivom Lifenaut, gde ljudi mogu stavljati svoje fotose, video i objavljivati ideje vezane za stvaranje chat-bota tj. “robota za ćaskanje” (zapravo neke početne robotske verzije sebe). Antonio Regalado, urednik rubrike za beomedicinu u Tehnološkom pregledu MIT (MIT Technology Review) razgovarao je sa Martinom Rotblat o pravima virtuelnih ljudi.

Šta vas je podstaklo da napišete knjigu o pravima virtuelnih bića?

Želela sam da time izrazim svoj iskreni društveni stav o ugnjetavanju manjina i onih koji se razlikuju, pisala sam, dakle, o tome kako je ova diskriminacija veoma loša stvar po društvo; time sam htela i da ublažim neizbežnu diskriminaciju s kojom će se virtuelni ljudi na kraju suočiti. Moj apel na čitaoce je da neko ko nema telo i dalje može biti neko kome će biti pružena ljudska prava – samo pod uslovom da poseduje um.

Jednom ste rekli da se ljudi koji ne veruju mašinama sa svešću mogu uporediti sa onima koji negiraju evoluciju. Na šta ste tačno mislili?

Podaci koji dokazuju evoluciju su toliko ubedljivi da se čini kako ovo negiranje darvinizma znači, ujedno, i negiranje realnosti. Evolucija je ili posledica ovog našeg opipljivog, materijalnog sveta, ili je rezultat nekakvog natprirodnog čina. Za mene lično, ista je stvar i sa svešću: Ili mislite da je svest nešto metafizičko, ili bi, u protivnom, ona bila posledica fizičkih interakcija materije. To je zato što ljudski mozak ima mnoštvo “priključaka”, koji su interakcije među atomima, a računari ove interakcije takođe mogu imati. Za mene, poricati cyber-svest znači poricati da živimo u fizičkom univerzumu.

I šta predlažete, kako bi trebalo da tretiramo svesne mašine?

Mislim da ako aploudujete dovoljno informacija o osobi, u narednih 10 ili 20 godina postojaće operativni sistemi sposobni da ispitaju ovaj osnovni “mentalni dosije”. Verujem u neizbežnost postizanja ljudske svesti (u mašinama). Mislim da ovaj softver treba da bude regulisan propisima američkog Ministarstva za hranu i lekove, koji bi je kategorisao je kao svojevrsnu ‘protezu’ koja bezbedno i efikasno stvara ljudsku svest. Predložila bih da ovi veštački umovi provedu barem godinu dana u intervjuima i ispitivanjima od strane psihijatara, u kojima će razgovarati sa ovakvom svešću baš kao što sada razgovaramo vi i ja. Ako bi ovaj “Mindware”, u periodu od godinu dana ubedio istraživače da posedujue (neku vrstu) svesti, treba ga, onda, tretirati kao čoveka i dati mu dokumente.
Kakve bi bile reakcije ljudi na virtuelna bića?

Dosadašnje reakcije govore mi da će diskriminacija biti neizbežna. Ljudi kažu kako ih “Ne zanima koliko je ta mašina sofisticirana jer nikada neće posedovati ljudskost kao biće od krvi i mesa”. Ovo veoma, veoma podseća na bezbroj drugih primera represije. U ljudskoj istoriji ropstvo je bilo uobičajeno (i) u 19. a i u 20. veku (a da ne govorimo da je ropstvo institucija stara koliko i civilizacija), jer se do pre manje od jednog stoleća govorilo kako crnci nemaju istu vrstu svesti kao belci. To je sve donedavno bilo opšteprihvaćeno gledište.

Izgleda da uzimate zdravo za gotovo da će ljudi stvoriti svesne mašine. Ali to, u stvari, i ne mora da se dogodi, zar ne?

Ideja da se nijedan od stotina hiljada softverskih inženjera širom sveta ne bavi kreiranjem ‘softverske svesti’ nije kredibilna ideja.

Postoji, takođe, mnogo super-korisnih razloga zbog kojih bi bilo veoma poželjno stvoriti svest koja čak ne bi ni prizivala takve osobine kao što je radoznalost. Šta ako biste imali jednu savršeniju verziju softvera Siri, vašeg inteligentnog personalnog asistenta? U stvari, mislim da je će biti trka u naoružanju samo zato što će biti potražnja za ovakvim stvarima koje poseduju, barem delimično, poseduju neku vrstu inteligencije.

Da li vas zabrinjava komercijalna trka za osvajanjem veštačke inteligencije?

Zabrinuta sam jer vidim da postoji velika verovatnoća stvaranja klase robova koji poseduju sajber-svest. Ropstvo je profitabilno, da znate. Ali mislim da bismo zažalili. A onda bismo proveli stotine godina pokušavajući da se iskopamo iz te situacije.

Ove godine bili ste pozvani na Google-ovu veliku futurističku konferenciju, Google Zeitgeist. Šta ste tamo govorili?

Poenta mog govora mogla bi se sažeti ovako: sigurne luke usrećuju brodove. Ako se plašimo prava koja mogu biti ustanovljena ne samo za nas već i za bića koja poseduju cyber-svest, ako budemo zazitali od potrncijalnih blagodeti koje bismo mi bića od krvi i mesa imali od svesnih mašina, ili ako se plašimo da nam se ne dogodi scenario poput onog u filmu Terminator, nikada nećemo napredovati do društva u kojem je veštačka svest pravilno vrednovana i omogućena. Ali, ako se stvore bezbedne luke, ako bi američka FDA odobrila Mindware, možemo kreirati ogromnu novu realnost.

Leave a Reply

Fill in your details below or click an icon to log in:

WordPress.com Logo

You are commenting using your WordPress.com account. Log Out / Change )

Twitter picture

You are commenting using your Twitter account. Log Out / Change )

Facebook photo

You are commenting using your Facebook account. Log Out / Change )

Google+ photo

You are commenting using your Google+ account. Log Out / Change )

Connecting to %s