Alexa, molimo vas da nam objasnite mračnu stranu veštačke inteligencije

Prošle godine je Kejt Kroford (Kate Crawford), profesorka Univerziteta u Njujorku i šef istraživačkog centra za veštačku inteligenciju krenula da proučava “crnu kutiju” procesa koji se dvijaju unutar izuzetno popularnog Amazonovog uređaja Echo.

Kroford nije u ispitivanju postupalo onako kako biste očekivali kada je reč o pristupanju veštačke inteligencije – naime, proučavajući algoritme, računarske sisteme i slično. Umesto toga, ona se udružila sa Vladanom Jolerom, srpskim akademičarem, kako bi mapirali lance snabdevanja, sirove tj neobrađene podatke i radnu snagu koja je u osnovi Alexe, izdanka sa kojim korisnici komuniciraju pomoću uređaja Echo. Vladan Joler je osnivač SHARE Fondacije i profesor na odseku za nove likovne medije Akademije umetnosti u Novom Sadu. Joler vodi SHARE Lab, istraživačku laboratoriju za proučavanje podataka usmerenu ka istraživanju različitih društvenih i tehničkih aspekata, nevidljivih infrastruktura, algoritamske transparentnosti, eksploatacije rada i mnogih drugih fenomena nastalih razvojem i upotrebom savremenih tehnologija.

Ova istraživanja obuhvataju detaljne analize biznis modela, procesa eksploatacije privatnih podataka, skrivenih formi rada, ekonomije nadgledanja i algoritama skrivenih iza zidova kompanija kao što su Facebook, Google i Amazon. Ovaj specifičan  istraživačko-detektivsko-umetnički oblik delovanja obuhvata širok opseg različitih metodologija u kojima se prepliću sajber forenzičke metode, analiza i vizuelizacija velikih količina podataka, kartografija, medijska teorija i filozofija.

Bio je to zastrašujući proces – toliko da su Joler i Krofordova priznali da je njihova mapa, „Anatomija jednog AI sistema“, zapravo tek prvi korak na početku istraživanja. Rezultati su, ponovićemo tu reč, zastrašujući – i pozivaju na akciju. Ono što ova mapa pokazuje je da je savremeno zapadno društvo slepo za stvarnu cenu koju plaća zbog svoje žeđi za tehnologijom.

Mi se u velikoj meri oslanjamo na digitalne gedžete i često na njih gledamo kao na čuda bestelesnog napretka. Veštačka inteligencija deluje tako sofisticirano da govorimo kao da je odvojena od “pravog” – opipljivog – sveta. Krofordova i Joler, međutim, tvrde kako ništa ne može biti dalje od istine: tehnološke „zezalice“, sofisticirani uređaji, uz AI, ne mogu funkcionisati bez ogromne količine utrošene energije i minerala koje je teško i komplikovano vaditi iz zemljinog tla, i za čiju eksploataciju plaćamo visoku ekološku cenu. Postoji i velika ljudska cena koju plaća vojska „ugovoraca“, honorarnih radnika koji pomažu u mašinskom učenju označavanjem sadržaja i analizom slika.

“Svaki mali trenutak prijatnosti [sa Aleksom] koja nam ugađa – bilo da se radi o odgovoru na pitanje, paljenju svetla u kući ili puštanju pesme – zahteva ogromnu planetarnu mrežu, podstaknutu vađenjem neobnovljivih materijala, radnom snagom i podacima,” pišu u svom radu Kroford i Joler. “Potpuno svođenje svih ovih troškova je gotovo nemoguće, ali je još važnije da shvatimo obim i opseg ako želimo da razumemo i upravljamo-kontrolišemo tehničku infrastrukturu koja se splela s našim životima.”

Drugi istraživači takođe istražuju ovu teritoriju. Uzmite Meri Grej i Sidarta Surija (Mary Gray, Siddharth Suri), odnosno jednu antropološkinju i jednog informatičara koji zajedno rade u jednom istraživačkom odeljenju Majkrosofta. Nedavno su pokušali da dokumentuju živote „utvarnih radnika“ koji igraju ključnu, ali uglavnom neistraženu ulogu u tehnološkim kompanijama kao što su Amazon, Facebook, Google i Microsoft: moderiranjem sadržaja, odgovaranjem na upite, održavanjem veb-stranica i obavljanjem drugih rutinskih zadataka.

Postalo je normalno govoriti o čudima veštačke inteligencije a da pritom ne shvatamo materijalne procese koji ga pokreću i vode.

Kao i u slučaju Krofordove i Jolera, tako je i Sidarti Suriju i Meri Grej bilo izuzetno teško da sprovedu ovu studiju do samog kraja. Prošlog meseca, međutim, objavili su svoje nalaze u knjizi „Sablasni rad: Kako sprečiti Silicijumsku dolinu da izgradi jednu novu, globalnu klasu siromašnih (Ghost Work: How to Stop Silicon Valley from Building a New Global Underclass). Razmere onoga što opisuju je zapanjujući. To se isto tiče i loših uslova rada koje podnose zaposleni u ovom radnom profilu. Ali ono što je još upadljivije je koliko malo govorimo o ovim od oka javnosti skrivenim milionima radnika. Kada pomislimo na „tehnološke radnike“, skloni smo da razmišljamo o visokostatusnim štreberima iz Silicijumske dolilne; retko se osvrćemo i diskutujemo o svim onim Indijcima i Filipincima koji se svakodnevno prijavljuju za obavljanje funkcija od vitalnog značaja za nesmetan rad Alekse i drugih uređaja čiji „mozgovi razmišljaju“ na način koji im je utisnula današnja veštačka inteligencija.

Zašto je to tako?

Delimičan odgovor leži u geografiji i prirodnim bogatstvima: retki zemni metali iskopavaju se u oblastima koje su uglavnom na potpuno suprotnom kraju sveta od zapadnih potrošača – nalazištima kao što su Đjangsi u Kini ili Salar de Ujuni u Boliviji. Kao takva, isuviše je lako prevideti cenu i posledice koje ovakvo rudarstvo ima po okolinu ili uslove rada. Slično tome, mnogi od „sablasnih radnika“ koje pominju Grej i Suri nalaze se u delovima sveta u razvoju, onih što su uglavnom daleko od očiju zapada.

Globalni lanci snabdevanja su toliko složeni da se čak i tehnološki giganti upinju da ih shvate. Krofordova i Joler zapažaju: „Jedna ilustracija poteškoća u istraživanju i praćenju procesa savremenog proizvodnog lanca je da je Intelu trebalo više od četiri godine da shvati svoju liniju snabdevanja dovoljno dobro da osigura da nijedan atom tantala [retkog metala] iz Konga nije bio u njihovim mikroprocesorskim proizvodima.”

Međutim, reklo bi se da postoji još jedan problem: kultura. Na neki način, čini se da nije iznenađujuće da smo toliko slepi za „matrice izrabljivanja“ u modernoj tehnologiji. Naša zapadna potrošačka kultura je podjednako slepa za grubosti i prljavštine podzemlja globalnih lanaca snabdevanja u našim “opipljivim” proizvodima kao što su moda, odeća ili hrana. Ali, možda ima smisla pretpostavka da nas naizgled bestelesna priroda tehnologije čini dvostruko kratkovidima, jer smo bili uvereni da mislimo kako AI gotovo “lebdi” iznad ljudi i planete zemlje.

Možda bi bila primamljiva pretpostavka da je nedostatak transparentnosti namerno smišljen scenario koji su kreirali i plasirali hajtek milijarderi. Međutim, rukovodioci iz Silicijumske doline sami sebe, po svojoj prirodi, ometaju sopstvenim „tunel-vizijama“ i slepim tačkama koje im se javljaju. U hajteku (kao u finansijama ili drugim oblastima naših života) ima toliko toga što izmiče našem vidnom polju; ili bi se, barem, ako ništa drugo, moglo uočiti – ako bismo samo malo bolje pogledali.

Evo dva skromna predloga. Prvo, svako ko se oslanja na neku od primamljivih modernih „sajber spravica“ trebalo bi da provede makar nekoliko trenutaka gledajući u tu mapu Alekse, makar samo da bi se divio složenosti koja stoji iza uređaja koji imamo u rukama. Drugo, Aleksa (i virtuelni asistenti) trebalo bi da nauče da “odgovore” na pitanja o tom globalnom lancu snabdevanja – ako to od nje(ga) zatražimo. Da, Amazon može da mrzi tu ideju (i nije jasno koliko ljudi zapravo može pitati). Ali ako bismo imali takav model Alexe koji bi mogao da odgovori na pitanje: “Šta ti stvarno omogućava da radiš?”, onda bi to bio mali korak u pravom smeru. A još bi bolje bilo kada bismo od uređaja dobili iskren odgovor.

 

Financial Times

Leave a Reply

Fill in your details below or click an icon to log in:

WordPress.com Logo

You are commenting using your WordPress.com account. Log Out /  Change )

Google photo

You are commenting using your Google account. Log Out /  Change )

Twitter picture

You are commenting using your Twitter account. Log Out /  Change )

Facebook photo

You are commenting using your Facebook account. Log Out /  Change )

Connecting to %s

This site uses Akismet to reduce spam. Learn how your comment data is processed.