Baroni razbojnici digitalnog doba


Način na koji je kompanija Cambridge Analytica iskoristila Facebook da prikupi podatke o desetinama miliona korisnika samo je jedan od problema vezanih za ovu društvenu mrežu i njen uticaj na društveni i politički život. Na izvestan način ovaj skandal je skrenuo pažnju sa važnijih pitanja koja proističu iz modela poslovanja giganata interneta: Google, Facebook, Amazon i druge velike tehnološke kompanije izgradile su najobuhvatniji i najbezobzirniji aparat nadzora i praćenja koji je svet ikada video. Svi smo pod njihovom prismotrom.

Poslovni model internet kompanija može se opisati kao kapitalizam nadziranja – što je prva učinila harvardska profesorka Shoshana Zuboff 2015. godine. Izgrađen na tehnologijama prikupljanja informacija i manipulisanja ponašanjem korisnika, kapitalizam nadziranja nastao je onog trenutka kada su inženjeri iz Googla shvatili da prateći šta korisnici unose u pretraživač mogu anticipirati njihove želje. Razvijanje tehnika za predviđanje želja korisnika omogućilo im je da plasiraju prilagođene oglase koji će uvećati prihode kompanije.

Danas praktično svaki aspekt svakodnevnog života ostavlja trag u korporativnim bazama podataka koji se koriste za predviđanje i oblikovanje svih oblika ponašanja. Ali korporacije koje se bave biznisom nadziranja ne zadovoljavaju se samo praćenjem želja korisnika; one aktivno oblikuju i usmeravaju te želje u skladu sa svojim ciljevima. To obično znači da se od nas očekuje da kliknemo na reklamu, posetimo veb-stranicu ili konačno nešto kupimo. Da bi to postigli, koriste se sve poznate prečice i predubeđenja koja utiču na ljude prilikom donošenja odluka, čime se bavi disciplina poznata kao „heuristika“. To često podrazumeva da se linkovi i drugi sadržaji moraju prikazati na način koji ih čini atraktivnijim, a u nekim slučajevima kao što su takozvani „mračni šabloni“ – trikovi za privlačenje pažnje i prodaju ili prikupljanje ličnih podataka koji uključuju element prevare – koriste se arhitekture izbora koje korisnike proračunato dovode u zabludu.

Opsežni eksperimenti omogućuju dalje usavršavanje oglasa i poziva na interakciju. Google je na primer do 2014. godišnje izvodio oko 10.000 eksperimenata u oblasti pretrage i plasiranja oglasa, a u bilo kom trenutku u toku je bar 1.000 eksperimenata. Eksperimentima se testiraju korisnički interfejsi, algoritmi i drugi elementi servisa da bi se ustanovilo koje kombinacije su najefikasnije za angažovanje korisnika. Oglasi vas prate sa jedne veb-stranice na drugu, svaki put suptilno izmenjeni, jer kompanija pokušava da na osnovu vašeg ponašanja i reakcija otkrije koja varijacija će vas naterati da konačno kliknete na oglas.

Otuda, ako koristite Chrome pretraživač ili Google aplikacije gotovo je sigurno da ste deo uzorka u desetinama psiholoških eksperimenata koji treba da ustanove profil vaših navika i slabe tačke koje kompanijama mogu doneti korist. Taj personalizovani i dinamički oblik podsticanja određenih oblika ponašanja pruža kompanijama mnoštvo prilika da manipulišu korisnicima na načine nezamislive pre nastanka interneta. A budući da se saznanja o vašim slabim tačkama dalje primenjuju za što efikasniji uticaj na ostale korisnike, vi ste praktično saučesnik, ne samo u sopstvenoj već i u manipulaciji vaših prijatelja i članova porodice, suseda i kolega, praktično svakog korisnika ovih usluga.

Većina ljudi ne shvata koliko inače nedostupnih informacija možete otkriti samo analizom relativno depersonalizovanih podataka o ponašanju neke osobe. Istraživanje iz 2013. koje je sproveo Centar za psihometriju Univerziteta u Kembridžu pokazalo je da i bez činjeničnih podataka o nekoj osobi analiza „lajkova“ na Facebooku može precizno pokazati njenu seksualnu orijentaciju, etničku pripadnost, nivo zadovoljstva životom, politička i verska ubeđenja, da li su joj roditelji razvedeni i da li koristi droge. U nastavku istraživanja 2015. pokazalo se da kroz analizu „lajkova“ kompjuter može proceniti karakteristike vaše ličnosti – koliko ste naklonjeni umetnostima, koliko ste stidljivi ili kooperativni – bolje nego članovi vaše porodice i prijatelji. Zamislite sad koliko se podataka, čak i onih koje smatrate ličnim i poverljivim, može izvući iz mora drugih informacija koje korporacije prikupljaju o vama i svakom drugom korisniku. Onda zamislite eksponencijalni rast količine takvih podataka koji će uslediti sa širenjem takozvanog interneta stvari (Internet of Things, IoT) – što je praktično mreža senzora, kamera i mikrofona koji će se kriti u vašim domovima, kancelarijama i na javnim mestima i vredno prikupljati i slati podatke u baze podataka kapitalizma nadziranja.

Oni koji su pratili saslušanje Marka Zuckerberga pred Kongresom prošle nedelje su u zabludi ako misle da ne treba da se brinu jer ne koriste Facebook. Tehnike praćenja koje kompanija koristi – uključujući alat Facebook Pixel namenjen oglašivačima i dugmad „like“ i „share“ – utkane su u sam internet i mnoštvo veb stranica. Na taj način se prate korisnici širom interneta, stiču predstavu o njihovim interesovanjima i upućuju im se prilagođeni oglasi. Zeynep Tufekci, profesor sociologije na Univerzitetu Severne Karoline, napisao je nedavno u New York Timesu da čak i ako nemate otvoren nalog, Facebook može dedukovati informacije o vama na osnovu onoga što zna o vašim prijateljima koji ga imaju. Čak i ako niste registrovani korisnik, Facebook verovatno sastavlja „skriveni dosije“ o vama, isto kao za svoje korisnike. U Americi nema načina da to sprečite. Koristili Facebook ili ne, on vas posmatra.

Često se tvrdi da su lični podaci cena koju plaćamo da bismo besplatno koristili ponuđene usluge. Ali to nije sasvim tačno. Prava cena koju plaćamo da bismo koristili Google i Facebook jeste naša privatnost. Odustajanje od prava na privatnost omogućuje kompanijama da istražuju vaše psihološke slabe tačke i naplaćuju oglašivačima mogućnost da ih koriste. Da bi to prikrile, ove kompanije se skrivaju iza dokumenata o politici privatnosti koji su često dugački, komplikovani i pisani nerazumljivim pravnim jezikom. Pre desetak godina jedno istraživanje je pokazalo da bi prosečnom korisniku godišnje trebalo oko 25 dana (i noći) da pročita sve politike privatnosti koje je primoran da prihvati. Ko ima vremena i volje da to čita? Pozivanje na privatnost da bi se opravdale takve prakse liči na prevaru – Federalna komisija za trgovinu je osudila politiku privatnosti koju nudi Google jer korisnike dovodi u zabludu – naročito kada se ima u vidu da korporacije u biznisu nadziranja koriste heurističke metode da otkriju najbolji način prezentacije politika privatnosti tako da navedu korisnike da ih prihvate.

Možda vam se čini da je to razumna cena za održavanje kontakta sa prijateljima i rođacima. Ali ono što dobijate zauzvrat nije verna slika vašeg socijalnog kruga, već prilagođena verzija kojom upravljaju algoritmi inženjera iz Facebooka. To što vidite nije stvarnost, već slika stvarnosti koju je za vas filtrirao Facebook. U tu prilagođenu sliku enkodirani su različiti sudovi o tome šta je po mišljenju Facebooka vredno vaše pažnje. Na primer, algoritam za prikazivanje novih objava smanjuje vidljivost onih korisnika koji prema kriterijumima kompanije nisu dovoljno aktivni – to jest, prikazuje manji broj njihovih objava drugim korisnicima – i uvećava vidljivost onih koji su aktivniji. To je nov oblik kontrole: radite ono što Facebook od vas želi i bićete nagrađeni; ako ne ispunite kvotu, bićete kažnjeni socijalnom nevidljivošću. To može proizvesti teške posledice. Zamislite, na primer, da ste se u trenutku teške bolesti okrenuli Facebooku u pokušaju da doprete do prijatelja koji će vas podržati i utešiti, ali niko od vaših prijatelja ne reaguje i vi umirete u uverenju da nikome nije stalo do vas – samo zato što niste bili dovoljno aktivni da bi Facebook smatrao da je vaša bolest vredna pažnje vaših prijatelja. To nije anti-utopija iz budućnosti – to se navodno dogodilo prošle godine.

Kada Mark Zuckerberg govori o povezivanju ljudi, kao što često čini, on uvek zaboravlja da naglasi da je to povezivanje ljudi sa Facebookom. Koliko god da Zuckerberg priča o zajednici i povezanosti, Facebook ne postoji da bi doprineo održavanju društvenih veza i istinskih prijateljstava. On zarađuje od oglašavanja i zato želi da što više surfujete, skrolujete i klikćete i tako ustupate detalje o svom životu za dalju obradu. Da bi to postigao, Facebook se mora pozicionirati kao centar vašeg društvenog života i posrednik vaše stvarnosti.

Tako posredovana stvarnost daje kompaniji kao što je Zuckerbergova značajan uticaj na globalni protok informacija. Sa tim uticajem ide i odgovornost. Ipak, zahvaljujući nedavno procurelim internim dokumentima znamo da Facebook ne razmišlja mnogo o posledicama svog delanja i da toleriše globalni procvat lažnih vesti i dezinformacija. U Mjanmaru na primer, gde je Facebook toliko dominantan da mnogi veruju da su Facebook i internet jedna ista stvar, brisani su sadržaji kojima se skreće pažnja na etničko čišćenje Rohinja muslimana i zabranjivani sadržaji njihovih grupa, dok pozive na nasilje protiv njih niko nije cenzurisao. Uticaj Facebooka u Mjanmaru je tako veliki da ga Ujedinjene nacije i grupe za zaštitu ljudskih prava optužuju za pomaganje u genocidu.

Da ne bude zabune, takvo ponašanje nije ograničeno samo na Facebook; to je endemski oblik ponašanja u kapitalizmu nadziranja. Poznato je da je Google preporučivao linkove koji vode do stranica o teorijama zavere; u članku u Timesu objavljeno je da je Google čak postavljao oglase za lažne vesti na stranice posvećene proveri činjenica u vestima. U pokušaju da uveća broj klikova i prihod, YouTube, jedan od servisa pod kontrolom Googla, usmerava korisnike na sve ekstremnije video snimke i postaje vodeći generator radikalizacije u 21. veku.

Svet upravo otkriva da stvarnost posredovana Facebookom olakšava nadziranje glasača od strane političkih partija i kampanja. Facebook alati „prilagođena publika“ i „slična publika“ omogućuju oglašivačima, uključujući i političke organizacije, da dostave spiskove ljudi na koje ciljaju i povežu ih sa njihovim profilima. Oglašivači onda mogu izabrati slične ljude koji nisu bili na njihovim spiskovima i usmeriti političke poruke na sve njih, što znatno pojačava efekte kampanje. Pomoću takvih alata za mikrociljanje organizatori kampanja mogu precizno plasirati različite poruke različitim grupama glasača. Prema članku iz magazina Wired, tokom američkih predsedničkih izbora 2016. Trumpova kampanja je svakog dana koristila oglase u 40-50 hiljada različitih varijacija pažljivo osmišljenih da deluju na ciljane grupe i prethodno testiranih eksperimentima. Na dan treće predsedničke debate, takvih prilagođenih varijacija bilo je 175.000. Menadžer Trumpove digitalne kampanje tvrdi da je Trump pobedio zahvaljujući Facebooku i Twitteru.

Za vreme izbora za Kongres 2010. godine Facebook je organizovao sopstveno istraživanje efekata političkih poruka upućenih preko onlajn platformi. Istraživanje je pokazalo da je moguće uvećati verovatnoću izlaska birača na glasanje za oko 0,4 odsto plasiranjem obaveštenja da su njihovi prijatelji već glasali i ohrabrivanjem da učine isto (nešto drugačiji eksperiment izveden 2012. dao je sličan rezultat). To ne zvuči kao mnogo, ali na nivou zemlje to je oko 340.000 glasova. George W. Bush je pobedio sa razlikom od nekoliko stotina glasova u Floridi; Donald Trump je 2016. pobedio zahvaljujući tome što je uspeo da privuče oko 80.000 glasova više u samo tri države. Pažljivo dizajnirane mikro-kampanje pod parolom „izađi i glasaj“ imaju veliki značaj u slučajevima kada je trka izjednačena. Takođe, u kampanji 2016. Trump je koristio alatku „prilagođena publika“ za vođenje tri kampanje za odvraćanje onih grupa birača koji bi mogli glasati za Hillary: ciljali su na demokrate koji podržavaju Sandersa porukama o njenim vezama sa finansijskom elitom; na mlade žene porukama o njenoj podršci suprugu uprkos optužbama za seksualno neprimereno ponašanje; i na Afroamerikance porukama o njenim komentarima o „supergrabljivcima“ iz 1996. Negativne kampanje nisu ništa novo, ali precizno ciljanje mikro-kampanjama danas ih čini efikasnijim nego ikada – po cenu potkopavanja poverenja u političare i vere u demokratski proces.

Kao što primećuje profesor Tufekci: „Ako su inženjeri konsenzusa 20. veka imali na raspolaganju lupe i bejzbol palice, njihove kolege u 21. veku imaju teleskope, mikroskope i skalpele u obliku algoritama i analitike“. Moguće je da ne postoji dvoje ljudi koji su videli isti skup oglasa, jer se u svakom sukobljavanju argumenata i dezinformacija vrše precizna prilagođavanja za različite grupe, pa glasači i ne znaju šta je servirano drugima. Dok su se političke kampanje u prošlosti odvijale pred očima javnosti, a tvrdnje i argumenti kandidata su stavljani pod lupu, mikro-ciljanje znači da se izborni proces danas pomerio ka privatnoj i personalnoj sferi, bez mnogo prilika za unakrsno ispitivanje i osporavanje dezinformacija. Po mišljenju stručnjaka za digitalne medije Justina Hendrixa i Davida Carolla, to je „noćna mora za demokratiju“.

Kao društvo polako dolazimo sebi i uočavamo probleme koje stvara Facebook. Poštovanje privatnosti nikada nije bilo deo njihove misije. Zuckerberg je više puta podsećao senatore da je Facebook izrastao iz ideje grupe studenata za veb-stranicu – ali nije pomenuo da su na toj stranici birali najzgodnije studentkinje bez njihove saglasnosti. U prvoj deceniji razvoja ovog sajta, njegov moto je bio „kreći se brzo i ruši sve što ti se nađe na putu“. Sa takvim poslovnim etosom nije neobično što nas skandali povezani sa Facebookom više ne iznenađuju.

Ponekad neko primeti sumnjive postupke ove kompanije i digne prašinu. Kao i poslednjih dana, onda se obično pojavi Zuckerberg, izjavi da mu je veoma žao i da nije mogao da predvidi problem (uprkos upozorenjima stručnjaka i grupa za zaštitu privatnosti), izgovori nekoliko rečenica o „zajednici“ i planiranim „poboljšanjima“ i obeća da će se Facebook promeniti. Ali posle svih izvinjenja i obećanja da će biti pažljiviji i da će korisnicima osigurati više privatnosti – a bilo ih je dosta – neke stvari ostaju iste: nadziranje je ugrađeno u gene Facebooka, a svrha njegovog postojanja je kapitalizam nadziranja. Rešenje koje se nudi je predvidivo i pogrešno: dajte Facebooku još veću moć.

Zuckerbergovo saslušanje pred Kongresom jasno je pokazalo nekoliko stvari. Facebook i dalje odbija da prizna koliko malo korisnici znaju o onome što Facebook radi. Zuckerberg tvrdi da je većina korisnika upoznata sa aktivnostima praćenja koje se sprovode i da im to ne smeta, ali istraživanja pokazuju da se većina korisnika ne bi saglasila sa takvim praksama. Takođe, da bi opravdao svoj poslovni model, Facebook insistira na tvrdnji da korisnici preferiraju ciljano oglašavanje, uprkos tome što istraživanja pokazuju da 41 odsto njihovih korisnika više voli tradicionalno oglašavanje, dok se svega 21 odsto opredeljuje za ciljane oglase (63 odsto bi volelo da vidi manje oglasa bilo koje vrste). Sada se zna da desetine hiljada aplikacija imaju pristup velikim količinama podataka o korisnicima prikupljenim do 2015, baš kao i Cambridge Analytica. Tek sada, kad se našao pod reflektorima javnosti, Facebook pokušava da revidira odobrenja za korišćenje podataka.

Konačno, ni Facebook ni Google niti bilo koja od kompanija za nadziranje i praćenje ne mogu se same od sebe reformisati na iole smislen način, jer su zavisne od naših podataka. Poslednji patenti koje je Facebook zaštitio ne obećavaju ništa dobro. Kapitalizam nadziranja se često prikazuje kao prirodan poredak stvari u digitalnom svetu, ali to je rezultat izbora koje su pravili ljudi u trci za profitom. Kao poslovni model on nije ni neizbežan ni nepromenjiv.

Korak u dobrom smeru bi bio prelazak na kontekstualno oglašavanje. To znači da biste oglase dobijali na osnovu sadržaja stranice koju posećujete, a ne na osnovu analize podataka prikupljenih praćenjem ponašanja korisnika. Najavljena Opšta uredba o zaštiti podataka o ličnosti (GDPR) u Evropskoj uniji, kojom se štite prava korisnika, zahteva nove pristupe. I Facebook i Google su imali teškoća da ispune zahteve već postojećih zakona o zaštiti podataka koji su u Evropi stroži. Sudovi u Belgiji i Nemačkoj nedavno su objavili da su neke od praksi koje primenjuje Facebook (uključujući praćenje ljudi koji nemaju Facebook nalog) protivzakonite, a Google je već bio kritikovan i plaćao velike kazne zbog prikupljanja podataka bez saglasnosti i obaveštavanja korisnika o tome šta radi sa njima.

Ispunjavanje uslova koje postavlja GDPR verovatno će biti veliki izazov za kompanije koje se bave biznisom nadziranja. Ali uz zaprećene kazne i do 4 odsto globalnog prometa za ozbiljna kršenja pravila EU, tehnološke kompanije će morati ozbiljnije da shvate svoju odgovornost i sprovedu reforme. Pošto će već morati da primene nova pravila da bi nastavile da rade u Evropi, mogle bi – relativno lako – da primene ista pravila na korisnike u Severnoj Americi i ostatku sveta. I zaista, Facebook je pod sve većim pritiskom da tako i postupi – a i Zuckerberg je natuknuo da bi kompanija mogla poći u tom smeru. To bi bio veliki korak napred; zaštitnica prava potrošača Jessica Rich u članku objavljenom u magazinu Wired primećuje da bi bilo još bolje kad bi i Sjedinjene Države usvojile zakone slične onima u Evropi.

Problematična praksa kompanija za nadziranje i njihovo uporno odbijanje da odgovorno postupaju doveli su nas do prekretnice. Možemo se usprotiviti visokom nivou korporativnog nadziranja, kakvo pre dolaska interneta svakako ne bismo prihvatili, tako što ćemo izvršiti pritisak na Facebook i zakonodavce da nešto promene i tako što ćemo koristiti alternativne servise sa drugačijim poslovnim modelima. Takođe možemo zahtevati pozivanje na odgovornost čitavog digitalnog oligopola i bolju zaštitu naše privatnosti i podataka. Ovo je trenutak odluke: da li će internet pripasti njima ili nama?

Jennifer Cobbe, The New York Review of Books, 12.04.2018.

Peščanik.net, 19.04.2018.

Srodni link: Paul Mason – Budućnost Facebooka

 

Naučna disciplina koja proučava – neznanje


Često smo skloni da razmišljamo o neznanju kao o nečemu što bi trebalo da se prevaziđe ili nekako iskoreni mada je, zapravo, baš neznanje onaj glavni pokretač koji podstiče, prvo radoznalost, a samim tim i – razvoj nauke, donosi NYT.

07

Negde sredinom 80-ih godina prošlog veka, profesorka hirurgije sa Univerziteta u Arizoni, Marlis Vit (Marlys H. Witte) je predložila da se počne s uvođenjem predmeta “Uvod u medicinsko i drugo neznanje”.

Mora se reći da ova njena ideja nije bila baš najbolje prihvaćena; službenik izvesne fondacije kojoj se profesorka Marlis obratila kao potencijalnom finansijeru ovog predmeta joj je odgovorio kako će radije podneti ostavku nego što bi podržavai predmet iz oblasti – neznanja.

Prijateljski su joj napominjali da makar promeni naziv “predmeta”, kako bi bila “probojnija” za moguće finasijere ali ona, ipak, nije htela da odustane od koncepta da to ipak bude “predmet o neznanju”. Pedagozi i nastavni sloj prečesto propuštaju da naglase koliko, zapravo, ima nepoznanica u okviru nekog klasičnog školskog predmeta, discipline ili zadate teme. Marlis Vit je nekoliko godina kasnije napominjala da “Današnji tradicionalni udžbenici posvećuju najviše osam do deset stranica raku pankreasa”, a da pritom nikada ne kažu svojim učenicima i studentima kako, zapravo znamo jako malo o ovome.” Marlis je pre svega želela da njeni studenti počnu da shvataju granice (ne)znanja, kao i da razumeju da dobra i prava pitanja po pravilu zaslužuju podjednaku pažnju kao i odgovori. Napokon se pojavio i finansijer: bio je to Američki medicinski Savez – asocijacija koja je prva učinila da njena zamisao postane stvarnost… pa se njeni studenti rado prisećaju tog predmeta pod nazivom “(Ne)znanje stotinu i jedan”.

Predmeti egzotični poput ovog su i dalje su retki, zapravo gotovo da ih i nema, mada su poslednjih godina naučnici ubedljivi u svojim tvrdnjama da usredsređivanje na nepoznato može da pobudi latentni, skriveni poriv radoznalosti, dok isključivo isticanje samo onog što nam je poznato može dovesti do iskrivljenog razumevanja jedne bitne stvari, a to je: kakva je prava priroda znanja?

02

Stručnjak za neurologiju s Univerziteta Kolumbija, Stjuart Firstejn (Stuart J. Firestein) je 2006. godine započeo da drži predavanja iz “predmeta o naučnom neznanju”, pošto je, na svoje zaprepašćenje, otkrio da mnogi njegovi studenti veruju i gaje iluziju kako se danas zna gotovo sve o mozgu (duhovitost u vezi ovoga je njegov komentar: “Posumnjao sam da bi udžbenik-knjižurina od 1414 strana iz neurologije mogla da bude glavni krivac za ovu masovnu studentsku samoobmanu”).

Po njegovim tvrdnjama koje se pojavljuju u njegovoj knjizi koja datira iz 2012. o tome na koje sve načine neznanje podstiče razvoj nauke – mnogobrojni naučni fakti i “dokazi”, jednostavno, nisu dovoljno čvrsti da bi bili “večito nepromenjivi”, već im je, u stvari” suđeno da nailaze na žestoko osporavanje i revidiranje od strane generacija koje tek dolaze.

Firstejn piše i da otkrića u nauci nikada nisu bila rezultat nekakvo linearnog, urednog i pedantnog “procesa” – kako to mnogi njegovi studenti u svojim glavama zamišljaju – već najčešće podrazumevaju, prema njegovim rečima, “tapkanje u prostoriji u kojoj vlada mrkli mrak, kada počinjete da se sudarate s neidentifikovanim objektima dok tražite jedva uočljiva prikazanja”. Doktor Firstejn, potom, poziva svoje kolege naučnike iz različitih disciplina da svoje studente podučavaju onome što ih zaista uzbuđuje — ne, u svakom slučaju o hladno i neosetljivo predstavljenim činjenicama već o intrigirajućim, sasvim nepoznatim, nazovimo ih tek predosećajima — čime ovaj eminentni neurolog pokušava da uspostavi novu relaciju između studenata, učenika i mladih naučnika i istraživačkog procesa.

Predstaviti nesaglediva područja neznanja manjima nego što ona zaista jesu, a “čvrsta i ustanovljena saznanja” stabilnijim i solidnijim, studente često navodi da počnu da se navikavaju na pogrešno shvatanje odnosa između pitanja i odgovora na njega.15Mi, u stvari, o neznanju (pre)često razmišljamo kao o nečemu što bi trebalo prevazići ili iskoreniti, kao da je neznanje, naprosto, tek nedostatak tj odsustvo znanja. Ali, treba biti svestan da odgovori na trenutna pitanja nikako ne predstavljaju kraj zapitavanja; naprotiv – trenutni “odgovori” trebalo bi da posluže tek kao provokacija za neka nova pitanja.

Majkl Smitson (Michael Smithson), profesor sociologije sa Državnog Univerziteta u Australiji koji je svojim studentima ovog leta održao onlajn kurs iz “neznanja”, voli da upotrebljava analogiju koja sledi: Što više bude raslo “ostrvo znanja”, tim će pre njegova obala biti sve duža i duža. Prostije rečeno: što se više budemo uljuljkivali da je u srcu našeg malog ostrva znanja sve veće područje izvesnosti, tim pre će obale neznanja našeg ostrva postajati sve veće.

A upravo je to prostor u kojem se neznanje i znanje dodiruju. Bolje rečeno, što je više onih stvari koje navodno “znamo”, tim se pre više možemo dalje upitivati. Naravno da odgovori ne treba i ne mogu da pobeđuju pitanja, već se pitanja, upravo suprotno, međusobno umnožavaju. Odgovori po pravilu kreiraju neka nova pitanja.

Treba napomenuti, takođe, kako radoznalost nije tek neko “duševno raspoloženje”, stvar dobre volje da se za nešto zainteresujemo, niti je naročita sposobnost za nešto (npr. za nauku, istraživanja) statični nacrt, dispozicija; radoznalost je strast ljudskog uma koja treba i mora da se neprekidno širi.

Mapirati ove obale koje treba da pripadnu “ostrvu znanja” (sjajna metafora koja veoma slikovito i tačno prikazuje sićušnost našeg znanja naspram ogromnog prostranstva koje je i nadalje neizmerni “okean neznanja”) zahteva od nas shvatanje šta je to “psihologija nepoznatog”: to je Obala koja neprekidno raste, i gde odgovori samo rađaju neka nova pitanja. To je teren koji je karakterističan po tome što su u njemu kontradiktorne, suprotne i nejasne informacije. Ishod naše samoupitanosti je stanje u kojem se osećamo nesigurnima, kako su pokazali psiholozi, doprinoseći da naše emocije budu još intenzivnije: ne samo osećanja iznenađenosti i uzbuđenosti, već i osećanja frustracije i konfuzije.

21

Granično područje između onog što je potpuna nepoznanica poznata teritorija predstavlja ono mesto na kojem započinjemo borbu protiv sopstveniih predrasuda, kako bismo istražili i prihvatili sve one podatke koji odstupaju. Ovo je, u stvari, borba koju je 1962. fizičar, istoričar i filozof nauke Tomas Kun (Thomas S. Kuhn) opisao 1962. godine u svom klasiku pod nazivom “Struktura naučnih revolucija.” Nasuprot tome, u središtu našeg “ostrva” je utešno i sigurno, “bezbedna zavetrina” čime bi se mogli objasniti razlozi zbog kojih se biznisi žilavo bore kako bi uvek ostali inovativni – a samim tim i konkurentni na tržištu. Onda kad stvari idu dobro, firme započinju da “izostaju iz prakse učenja novih stvari, i potom se neminovno uparlože”, kaže prof. Geri Pizano (Gary P. Pisano) sa Harvardske poslovne škole (Harvard Business School). Oni tada počinju da beže od neizvesnosti, tražeći bezbedno utočište u unutrašnjosti ostrva.

“Nauka o (ne)znanju — ili kako se zove agnotologija jeste termin koji je postao popularan i široj javnosti zahvaljujući Robertu Proktoru (Robert N. Proctor), istoričar nauke na Univerzitetu Stenford. Ova “naučna disciplina je tek u svom nastajanju. Ova nova istraživačka je rasuta u komadiće i još uve nije sistematično povezana jer je još uvek relativno mlada i zbog toga što prevazilazi tradicionalno zacrtane granice naučnih disciplina. Ipak, pridavanje pažnje nepoznatom, uz predstavljanje i osvetljavanje onih slučajeva koji mogu da sjajno ilustruju plodotvoran odnos između pitanja i odgovora koji na njega usledi, uz istraživanje “psihologije nepoznatih oblasti” predstavlja neophodnost današnje ozbiljne nauke.

Stoga bi svi koji se bave obrazovanjem – profesori i nastavnici – trebalo da dužnu pažnju posvete odnosu koji postoji između neznanja i kreativnosti koju ona proizvodi, uz “strateško kreiranje neizvesnosti” koja bi buduće naučnike uvek iznova podsticala na istraživački proces.

Izgleda da je došao trenutak da “na neznanje gledamo kao na uobičajenu pojavu, a ne kao na nekakvu devijaciju,” odvažno izjavljuju sociolozi Linzi Mekgoj (Linsey McGoey i Matijas Gros (Matthias Gross). U tom slučaju će naši studenti postati inteligentniji i radoznaliji: ukoliko, uz sve dosadašnje “naučne dokaze i činjenice”, budu upoznati i s teorijama koje barataju nepreglednom teritorijom našeg naučnog neznanja.

 

nytimes.com

Virtuelni 13-to godišnjak prevario čoveka, prošavši prvi u istoriji Tjuringov test


“Judžin Gustmen” uspeo je da prevari 33% onih koji su ga ispitivali na Tjuringovom testu– mislili su da je Judžin čovek. Oni koji su o njemu davali sud – i koji su mislili da je ljudsko biće – bila je čitava trećina; ova se brojka može smatrati prekretnicom u razvoju veštačke inteligencije, jer sugeriše da veštačka inteligencija nije prevara,već da zadobija odlike ljudske, biološke inteligencije. O ovom kompjuteru i softveru iscrpno je pisao londonski dnevnik The Guardian.

Kako je u međuvremenu stigao i demanti od strane jednog dela naučne javnosti, da Judžin nije prava veštačka inteligencija već “samo” razvijeni softver kojim je moguće komunicirati sa ljudskim bićima – jedna stvar je jasna: iako četbot, a ne AI, ovaj softver je uspešno komunicirao sa ljudima.

Usuđujem se da primetim da smo mi, ljudska bića, više nego često na niovu ništa boljem od “ručnog mlina za kafu” i to češće nego što bismo ikada želeli da priznamo. Iako se možda i prečesto oslanjamo na mašine, koje nam pomažu u svakodnevnom radu, skloni smo da sebi pripisujemo sve zasluge, smatrajući sebe nekim briljantnim ‘mudricama’. Naša nas sujeta, prosto, sprečava da o sebi ne mislimo kao o superiornim formama postojanja.

Tako da smo sada egal: mi vs. mašine smo u nerešenoj poziciji… a rezultat je 1:1. Kao što naš mozak ima odlike fantastično razvijenog kompjuterskog softvera, tako i računari i računarski programi već poprimaju odlike “ljudskog neuro-softvera”.

Niti smo mi toliko pametni, niti su mašine toliko glupe. Ono što nam je zajedničko jeste to da su računari – baš kao i mi – tek samo nešto malo više od “ručnog mlina za kafu” 😉

Alan Turing, source: The Guardian

(Bista Alana Tjuringa, vajara Alana Ketla,  u obaveštajnom centru Blečli park, Milton Kejnz, UK . foto: The Guardian

 

Alan Tjuring (Alan Turing) je bio svetski poznati matematičar i čovek koji je uspeo da prevari Treći Rajh svojim sistemom za šifriranje i razbijanje šifara. Svoj test osmislio je 1950, rekavši da “ako mašinu kroz ovaj test mi kao ljudska bića ne uspemo da ‘optužimo’ kako se razlikuje od čoveka, onda je u pitanju ‘razmišljanje’ “.

Super kompjuter je prevario ljude koji su ga ispitivali, pa su pomislili kako je u pitanju 13-godišnji dečak; time je ovo postala prva mašina koja je uspela da prođe Tjuringov test, kažu stručnjaci. U Kraljevskom društvu u Londonu testirano je pet mašina kako bi se ispitalo da li su one u stanju da prevare ljude, koji bi tokom pismene konverzacije “s njim” procenjivali “o kome” se odnosno, “o čemu” se radi.

Test je 1950. osmislio pionir informatike i računarskih nauka i jedan od najvećih stručnjaka za razbijanje (ali i kreiranje) kodova u drugom svetskom ratu, Alan Tjuring. Pošto je osmislio ovaj test, izjavio je da “ako se mašina u svojim odgovorima ne razlikuje od čoveka, onda je to “istiniti i verodostojni proces razmišljanja”.

Nijedan kompjuter do sada nikada nije položio Tjuringov test, koji zahteva da barem 30% ljudskih ispitivača bude prevareno tokom serije petominutnih “razgovora”, to jest virtuelne konverzacije putem tastature i pisanog sadržaja, saopštili su organizatori ovog testa sa Univerziteta u Redingu.

 

turing test                     (foto: The Guardian)

 

Ipak, “Judžin Goostman”, koji nije ljudsko biće već računarski program razvijen tako da simulira 13-godišnjeg dečaka, uspeo je da ubedi 33% sudija da je čovek, saopšteno je sa ovog univerziteta.

Profesor Kevin Vorvik sa Univerziteta u Redingu rekao je da “U oblasti veštačke inteligencije, nema stvari koja je toliko ikonička ili toliko kontroverzna od ove AI prekretnice – Tjuringovog testa. Kao takav, ovaj test je izdržao sve provere, da bi ga, napokon, stručnjaci tako važne institucije poput Kraljevskog društva u Londonu, doma britanske nauke i poprišta mnogih velikih naučnih dostignuća tokom vekova, priznali. Ova prekretnica će ući u istoriju kao jedna od najuzbudljivijih.”

Za uspeh ove mašine “krivac” je američki naučnik ruskog porekla, Vladimir Veselov, koji živi u Sjedinjenim Američkim Državama, kao i Ukrajinac Jevgenij Demčenko (Eugene Demchenko), koji živi u Rusiji.

Veselov je, povodom uspeha svojeg računara s karakteristikama ljudskog razmišljanja, izjavio: “Ovo je izuzetan uspeh za nas, i nadamo se da će se ovim povećati i interesovanje za veštačke inteligencije i čet-botove” (chatbots, “roboti za ćaskanje”, softver koji je u stanju da simulira razgovor s ljudskim bićima, naročito putem Interneta).

Vorvik je rekao da je i ranije bilo potvrda kako je ovaj test prošao proveru nekih računara u sličnim takmičenjima širom sveta. “Pravi Tjuringov test ne postavlja pitanja niti zacrtava specifične teme pre razgovora i ispitivanja”, rekao je on. “Zbog toga, ponosno možemo objaviti da je ova naša mašina – bez ikakve prethodne pripreme, bez prevare i dosluha sa onima koji računar ispituju – uspešno prošla test Alana Tjuringa, i to po prvi put u istoriji.”

Vorvik je rekao da bi računar sa takvom veštačkom inteligencijom nalik našoj, ljudskoj, imala “implikacije po društvo”, i da će poslužiti kao ozbiljno “upozorenje kriminalcima, naročito onima koji plivaju u vodama sajber-kriminala“.

alan 02

 (foto: Mashable)

Ispitivanje je obavljeno u subotu 7. juna 2014, i bilo je utoliko dirljivije jer je održano na 60-togodišnjicu smrti Alana Tjuringa, koji je postavio temelje moderne informatike. Tokom Drugog svetskog rata, njegov rad na razbijanju šifara u čuvenom britanskom obaveštajnom centru blizu Londona, Blečli parku (Bletchley Park), zaslužan je što je ovaj najkrvaviji rat rat u istoriji uveliko skraćen, spašavajući time i nebrojene hiljade ljudskih života.

Umesto da bude slavljen kao heroj, Tjuring je progonjen zbog svoje homoseksualnosti. Nakon što je podignuta lažna optužba, po izricanju presude za blud nad 19-togodišnjakom u Mančesteru 1952, bio je hemijski kastriran. Dve godine kasnije, umro je od trovanja cijanidom, počinivši očigledno samoubistvo, iako je bilo lažnih sugestija kako je njegova smrt bila nesreća. Istina je, nasuprot nekim pričama, da je Alan Tjuring, kao veliki ljubitelj vina, enologije i užitaka iz vinarija, naiskap ispio vinsku čašu ovog napitka – ali prethodno pomešanog sa cijanidom. Istina je izašla na videlo, nakon šest decenija, da bi tek 2013. godine Alan Tjuring bio proglašen nevinim. Sud vremena pokazao se, istina zakasnelo, ipak pravednim.

Prošlog decembra, nakon duge kampanje protiv lažnih optužbi na njegov račun, Tjuring je konačno posthumno pomilovan od strane Britanske kraljevske porodice.

Godine 2011, na festivalu tehnike u indijskom gradu Guvahata, aplikacija po imenu Cleverbot učestvovala je u jednom testu Tjuringovog tipa; tada je ovaj program bio doživljen kao čovek od strane od 59,3% svojih sagovornika – sudija (u poređenju sa rezultatom od 63,3%, koliko istinski čovek bude u proseku prepoznat kao ljudsko biće na Tjuringovom testu). Međutim, pošto se program oslanjao na bazu podataka stvarnih razgovora, mnogi osporavaju to da li ova mašina tj. program, u stvari, pokazuje istinsku “inteligenciju”. Na ovaj način, takozvani “Judžin Gustmen” – zapravo program za konverzaciju s ljudima – uspešno je počinio pljačku identiteta, nagnavši sudije da pomisle kako se reč o čoveku, a ne o mašini.

Pročitajte kako je Judžin prevario čoveka

Šta je, zapravo, Tjuringov test?

 

The Guardian, 09. 06. 2014