Veštačka inteligencija kao pretnja čoveku

Veštačka inteligencija koja radi za Fejsbuk “izumela” je jezik koji ljudi ne mogu razumeti: sistem je isključen pre nego što je ušao u mrežu Skynet

Fejsbuk, kompanija koja vodi najveću svetsku drušvenu mrežu bila je prisiljena da zatvori jedan od svojih sistema veštačke inteligencije nakon što su istraživači otkrili da je počeo da komunicira jezikom koji nisu mogli razumeti, piše TechTimes, tehnološki portal iz Silicijumske doline.

Ovaj nesvakidašnji incident podseća na već ikoničku scenu podizanja mreže Skajnet (Skynet) u filmu Terminator. Možda je direktor kompanije “Tesla” Elon Musk u pravu kada kaže da je “AI najveći rizik s kojim se suočavamo”.

Facebook povlači AI sistem sa sopstvenim jezikom

Facebook je morao da povuče svoju veštačku inteligenciju na kojoj su radili njegovi istraživači jer su se stvari otele kontroli. AI nije počeo da isključuje kompjutere širom sveta ili nešto slično, ali je prestao da koristi engleski i počeo da koristi jezik koji je sam kreirao.

Bob: “Ja mogu mogu ja ja sve ostalo” (“I can can I I everything else”)

Alis: “Lopti ima nula meni meni meni meni meni meni meni meni meni” (“Balls have zero to me to me to me to me to me to me to me to me to”)

Gore navedeni odlomci, koji za ljude nemaju smisla, jesu izvodi “razgovora” koji se dogodio između dva izvršna AI posrednika razvijena od strane Fejsbuka. AI agenti (posrednici), stvoreni za pregovore sa ljudima, prvi put su razgovarali jedni s drugima koristeći običan engleski, ali su na kraju stvorili novi jezik koji su razumeli samo AI sistemi.

Takozvani “AI agenti” nisu bili ograničeni samo na upotrebu engleskog jezika tako da su se udaljili od  njega, što im je olakšalo i ubrzalo međusobnu komunikaciju. Istraživači na Facebooku su, međutim, odlučili da isključe AI sisteme a potom ih prisile da razgovaraju između sebe samo na engleskom

Zašto je ovo zastrašujući razvoj veštačke inteligencije?

Zbog čega je razorno dopuštati da AI posrednici međusobno komuniciraju na jeziku koji su izmislili?

Ukoliko bismo AI sistemima dopustili da koriste sopstveni jezik, ljudi naprosto neće moći da prate o čemu ti agenti, zapravo, precizno govore. Ljudi nisu u stanju da shvate kako kompleksni AI sistemi misle tokom svojih skrivenih misaonih procesa, pa će se ta tajnost agenata AI biti još dodatno pogoršati kada ukoliko se njihovi razgovori obavljaju na nepoznatom jeziku.

Ako bi se AI agentima dozvolilo da govore jezikom koji su sami stvorili, možda bi došao trenutak kada im više ne bi bila potrebna bilo kakva ljudska intervencija.

Veštačka inteligencija kao “Najveći rizik”

Elon Musk veruje da su brojni razlozi zbog kojih ljudi treba da “brižljivo neguju” strah, i zaziru od komfornog prepuštanja veštačkoj inteligenciji mašina; zato je od američkih guvernera zatražio da primene propise koji se tiču tehnologije i posledica razvoja veštačke inteligencije.

“Svakodnevno sam izložen najsavremenijim vidovima veštačke inteligencije, i mislim da bi ljudi trebalo da se zaista zabrinuti zbog toga”, rekao je izvršni direktor kompanije Tesla početkom jula na Letnjem sastanku Nacionalnih guvernera na Rod Ajlendu.

AI sistemi su u stanju da širok spektar najrazličitijih stvari obavljaju bolje od ljudi i, ukoliko ih ne nadziremo i proveravamo, ukoliko ih ne držimo pod konstantnom kontrolom, mogu prerasti u nešto što nas, ljude, može u potpunosti zameniti.

Uzgred, najtoplije preporučujeno nastup koji je američki neuro-naučnik i filozof Sem Heris (Sam Harris) imao oktobra 2016 na TED-u.

 

30. 06. 2017, Aaron Mamiit, Tech Times

 

 

Pažnja: Studenti, sklonite vaše laptopove i počnite da pišete olovkom

Laptopovi su uobičajeni u univerzitetskim slušaonicama i učionicama širom sveta. Ali, daleko od toga da je ovo moderno tehnološko pomagalo najbolji pomoćnik prilikom našeg savladavanja materije koju želimo da upamtimo. O ovoj temi je 17. aprila bilo  reči u vikend-izdanju programa Američkog nacionalnog radija (NPR)

01

I dok laptopovi postaju sve manji a  sve prisutniji, s pojavom tablet-računara nekako se rodila i ideja da mnogim današnjim studentima beleške ispisivane rukom deluju staromodno. Kucanje beležaka je brže – ono dolazi do izražaja kada ima puno informacija koje treba preuzeti. Ali, ispostavilo se da i dalje postoje prednosti onih stvari i navika koje smo do pre samo neki dan obavljali na, uslovno rečeno, “staromodan” način.

I to iz najmanje jednog razloga: istraživanja pokazuju da laptopovi i tablet računari imaju tendenciju da nas zbunjuju i odvraćaju nam pažnju – kako je samo lako da kliknemo na Facebook tokom dosadnog predavanja! Jedna studija je pokazala da je već i sama činjenica da morate biti nešto sporiji kada beleške pravite rukom – a ne kucanjem po tastaturi – ono što papir i olovku čini daleko korisnijima na duge staze.

U studiji objavljenoj u stručnoj periodici Psychological Science, Pam A. Mueller s Univerziteta Prinston i Daniel M. Oppenheimer sa Univerziteta u Kaliforniji, Los Anđeles, testirali su kako hvatanje beleški rukom i tastaturom utiču na učenje.

“Kada ljudi kucaju svoje beleške imaju tu tendenciju da ono što čuju doslovno prepisuju, i to što je moguće više”, kaže Milerova za Američki nacionalni radio NPR.Studenti koji su beleške hvatali rukom su u našim istraživanjima bili primorani da budu selektivniji – jer rukom ne možete pisati toliko brzo kao što možete kucati. Upravo ta “dodatna” mentalna obrada materijala, koja se pojavljuje između onog što čujemo od predavača i onog što potom napišemo kao belešku na papiru, jeste najkorisnije svojstvo pisanja rukom”.

08

Milerova i Openhajmer naveli su da se beleženje izrečenog može kategorizovati na generativne i negenerativne beleške. Generativno beleženje, kakvo je hvatanje beleški rukom, odnosi se na “sumiranje, parafraziranje i konceptno mapiranje” dok negenerativno beleženje, kakvo je kucanje na tastaturi, podrazumeva doslovno kopiranje -prenošenje iskazanog.

Postoje dve hipoteze zašto je hvatanje beleški rukom daleko korisnije i praktičnije. Prema prvoj hipotezi, koja se još naziva i hipotezom kodiranja, kada osoba beleži rukom “(mentalna) obrada koja se javlja u ovom procesu pisanja” poboljšava “učenje i zadržavanje materije koju želimo da upamtimo” Druga, pod nazivom “hipoteza spoljnog skladištenja podataka”, kaže da učimo onda kada smo u stanju da se osvrnemo i pozovemo se na svoje beleške, ili čak i beleške drugih ljudi.

Papir je u stanju da izvučene beleške učini opipljivim na način na koji digitalni uređaji to ne mogu.

Upravo zato što možemo da kucamo brže nego što smo u stanju da pišemo rukom, oni koji koriste laptop češće će nastojati da doslovce prepisuju ono što čuju. Zato su Milerova i Openhajmer bili su suočeni sa pitanjem: da li prednosti veće količine materijala dobijenog kucanjem na laptopu prevazilaze nedostatke poput izostanka obrade informacija? Osobe koje kucaju na laptopu mogu da prenesu više podataka, ali nisu u stanju da te informacije zapamte jer im nedostaje mentalna obrada, koja postoji samo onda kada beleške hvatamo rukom. S druge strane, pri pisanju rukom, mi obrađujemo informacije daleko bolje, pamteći ih bolje, ali imamo manje zabeleženog materijala.

Milerova i Openhajmer su za svoje prvo istraživanje koristili studente (koji su i inače standardni “zamorčići” u najvećem broju psiholoških istraživanja), kojima bi pokazivali govore značajnih ličnosti na TED-u. Govornici su pričali o najrazličitijim temama, u zavisnosti od oblasti za koju bi govornici bili specijalizovani. Nakon toga, oni su otkrili da studenti koji su koristili laptopove napisali znatno više od onih koji su beleške hvatali rukom. Kada su testirali koliko su dobro učenici upamtili informacije koje su čuli od govornika, istraživači su otkrili ključnu tačku razilaženja, i to shodno vrsti pitanja. Na ona pitanja koja su od studenata tražila da naprosto zapamte činjenice koje su čuli, kao što su, recimo, datumi, obe grupe su se pokazale jednako dobre. Ali, kada se radilo o “konceptualno-primenjivim” pitanjima, kao što je, recimo, “Po čemu se Japan i Švedska razlikuju u svojim pristupima jednakosti u svojim društvima?”, korisnici laptopova su odgovarali “znatno lošije”.

03

Ista stvar se desila i u njihovoj drugoj studiji, čak i onda kada su studentima sa laptopovima izričito rekli da nastoje da što više izbegavaju doslovno prekucavanje onoga što bi čuli od govornika. “Čak i kada smo im posebno napomenuli da beleške ne treba da uzimaju doslovno od reči do reči, oni nisu bili u stanju da prevaziđu taj instinkt,” kaže Milerova. Što više reči studenti otkucaju doslovce, tim će ih se teže setiti na testu provere zapamćenog.

U cilju testiranja hipoteze o spoljnom skladištenju informacija, oni su studentima u svom trećem istraživanju dali studentima priliku da pregledaju svoje beleške u terminu između predavanja i testiranja zapamćenog. Radi se o tome da, ukoliko učenici imaju vremena da prouče beleške koje su uradili na svojim laptopovima, činjenica da su napravili obimnije beleške od svojih vršnjaka koji su ih hvatali olovkom moglo da im pomogne da imaju bolje performnse i rezultate.

Međutim, studenti koji su beleške hvatali rukom pokazali su još bolje rezultate. “Ovo je veoma sugestivan dokaz da beleženje rukom produkuje superiorno, eksterno skladištenje podataka, kao i superiorne funkcije obrade podataka koje su zabeležili” napisali su u zaključku ove studije Milerova i Openhajmer.

Da li studije poput ove znače da će inteligentni učenici na koledžima početi da se vraćaju sveskama, blokčićima, rokovnicima i olovkama?

“Mislim da će biti teško “prodati im” ideju povratka na olovku i papir”, kaže Milerova. “Oni se, međutim, razvijaju uz mnogo novih tehnologija, kao što je, recimo, Livescribe, ili razne optičke olovke i tablet-računari, koje su sve bolji i bolji. Mislim da bi studenti i svi mladi ljudi daleko lakše i radije prihvatili ovakve tehnologije – stiluse i aktivne ekrane po kojima se može pisati – nego upotrebu papira i olovke.”

 

Korisni linkovi:

Ne otpisujte olovku i hartiju

U digitalnoj eri, beleške na papiru i dalje us relevantne i značajne.

NPR

Umalo uhapšen, sada prognan, Snouden ipak šeta Amerikom – zahvaljujući robotu

Edvard Snouden (Edward Snowden) pojavljuje se preko Bim-bota (Beam bot) u ACLU-ovim njujorškim kancelarijama, sa novinarkom Lorom Poitras, direktorom Fondacije Freedom of the Press, Trevorom Timom i stručnjakom za bezbednosne tehnologije Mikom Lijem. I tu nije kraj njegovom ‘švrljanju unaokolo’, prenose BBC i The Guardian.

Otkad je pre oko godinu dana prvo postao ime poznato u svakoj kući na našoj planeti, Edvard Snouden je kao ‘dežurni virtuelni krivac‘ postao moderna verzija Maksa Hedruma: njegovo se lice na ekranu emituje iz egzila u Rusiji ili Hong Kongu, gde mu je pretila opasnost da bude uhapšen. Ali, u doba TelePresence robota, pojavljivanje čak i njegovog lica na ekranu nije toliko pravno problematično i restriktivno kao što bi to nekada bilo. Hi-tech špijunaža više nije nikakva novost.

 

Edward Snowden Appears At TED Conference

(Edvard Snowden na TED-u, kurator je bio Chris Andersonfoto: Steven Rosenbaum/Getty/WIRED.com)

 

Tokom najmanje poslednja tri meseca, Snowden i njegove pristalice eksperimentisali su sa upotrebom Beam Pro sistema za daljinsko prisustvo; ekran i kamera sa Wi-Fi vezom, na stalku koji se kreće na točkovima, a kojeg Snouden može koristiti za komunikaciju s osobljem u njujorškoj kancelariji Američke Unije za građanske slobode (ACLU), kako kaže njegov ACLU advokat Ben Vizner. S jednog računara u Moskvi, Snouden može da uključi video-bota i koji se kotrlja uzduž i popreko ACLU kancelarije. I Snoudenove pristalice nadaju se da bi Beam-bot sistem mogao biti prvi od nekoliko koji bi omogućio da ovog dojavljivača dovedu u prostorije u kojima bi se nalazili njegovi poklonici širom sveta, delimično neutrališući izolaciju na koju je prinuđen zbog optužbi za špijunažu, kao i eventualnih konsekvenci ako bi napustio relativnu bezbednost pod okriljem Rusije.

“Koristi ga da bi se npr. otkotrljao u hodnik i velikodušno interaguje sa velikim brojem zaposlenih u ACLU”, kaže Vizner. “Mislim da to može da bude razložan odgovor na njegov egzil.”

Snoudenova široka upotreba Beam bota u ACLU kancelarijama započela je još pre njegovog martovskog govora na TED-u, kada je koristio istog robota na točkiće vrednosti $16,000 da bi nastupio na bini. Vizner kaže da su organizatori želeli da testiraju TED robota u Njujorku pre nego što je korišćen na konferenciji u Vankuveru. “Doneli su nekoliko modela u kancelariju, i tu smo ih priključili”, kaže Vizner. “Utvrdili smo da su radili zaista dobro.”

Snowden, kome Sjedinjene Države i dalje prete hapšenjem, u prilici je da shvati kako njegov slučaj nije beznadežan, naprotiv, i da je pravna priroda njegovog slučaja takva da bi mogao čak  i da dokaže kako nije kriv. I pored svega, zvaničnici Bele Kuće i dalje žle da Snowden bude priveden. A do tada, Snouden se nalazi na slobodi: Rusi i ne pomišljaju da on treba da bude priveden.

Snouden može da svog robota “vozi” tokom svoje kancelarijske ‘teleprezentacije’ , krećući se pomoću sistema strelica na svojoj tastaturi. Brzina mu je sasvim dovoljna: dve milje (3km) na sat. Ima bateriju koja traje osam sati pre nego što treba da pristane na stanici za punjenje po ceni od $950, pa čak i postoji i “žurka stil” (party mode), kada se aktivira više ambijentalnih mikrofona i podiže nivo jačine ugrađenih zvučnika.

Od svog prvog pojavljivanja na TED-u, Snoudenov Beam bot došao je u centar pažnje ponovo u sredu 11. juna 2014. u priči za nemački list Tagesspiegel. Međutim, dok je Tagesspiegel opisao Snoudena kao nekog ko koristi Beam bot sistem redovno i stalno, Vizner kaže da je ‘Snoudenbot’ tek povremeni posetilac ACLU kancelarije. Jednom prilikom je izvršni direktor neprofitnog sektora Entoni Romero je ‘poršetao sa ovom mašinom kroz zgradu. Drugi put, Vizner je morao da brzo skoči na nešto drugo i javi se na telefon u vezi sastanka sa jednim svojim klijentom – takođe dojavljivačem. Kada je sišao s telefona, otkrio je da je Snouden upravljao ‘Snoudenbotom’ svuda unaokolo, naročito se zadržavši u razgovoru sa advokatom za građanske slobode Džamilom Džaferom u njegovoj kancelariji, gde su raspravljali o zakonskoj odredbi 702 Zakona o spoljnom tj inostranom obaveštajnom nadzoru. “Bilo je to veoma kul”, kaže Vizner. U svakom slučaju, još je u avgustu 2013. BBC pisao o povredama pravila privatnosti koje je počinila američka beznednosna agencija NSA, pa bi se na Snoudena moglo gledati i kao na čoveka koji nije kriv, već, zapravo zaslužnog branioca građanskih sloboda na globalnom nivou.

 

snow 00

(Snowden se javlja preko Beam bota, u kancelarijama ACLU, Njujork. S leva: Lora Poitras, Trevor Timm i Micah Lee.  foto: Freedom of the Press Foundation)

Trevor Tim, direktor Fondacije Freedom of the Press (Sloboda štampe), u čijem odboru sedi i Snouden, kaže da je “Edvard bio zainteresovan da isproba TelePresence robota i pre njegovog nastupa na TED-u. “Govorio je ljudima da bi ovaj robot mogao da promeni pravila igre na polju tehnologije”, kaže Tim. “Ne mislim da je iko poverovao u njegove reči sve dok dok ga nismo videli u akciji… Sve što mu je potrebno jesu ruke da bi otvorio vrata, a onda može da ide kuda god želi.” Inače, Edvarda Snoudena je intervjuisao i TED kustos Kris Anderson preko BEAM daljinskog sistema. Tada je Kris ‘priveo‘ Edvarda na ‘ispitivanje’, na koje je Snouden veoma rado pristao. Inače, Snouden ne pristaje na često ‘druženje’ s medijima, i ne daje izjave za štampu baš tako lako.

Tim se susreo sa Snoudenom-kao-robotom u aprilu 2014., zajedno sa Lorom Poitras, novinarkom i sineastom koja snima dokumentarac o njemu. “Njegova pojava na monitoru je tada obasjala sve prisutne”, opisuje Tim. “Kada je krenuo ka nama, svi smo nekako mahinalno odstupili unazad.”

Ove i slične scene već su izrodile žanr tviterskog humora koji se zove “Snoudenbot”. “Bip Bup, verujem u transparentnost”, navodi jedan tvit sa naloga koji se zove ‘Robot Snouden’. Glen Grinvald, osoba koja je prva dobila Snoudenovu informaciju o curenju podataka, napisao je da bi voleo da vidi ‘Snoudenbota’ kako se kotrlja preko parkinga Američke bezbednosne agencije NSA.

Ali šalu na stranu, Tim i Vizner kažu kako se nadaju da će pokušati da nekako postave više Beam botova na druge lokacije, na kojima bi bi želeli da ljudi imaju interakciju sa Snoudenom, kao što sada imaju u kancelariji Fondacije za slobodu štampe u San Francisku i na škotskom Univerzitetu Glazgov, gde je Snouden u februaru 2014. izabran za rektora. “Nadam se da će jednog dana postojati čitava flota ‘Snoudenbotova’ širom sveta,” kaže Tim.

Najveća mana Snoudenovih TelePresence robota mogla bi, zapravo, biti njihova bezbednosna strana – što bi bila i glavna prepreka za nekadašnjeg američkog obaveštajca poznatog po svojim gotovo paranoidnim merama kojima nastoji da spreči nadzor svojih komunikacijskih linija. Snoudenov Beam bot koristi standardnu TLS i AES 256-bitnu enkripciju za obezbeđivanje privatnih razgovora. Ali, vodič kroz mrežu sigurnosnih administratora upozorava da kompanijske “infrastrukture uspostavlja odnos poverenja između uređaja i pilot stanice”, kao i da bi “ugrožena infrastruktura bitla u stanju da sprovede napad na posrednika u komunikaciji”. To znači da bi neko mogao da upadne usred Snoudenove komunikacije sa auditorijumom, i predstavlja se kao on, dajući lažne odgovore za koje bi publika mislila da su autentični; zapravo, posrednik koji bi zauzeo Snoudenovu liniju, i umesto njega vodio razgovor). Sa pravom upotrebom hakerskih znanja i veština ili na pravni zahtev, drugim rečima, onaj koji prisluškuje komunikaciju možda bi moći da zna sve ono što robot čuje, vidi ili kaže. Ovo bi verovatno moglo ograničiti Snoudenovu upotrebu te tehnologije samo na razgovore za koje bi bio voljan da ih imaju samo sa širokom javnošću.

 

snow 02

(“Snowdenbot” u ćaskanju sa prisutnima na TED-u 2014. foto: Bret Hartman/TED)

Suitable Technologies, tehnološka kompanija iz Palo Alta koja je načinila ovog robota za komunikaciju, takođe se čini pomalo ‘ćudljivom’ kada je u pitanju otvorena podrška Snoudenu. Neki od njenih klijenata “nisu baš najveći ljubitelji Snoudena”, kaže marketinški direktor ove kompanije, Erin Rapacki. Oni čak i imaju klijente koji su i sami iz NSA, kako je The Forbes objavio u ovog januara.

Ali, Rapacki kaže da je “veoma srećna što nekome ko nije u mogućnosti da putuje omogući da kroz ovog Beam bota ide tamo gde želi da bude.” Ona poredi Snoudena sa drugim mušterijama, koji ove botove koriste kako bi posetili fabrike u Kini ili prisustvovali sastancima i tele-konferencijama. (Pogledajte zaista čudnije-od-fantastičnog marketinški video koji prikazuje ove navedene funkcije robota).

Rapacki smatra da je Snoudenova prva javna upotreba njihove tehnologije na TED konferenciji u Vankuveru predstavljao upečatljiv uspeh. Ona ističe da je dijapazon Snoudenove uporebe ovog robota prilikom svog govora na bini bio u rangu ljudskog bića. Nasuprot tome, kada je zamenik direktora NSA Ričard Ledžet odgovorio Snoudenu, on je to učinio putem video-veze na pozamašnom ekranu iznad bine. “Skoro da ste imali osećaj da vam se obraća Veliki Brat”, kaže Rapacki. “Ledžetov nastup nije delovao tako prisno. Sa Beam botom, moguće je stupiti u ontakt sa nekim kao da pričate licem u lice.

“Posle njegovog govora na TED-u, Snouden je koristio Beam bot da bi nakratko prolutao konferens salom, ćaskajući sa ACLU-ovim pravnikom Entonijem Romerom, pozdravljajući ostale članove iz publike, uključujući i Sergeja Brina iz Google-a, i pozirajući za one koji su želeli da s njim naprave fotografije. Kako Vizner kaže, “Svako je želeo da s njim povede razgovor i ima selfie sa Snoudenbotom”

Robot ili ne, izgledalo je kao da je to bio neki od njegovih najčovečnijih momenata u životu.

JORDAN GOLSON 12.06.2014, WIRED.com

JACOB KASTRENAKES 12. 06. 2014, THEVERGE.com