Veštačka inteligencija kao pretnja čoveku

Veštačka inteligencija koja radi za Fejsbuk “izumela” je jezik koji ljudi ne mogu razumeti: sistem je isključen pre nego što je ušao u mrežu Skynet

Fejsbuk, kompanija koja vodi najveću svetsku drušvenu mrežu bila je prisiljena da zatvori jedan od svojih sistema veštačke inteligencije nakon što su istraživači otkrili da je počeo da komunicira jezikom koji nisu mogli razumeti, piše TechTimes, tehnološki portal iz Silicijumske doline.

Ovaj nesvakidašnji incident podseća na već ikoničku scenu podizanja mreže Skajnet (Skynet) u filmu Terminator. Možda je direktor kompanije “Tesla” Elon Musk u pravu kada kaže da je “AI najveći rizik s kojim se suočavamo”.

Facebook povlači AI sistem sa sopstvenim jezikom

Facebook je morao da povuče svoju veštačku inteligenciju na kojoj su radili njegovi istraživači jer su se stvari otele kontroli. AI nije počeo da isključuje kompjutere širom sveta ili nešto slično, ali je prestao da koristi engleski i počeo da koristi jezik koji je sam kreirao.

Bob: “Ja mogu mogu ja ja sve ostalo” (“I can can I I everything else”)

Alis: “Lopti ima nula meni meni meni meni meni meni meni meni meni” (“Balls have zero to me to me to me to me to me to me to me to me to”)

Gore navedeni odlomci, koji za ljude nemaju smisla, jesu izvodi “razgovora” koji se dogodio između dva izvršna AI posrednika razvijena od strane Fejsbuka. AI agenti (posrednici), stvoreni za pregovore sa ljudima, prvi put su razgovarali jedni s drugima koristeći običan engleski, ali su na kraju stvorili novi jezik koji su razumeli samo AI sistemi.

Takozvani “AI agenti” nisu bili ograničeni samo na upotrebu engleskog jezika tako da su se udaljili od  njega, što im je olakšalo i ubrzalo međusobnu komunikaciju. Istraživači na Facebooku su, međutim, odlučili da isključe AI sisteme a potom ih prisile da razgovaraju između sebe samo na engleskom

Zašto je ovo zastrašujući razvoj veštačke inteligencije?

Zbog čega je razorno dopuštati da AI posrednici međusobno komuniciraju na jeziku koji su izmislili?

Ukoliko bismo AI sistemima dopustili da koriste sopstveni jezik, ljudi naprosto neće moći da prate o čemu ti agenti, zapravo, precizno govore. Ljudi nisu u stanju da shvate kako kompleksni AI sistemi misle tokom svojih skrivenih misaonih procesa, pa će se ta tajnost agenata AI biti još dodatno pogoršati kada ukoliko se njihovi razgovori obavljaju na nepoznatom jeziku.

Ako bi se AI agentima dozvolilo da govore jezikom koji su sami stvorili, možda bi došao trenutak kada im više ne bi bila potrebna bilo kakva ljudska intervencija.

Veštačka inteligencija kao “Najveći rizik”

Elon Musk veruje da su brojni razlozi zbog kojih ljudi treba da “brižljivo neguju” strah, i zaziru od komfornog prepuštanja veštačkoj inteligenciji mašina; zato je od američkih guvernera zatražio da primene propise koji se tiču tehnologije i posledica razvoja veštačke inteligencije.

“Svakodnevno sam izložen najsavremenijim vidovima veštačke inteligencije, i mislim da bi ljudi trebalo da se zaista zabrinuti zbog toga”, rekao je izvršni direktor kompanije Tesla početkom jula na Letnjem sastanku Nacionalnih guvernera na Rod Ajlendu.

AI sistemi su u stanju da širok spektar najrazličitijih stvari obavljaju bolje od ljudi i, ukoliko ih ne nadziremo i proveravamo, ukoliko ih ne držimo pod konstantnom kontrolom, mogu prerasti u nešto što nas, ljude, može u potpunosti zameniti.

Uzgred, najtoplije preporučujeno nastup koji je američki neuro-naučnik i filozof Sem Heris (Sam Harris) imao oktobra 2016 na TED-u.

 

30. 06. 2017, Aaron Mamiit, Tech Times

 

 

Hoće li veštačka inteligencija i hedž fondovi nadmudriti tržište?

Neki hedž-fondovi pohvalili su se da njihovi AI algoritmi donose odluku o tome kako će trgovati – ipak, ma koliko ekstravagantno zvučalo, ovi sistemi su daleko uobičajeniji nego što nam se na prvi pogled čini.

Svakoga dana kompjuteri obave više miliona elektronskih trgovina obavljanjem delikatnih kalkulacija, i to sve sa ciljem zadobijanja makar male prednosti u pogledu brzine i efikasnosti nad takmacima. Ono što je ovde, međutim, daleko značajnije jeste da se odluke u trgovini berzanskim papirima sve češće donose zahvaljujući razvoju još pametnijih, još autonomnijih algoritama.

Obe ove poslovno već dobro utvrđene firme koje se bave trgovinom akcijama na berzi, kao i nekolicina startup firmi istražuju da li bi takve tehnike trgovanja, pozajmljene iz oblasti veštačke inteligencije, mogle da im pomognu kako bi nadmudrili konkurenciju. A svakome ko negde ima uložen novac bi više nego dobrodošlo da sazna da li bi ovaj trend mogao da ozbiljnije izmeni dinamiku tržišta.

Kvantitativni hedž fondovi, uključujući Bridgewater Associates, Renaissance Technologies, ​​D.E. Shaw i Two Sigma, naravno, već nekoliko godina zdušno koriste pristup berzanskoj trgovini kroz napredne algoritme. Mnoge od metoda koje koje ove kompanije koriste mogu se identifikovati u oblasti istraživanja veštačke inteligencije (AI).

U poslednjih nekoliko godina, međutim, takođe je očigledno i ogromno oživljavanje interesovanja za rezultate u oblasti veštačke inteligencije, zahvaljujući novim tehnikama kojima mašine „uče“ kao i za metodu „dubokog učenja“ mašina (primereniji duhu srpskog jezika bio bi izraz „dubinski uvid“ ili, još bolje, „učenje s razumevanjem“; tzv „Deep Learning“) koji obuhvata obuku velikih virtuelnih neuronskih mreža za prepoznavanje obrazaca u podacima. Dubokim učenjem, koje su računari dosad savladali, mašine su trenutno u stanju za potpuno ljudski nivo percepcije slike, teksta i zvuka. Postavlja se pitanje da li današnja veštačka inteligencija može da uradi to isto ali za finansijske podatke: da ih percipira „na naš način“, s tim što bi brzina, referentnost i pouzdanost berzanskih kalkulacija/odluka (kako se naučnici nadaju) bili neslućeno veći.

Jasno je kako je ovaj nedavni napredak privukao pažnju inženjera i stručnjaka koji rade u finansijama. Prošlog decembra se u Montrealu, tokom veoma važnog akademskog događaja okupila svetska elita u istraživanju veštačke inteligencije, na skupu pod nazivom „Sistemi za procesiranje neuralnih informacija“ (Neural Information Processing Systems, NIPS): Nekoliko hiljada istraživača s brojnih univerziteta i iz najrazličitijih industrijskih oblasti tom je prilikom prisustvovalo kako bi razmotrili napredak u razvoju novih algoritama za mašinsko učenje. U oblasti rezervisanoj za slikovne tj poster-prezentacije diplomaca, tehnološki giganti poput Gugla, Fejsbuka, Epla, Majkrosofta, Amazona i IBM-a platili su svoje učešće da bi dobili svoje „stolove za regrutaciju“: prostor na kojem bi obavljali intervjue za zapošljavanje, u nadi da će najveće sveže talente privoleti da dođu da rade za njih. Ipak, ne treba smetnuti s uma da skoro polovina firmi koja je pokušala da regrutuje „mlade nade“ tokom NIPS-a nisu bile tehnološke kompanije već – hedž fondovi i finansijske kompanije.

Jedna od takvih kompanija bila je i velika britanska investiciona firma MAN AHL, koja je već godinama fokusirana na primenu statističkih pristupa radi osmišljavanja što bolje investicione strategije. Entoni Ledford, šef razvojnog sektora ove kompanije objašnjava načine kako se istražuje da li tehnike poput dubokog učenja mogu primeniti na investicije i finansije. “Sve to je još uvek u ranoj fazi”, kaže Ledford. “Obezbedili smo novac za testiranje AI berzanske trgovine. Uz primenu metoda dubokog učenja kod mašina, ukoliko sve bude u redu, započećemo test-trgovinu, kao i ostale primenama koje učenje mašina može naći (u berzanskoj trgovini).”

Brokerske operacije na berzi mogu izgledati kao očigledno mesto za primenu dubokog učenja, ali zapravo nije jasno koliko je uporediv izazov pronalaženja suptilnih obrazaca koji se tiču berzanskih podataka u realnom vremenu sa, recimo, prepoznavanjem lica na digitalnim fotografijama. “Ovaj problem je daleko drugačiji” priznaje Entoni Leford, šef razvoja u MAN AHL.

Iz redova akademskih stručnjaka čuju se tonovi upozorenja. Stiven Roberts, profesor mašinskog učenja na Univerzitetu Oksford kaže da duboko učenje može biti dobro “za ekstrahovanje skrivenih trendova, informacija i odnosa”, ali dodaje da je “još uvek suviše krhko kada je reč o baratanju ishodima visoke neizvesnosti, uz semantički tj značenjski šum na relaciji mašinačovek, koji prevladavaju u finansijama. ”

Roberts takođe primećuje da duboko učenje može biti proces koji se odvija relativno sporo i koji ne može ponuditi one tipove zagarantovanog tj predvidljivog ponašanja koje drugi statistički pristupi nude. U principu, kako kaže, postoji izvesna medijska bukla oko ideje primene AI u oblasti finansija. “AI je veoma široka tema”, kaže on. “A mnoge standardne statističke tehnike koje se koriste su, shodno tom donekle pomodnom trendu, preimenovani u veštačku inteligenciju i mašinsko učenje.”

Ipak, nove finansijske firme koje se reklamiraju kao AI-orijentisane mogu biti nešto drukčije i unikatne. Ovo uključuje firmu Sentient Technologies iz San Franciska, Rebellion Research u Njujorku, i investicionu kompaniju Aidyia iz Hong Konga.

Jedna od najperspektivnijih upotreba relativno novih AI tehnika mogla bi da se primeni u procesu obrade nestrukturiranih podataka prirodnog jezika, u obliku novinskih članaka, poslovnih izveštaja kompanije i poruka u društvenim medijima, u nastojanju da prikupe uvid u buduće perspektive funkcionisanja preduzeća, valute, robe ili finansijskih instrumenata.

Kompaniju za finansijski AI po imenu osnovao je čuveni istraživač veštačke inteligencije, Ben Goertzel, koji je ujedno i osnivač kompanije Hanson Robotics i Aidyia Holdings, kao i predsednik jednog AI projekta s otvorenim kodom  koji se zove OpenCog. Aidyia je otpočela AI berzansku trgovinu prošle godine, a Goertzel kaže da je pristup njegove kompanije daleko ambiciozniji nego što su to tehnike koje se koriste u većini hedž fondova danas, uzimajući inspiraciju iz evolutivnog programiranja, probabilističke logike, i dinamike haotičnih sistema.

“Naš sistem sadrži niz računarskih unosa, uključujući cene i obim berzanskih transakcija širom sveta, vesti iz različitih izvora na više jezika, makroekonomske i kompanijske računovodstvene podatke i još mnogo toga”, rekao je Goertzel za MIT Technology Review.  “Potom proučava kako su ovi različiti faktori istorijski povezani,  učeći celine sastavljene od desetina hiljada prediktivnih modela koji mogu da poseduju prediktivnu vrednost (stabilno predviđanje budućih kretanja na berzi), a na osnovu svojih istraživanja ranije prikupljenih podataka”, što doprinosi upravljanju ulaganjima kompanije.

Svakako da je prisutan trend ka povećanju automatizacije među finansijskim firmama. Preqin, kompanija koja obezbeđuje podatke iz oblasti finansijske industrije, navodi da je 40 odsto hedž fondova nastalih prošle godine bilo “sistematično”, što znači da se u donošenju svojih odluka oslanjaju na računarski generisane modele.

Međutim, ne dele baš svi uverenje da je AI revolucija u oblasti finansija neminovna. Dejvid Harding, osnivač-milijarder i direktor druge britanske trgovačke kompanije, Winton Capital Management, uglavnom je skeptičan prema svoj toj trendovskoj buci oko mašinskog učenja i veštačke inteligencije. “Ako se malo bolje udubite”, kaže Vinton, “rekao bih da je to manje-više ono što smo radili i u proteklih 30 godina”.

Harding se isto tako seća još jednog sličnog buma čiji su interes i fokus bili na neuronskim mrežama, a koji je rezultirao pojavom brojnih startup firmi tokom ranih 1990-ih.

“Ljudi su počeli da govore kako ‘Postoji neverovatna nova računarska tehnika koje će oduvati sve što je postojalo ranije.” Tu je i moda u primeni genetskih algoritama “, priseća se on. “Pa, mogu da vam kažem da nijedno od tih preduzeća danas ne postoji.”

Ledford, koji radi u kući Man AHL za alternativne vidove investiranja i menadžmenta, takođe ima nekoliko reči upozorenja za svakoga ko misli da najnovije tehnike mašinskog učenja mogu ponuditi neku čudesnu prečicu do bogatstva . “Važno je da zapamtite kako stanje na tržištima može biti nevažno i čak ponižavajuće”, kaže on. “Rekao bih samo još i to da vam je bolje da sebe ne pohvalite previše, ali se isto tako nemojte ni previše obeshrabriti.”

 

Technology Review

Budućnost budućnosti (2/2)

Nakon prvog, sledi i drugi deo sage o budućnosti ljudske vrste. Šta će se dešavati sa čovekom za nekoliko hiljada, miliona ili milijardi godina – ovakvo i slična pitanja oduvek su golicala maštu. Da li će čovek kakvog danas znamo, ili, bolje rečeno, kakav će to “čovek” postojati u nekoj veoma dalekoj budućnosti koj se prostire “do samih granica vremena”, i kakve bi uopšte oblike poprimili njegov um i telo? Evo jednog zabavnog i inteligentnog predviđanja koje nije tek proizvod mašte već i određenih saznanja o pravcima kojima se kreće razvoj nauke i tehnologije, životinjskih i biljnih vrsta, klime, planete Zemlje i konačno naše galaksije i Univerzuma. Tekst je objavljen na vebsajtu Futurism.

(Na kraju teksta, pri njegovom dnu, uživajte u sjajno osmišljenoj infografici koja je originalno uvezala sliku i priču)

11

Za 1.4 miliona godina…

Civilizacija Tipa 1 je odavno izumrla. Ljudska vrsta, čiji je broj uveliko umanjen, opstaje jedino u kolosalnim “Utvrđenjima” sazdanim tokom Ledenog doba. Evolutivni točak vraća nas ka životinjskom carstvu; ljudska rasa, međutim, stagnira, nepromenjena – sve do bliskog prolaska male patuljaste zvezde narandžaste boje, “Gliese 710” kroz Oortov oblak asteroida.

Blizina prolaska ove zvezde pokrenuće asteroidnu kišu unutar Sunčevog sistema; jedna od kometa udara o tle Aljaske, u blizini jednog obalskog Utvrđenja, oštetivši ga u tolikoj meri da su stanovnici bili prisiljeni da potraže utočište u divljini. Većina preživelih umire, ali će neki od njih uspeti da se prilagode “novom” okruženju – vraćajući tako našu vrstu na Darvinovu prirodnu selekciju: opstaće samo najjači i najprilagodljiviji.

Za 4.7 miliona godina…

Nakon što je prošlo nekih tri miliona godina, izbeglice s Aljaske evoluirale su u mnoštvo živopisnih oblika. Čovekova inteligencija je u tom trenutku s recesivnim osobinama; uspavana je ali i dalje nije sasvim odumrla. Ukratko, čovek ponovo zadobija neke osobine četvoronožaca, prerastajući u opasnog, kosmatog hominida-predatora, ili neku vrstu čovekolikog preživara, spremnog da učini svako zlo i prevaru samo da bi opstao.

Među mnogim vrstama koje su tada nastale izdvaja se hominidna podvrsta glatke kože, sposobna da se kreće u vodi, s debelim slojem potkožnog masnog tkiva kako bi opstala u u ledenim arktičkim morima; ova “akvanoidna” rasa, nastala evolucijom iz čoveka Tipa 1, predstavlja vrhunskog predatora koji poseduje tek neke prigušene osećaje i osećanja nekadašnjih ljudi, a čiji će jedan izdanak dalje evoluirati u neku vrstu bića koja je mešavina foke i leoparda.

15

Za 9 miliona godina…

Hominidni predatori ponovo evoluiraju u dvonožna stvorenja, da bi ponovo prohodali na dve noge. Pripadnici nove vrste su krupni, visoki 2.4 ili 2.8 metara – veličina je relikt ostao nakon Ledenog doba. Ostaju im i ona, nekada davno genetski stvorena, izuzetno izoštrena čula kao i biološka poboljšanja. Sintetička telepatija, “um košnice” u koji su svi umreženi, i jedan “internet” koji povezuje sva bića – sve će ovo postati permanentne ljudske osobine.

U međuvremenu, planeta se izvlači iz produženog perioda Ledenih doba. Promene Zemljine orbite, vulkanske supererupcije i istrebljenje fitoplanktona koji su se hranili ugljenikom – gasom koji je glavni „krivac“ za globalno zagrevanje i efekat staklene bašte – uvodi nas u period globalnog zagrevanja. Iz preostalih Utvrđenja izlaze njihovi stanovnici; nepripremljeni za novi svet, ubrzo će morati da se bore za život i između sebe, a uskoro će biti istrebljivani od novonastalih vrsta predatora.

Za 9.5 miliona godina…

Nove ljudske vrste ubrzano se uzdižu kroz Kardaševljeve tipove civilizacije, prvo dostižući status tipa 1 a potom i status tipa 2. Planete su kolonizovane ali ne putem teraforma (izmene sastava tla i atmosfere) već proizvođenjem takvih bioloških oblika ljudskog bića koji bi najbolje odgovarali svakoj pojedinačnoj planeti koja se kolonizuje, kao i uslovima drukčijim od onih na našoj matičnoj planeti Zemlji. Ljudski intelekt će se “daunloudovati” na svaku novu planetu. Otkriće kompjutronijuma, obezbediće kompletnu digitalizaciju čovekovog uma. Ljudska egzistencija bi u tom slučaju, za sve one koji tako izaberu, sada u potpunosti mogla biti vantelesna.

25

Za 50 miliona godina…

Čovečanstvo, entitet koji bi se sada mogao opisati svojim intelektualnim a ne genetskim ili telesnim nasleđem, širi se kroz galaksiju dostigavši Tip 3 civilizacije.

Galaksija se kolonizuje sondama na solarni pogon koje u sebi nose pohranjenu digitalizovanu verziju Ljudskog intelekta. Kada konačno stignu do neke egzoplanete, pogodne za razvoj ljudskog oblika života, nano-sonde od hemijskih supstanci koje će naći na licu mesta stvaraće tela praktično ni iz čega, udahnjujući im ljudski um koji je kao “seme” bio očuvan u sondi.

Za 100 miliona godina…

Ne pronašavši nijedan drugi oblik inteligentnog života, “Ljudske vrste” počinju da razlažu gasne gigante u gotovo svakom zvezdanom sistemu, prikupljajući sve elemente teže od helijuma kako bi stvorili što više kompjutronijuma. Helijum se agregira u “mini-sunca”, održive mikro-supernove koje bi mogle da se iskoriste ukoliko se pojavi potreba za većim brojem kompjutronijuma – entiteta koji je smenio/nasledio čovekovo postojanje od krvi i mesa.

Novi elementi koriste se kako bi se proizveli tzv. “Matrjoška mozgovi” (MBrains) oko gotovo svake zvezde u galaksiji. Ovi mozgovi su ogromne kompjutronijumske “čaure” slojevito ugnježdene oko zvezda, pri čemu se iz unutrašnjih slojeva isisava energija namenjena onim procesorskim mozgovima smeštenim u spoljne orbite. Ovi neizmerno moćni i u svemu nenadmašni kompjuteri obavljaju zadatke brzinom od više sekstiliona jotaflopsa, sadržavajući u sebi netelesnu inteligenciju čitave ljudske vrste.

10

Za milijardu godina…

Ljudska inteligencija širi se kroz vidljivi Univerzum, stvarajući kompjutronske Matrjoška-mozgove oko gotovo svake zvezde u svakoj galaksiji. Ljudi više nemaju svoja tela od krvi i mesa – ona su digitalni entiteti koje je moguće preuzeti tj daunloudovati, i koji se nalaze unutar kompjutera veličine sunčevog sistema.

Sve zvezde koje poseduju 0.4 mase našeg Sunca se razlažu i “prepravljaju” kako bi postale zvezde male mase – crveni patuljci M-klase sa potencijalnim životnim vekom koji se meri trilionima godina. Ovakva privremena mera odlaže neumitni kraj “Zvezdonosne” (steliferne) ere.

Za 100 triliona godina…

Čitav Univerzum sada je sačinjen od kompjutronijuma i programabilne materije – Univerzum je, zapravo, samo čovečanstvo. Svaki delić materije i svaki kvantum energije upregnut je u aktivnosti ljudske misli obimne poput samog kosmosa. Kosmos je ljudski duh.

I dok svetla zvezda lagano ali neumitno trnu, “ljudska vrsta” odlazi ka novim izvorima energije. Hokingova radijacija nastala raspadom crnih rupa, i kosmička energija obezbeđuju energiju potrebnu za obradu informacija da bi se, najzad, pokrenulo programiranje Uma-po-sebi ka prostor-vremenskom kvantnom Univerzumu. Materija kosmosa lagano prerasta u Ljudski um.

Omega

Nakon nezamislivih kalpa i vremena koje je proteklo, tokom kojih je “čovečanstvo” osvojilo potpunu kontrolu nad svim zakonima fizike, ovaj gotovo bogu nalik Um odlučuje da je došlo vreme za pripremu „bekstva“ iz umirućeg Univerzuma, čiju je energiju „usisao“ čovek tj njegov surogat – kompjutronijum. Kvantnim tunelima on dopire do mirijada umnoženih, sestrinskih univerzuma – na kojima će biti moguće da se priča, istorija, vreme i evolucija ponove u svojoj beskonačnoj varijaciji, a mudrost i znanje približavaju beskraju.

Kosmički Singularitet, iz kojeg su proistekli vreme, prostor, materija i praktično sve što postoji – više nemaju značenja – baš kao što se izgubio i značaj dalje evolucije čoveka. Čovečanstvo postoji u vantelesnim entitetima koji, poput nomada, putuju kroz mirijade beskonačno brojnih Univerzuma.