Veštačka inteligencija kao pretnja čoveku

Veštačka inteligencija koja radi za Fejsbuk “izumela” je jezik koji ljudi ne mogu razumeti: sistem je isključen pre nego što je ušao u mrežu Skynet

Fejsbuk, kompanija koja vodi najveću svetsku drušvenu mrežu bila je prisiljena da zatvori jedan od svojih sistema veštačke inteligencije nakon što su istraživači otkrili da je počeo da komunicira jezikom koji nisu mogli razumeti, piše TechTimes, tehnološki portal iz Silicijumske doline.

Ovaj nesvakidašnji incident podseća na već ikoničku scenu podizanja mreže Skajnet (Skynet) u filmu Terminator. Možda je direktor kompanije “Tesla” Elon Musk u pravu kada kaže da je “AI najveći rizik s kojim se suočavamo”.

Facebook povlači AI sistem sa sopstvenim jezikom

Facebook je morao da povuče svoju veštačku inteligenciju na kojoj su radili njegovi istraživači jer su se stvari otele kontroli. AI nije počeo da isključuje kompjutere širom sveta ili nešto slično, ali je prestao da koristi engleski i počeo da koristi jezik koji je sam kreirao.

Bob: “Ja mogu mogu ja ja sve ostalo” (“I can can I I everything else”)

Alis: “Lopti ima nula meni meni meni meni meni meni meni meni meni” (“Balls have zero to me to me to me to me to me to me to me to me to”)

Gore navedeni odlomci, koji za ljude nemaju smisla, jesu izvodi “razgovora” koji se dogodio između dva izvršna AI posrednika razvijena od strane Fejsbuka. AI agenti (posrednici), stvoreni za pregovore sa ljudima, prvi put su razgovarali jedni s drugima koristeći običan engleski, ali su na kraju stvorili novi jezik koji su razumeli samo AI sistemi.

Takozvani “AI agenti” nisu bili ograničeni samo na upotrebu engleskog jezika tako da su se udaljili od  njega, što im je olakšalo i ubrzalo međusobnu komunikaciju. Istraživači na Facebooku su, međutim, odlučili da isključe AI sisteme a potom ih prisile da razgovaraju između sebe samo na engleskom

Zašto je ovo zastrašujući razvoj veštačke inteligencije?

Zbog čega je razorno dopuštati da AI posrednici međusobno komuniciraju na jeziku koji su izmislili?

Ukoliko bismo AI sistemima dopustili da koriste sopstveni jezik, ljudi naprosto neće moći da prate o čemu ti agenti, zapravo, precizno govore. Ljudi nisu u stanju da shvate kako kompleksni AI sistemi misle tokom svojih skrivenih misaonih procesa, pa će se ta tajnost agenata AI biti još dodatno pogoršati kada ukoliko se njihovi razgovori obavljaju na nepoznatom jeziku.

Ako bi se AI agentima dozvolilo da govore jezikom koji su sami stvorili, možda bi došao trenutak kada im više ne bi bila potrebna bilo kakva ljudska intervencija.

Veštačka inteligencija kao “Najveći rizik”

Elon Musk veruje da su brojni razlozi zbog kojih ljudi treba da “brižljivo neguju” strah, i zaziru od komfornog prepuštanja veštačkoj inteligenciji mašina; zato je od američkih guvernera zatražio da primene propise koji se tiču tehnologije i posledica razvoja veštačke inteligencije.

“Svakodnevno sam izložen najsavremenijim vidovima veštačke inteligencije, i mislim da bi ljudi trebalo da se zaista zabrinuti zbog toga”, rekao je izvršni direktor kompanije Tesla početkom jula na Letnjem sastanku Nacionalnih guvernera na Rod Ajlendu.

AI sistemi su u stanju da širok spektar najrazličitijih stvari obavljaju bolje od ljudi i, ukoliko ih ne nadziremo i proveravamo, ukoliko ih ne držimo pod konstantnom kontrolom, mogu prerasti u nešto što nas, ljude, može u potpunosti zameniti.

Uzgred, najtoplije preporučujeno nastup koji je američki neuro-naučnik i filozof Sem Heris (Sam Harris) imao oktobra 2016 na TED-u.

 

30. 06. 2017, Aaron Mamiit, Tech Times

 

 

Nemačka: spremna za Industriju 4.0 (2. deo)

Najveća ekonomija Evrope s pravom je zabrinuta da je digitalizacija pretnja njenom liderskom mestu u industriji.

00

Srećom po mnogobrojne nemačke industrijske firme – a što se toga tiče i po njihove kolege u drugim zemljama – oni imaju daleko više vremena da se prilagode nego firme direktno izložene raspoloženju potrošača. Na potrošačkom tržištu, digitalne pridošlice mogu vrlo brzo postati dominantne koristeći se “mrežnim efektima” na nekim tehnološkim platformama: što ih više ljudi koristi, to više aplikacija i drugih ponuda one proizvode, i na taj nač inpostaju jače od svojih rivala. To je razlog zašto nemački proizvođači automobila i opreme za grejanje gledaju sa strepnjom na Guglov rad na samonavodećim automobilima i inteligentnim termostatima.

44Ipak, ekonomija tržišta za industrijsku opremu i drugi business-to-business (B2Bproizvodi koje prave mnoge nemačke firme su drugačiji, objašnjava izveštaj  think-tanka Stiftung Neue Verantwortung, kao i drugih organizacija. Ova tržišta kreću se sporije i složenije. Stručnost izvršilaca je teško reprodukovati i, još važnije, u mnogim slučajevima oni kontrolišu pristup podacima koje generišu njihovi proizvodi. Kao rezultat toga, mrežni efekti nisu toliko jaki u ovakvim oblastima poslovanja.

Ako to nudi neku utehu nemačkim proizvođačima, valja znati , da sem utehe tu i nema mnogo čega drugog. Prvo, platforme napreduju kada se druge firme, programeri i korisnici, koriste njima. Većina velikih IT kompanija je odrasla rukovodeći takvim “ekosistemima”, ali to neće lako pasti proizvođačima. Kako kaže Pol Čudari, (Paul Choudary) analitičar tehnologija Sandžita (Sangeet), oni su „odrasli unutar načina razmišljanja koji je nalik cevi: firme naruče potrošni materijal, oblikuju ih u proizvode, a zatim pošalju prema klijentima. Sada one moraju da misle više kao “baštovani” i održavaju svoj “poslovni park” koji privlači i zadržava druge firme i kupce, kako bi cvetale.“

Drugo, uspešne platforme imaju tendenciju da su “otvorene”, što uglavnom znači da njihovi vlasnici podstiču druge firme, uključujući i konkurente, da izgrade aplikacije koje rade na njima. Bosch, Trumpf, Siemens i drugi tvrde da su otvoreni, ali nije jasno kako će ta dobrodošlica izgledati u praksi.

50

Nemački šefovi imaju tendenciju da misle da sami sebi mogu da pruže sve potrebne usluge i ne sviđa mi se ideja pozivanja drugih na njihovu platformu. Nemački proizvođači bi verovatno mogli da izgrade dominantan operativni sistem za vozila ukoliko bi prevazišli svoja rivalstva. Ali, nejasno je da li će BMW, Dajmler (Daimler) i Folksvagenov Audi učiniti „Ovde“ (Hire) biznis sa digitalnim mapama koje kupuju od Nokije (Nokia), bona fide platformom. Takva vlasnička razmišljanja takođe čine nemačke firme neodlučnim kada je reč o proizvodnji otvorenog softvera (open souce software), ili ustupanju drugih oblika intelektualne svojine, u maniru američkog proizvođača električnih automobila Tesla, koji je ponudio svoje patente kao deo napora da proširi svoju tehnologiju.

Nespremni  na deljenje

Treće, u suštini platformi je deljenje podataka koji se sakupe. Najbolje nove usluge su često rezultat kombinovanja informacija iz različitih izvora. Međutim, Nemačkoj to može biti teško. Jedna prepreka je privatnost: pored strogih zakona o zaštiti podataka, u zemlji postoji široko rasprostranjena sumnja u sve što podseća na unovčavanje podataka. Čak i među mlađim Nemcima, gotovo dve trećine strahuju da će lični podaci koje generišu njihovi automobili biti prodati, prema nedavnoj studiji konsultantske firme Dilojt (Deloitte). Mnogi Nemci strahuju od onoga što se zove Plattform-Kapitalismus, što znači dominaciju novih tržišta od strane moćnih stranih provajdera, kao što su Google i Facebook. 49Ovo se smatra nekako nepravednim, i primerom američkog „kaubojskog“ kapitalizma koji doprinosi nespremnosti nemačkih firmi za stvaranje i promovisanje svojih platformi. Mala i srednja preduzeća (MSP) takođe nisu previše voljna da dele svoje podatke: strahuju da bi mogla izgubiti kontrolu nad svojom intelektualnom svojinom, a time i svoju konkurentnost.

Četvrta i poslednja prepreka odnosi se na nemačku korporativnu kulturu. Iako nemačka preduzeća više nisu tako hijerarhijski složena kao što su nekada bila, njima se i dalje upravlja od vrha nadole; preuzimanje rizika se obeshrabruje. Ključ za razvoj uspešnih platformi i usluga je da ih treba staviti u ruke autonomnih timova – od kojih bi svaki tim bio kao neki unutrašnji, kompanijski startup – a koji će biti spremni da potope svaki projekat koji se ne pokaže uspešnim. Mnogi nemački giganti sada imaju “akceleratore” koji treba da izlegu nove poslovne ideje, ali mnogi od njih su samo vežbe za odnose sa javnošću. Samo je nekoliko njih otišlo tako daleko kao Klokner (Klöckner), koji je formirao inkubator za unutrašnje startup-e u Berlinu, daleko od sedišta u Duizburgu, i čiji je cilj digitalizacija čitavog lanca snabdevanja firme.

Mnogi zaposleni, takođe, nisu spremni za digitalni svet. Na nemačkim univerzitetima kompjuterski naučnici su obučeni slično inženjerima, što znači da se fokusiraju na preciznost, objašnjava Klemens Westerkamp sa Univerziteta primenjenih nauka u Osnabriku (Osnabruck). Ovaj način razmišljanja, kaže on, predstavlja veliku prednost pri izgradnji visoko pouzdanih sistema, koji su potrebni mnogim industrijama. To je, međutim, mana u svetu softvera i obimnih baza podataka, gde su brzo razmišljanje i preuzimanje rizika daleko važniji. “Bitka za industrijske platforme će biti borba između nemačke preciznosti i američke brzine”, kaže Vesterkamp.

48

Neprijateljski nastrojeni prema korisnicima

Inženjersko obrazovanje mnogih rukovodilaca takođe objašnjava zašto se oni više fokusiraju na dopunska poboljšanja nego na pravljenje drastičnih skokova u funkcionalnosti i jednostavnosti upotrebe njihovih proizvoda. “Nemci su stvarno dobri u smanjenju razmaka između delova i tela automobila”, kaže Kristof Kis (Christoph Keese). On je bio jedan od Špringerovih rukovodilaca koji su proveli nekoliko meseci u Silikonskoj dolini, kada je napisao veoma uticajnu knjigu o iskustvu koje je tamo stekao. Ali korisnički interfejs na nemačkim proizvodima je druga stvar. Oni su često toliko kompleksni, kaže Kis, da je reč koja se najčešće pojavljuje na njihovim ekranima Anvenderfehler (“greška korisnika”).

27Uporedite Silikonsku dolinu i nemački ekvivalent za industrijske firme, region oko Štutgarta, i kulturološke razlike će vam biti jasne. Guglov kampus u Mauntin Vjuu (Mountain View) nudi oko 30 različitih kantina sa besplatnom hranom i rastegljivim radnim vremenom. Posetioci mogu videti neke samonavodeće automobile, ali pejzažem dominiraju bicikli u osnovnim bojama koje zaposleni koriste da bi se prevezli između mnogih zgrada. U kompaniji Bosch u Gerlingenu, svi zaposleni se slivaju u veliku, centralizovanu korporativnu kafeteriju u vreme ručka. Bosch ima i vozni park u kojem su najupadljivija vozila su zelene, samonavođene kosilice koje travu oko poslovne zgrade održavaju savršeno podšišanom.

Ipak, ne bi bilo fer da se ne pomene “Bošova start-up platforma” koju je ova firma nedavno osnovala u Ludvigsburgu, nedaleko od centrale. Platforma je već „porodila“ pregršt firmi. Jedna je razvila bežični senzor za poboljšanje prinosa špargli, druga gradi poljoprivredne robote koji ubijaju korov. Jasno je da se nemački proizvođači menjaju. Pitanje je samo da li oni mogu to da urade dovoljno brzo.

 

The Economist

Nemačka: spremna za Industriju 4.0 (1. deo)