Veštačka inteligencija kao pretnja čoveku

Veštačka inteligencija koja radi za Fejsbuk “izumela” je jezik koji ljudi ne mogu razumeti: sistem je isključen pre nego što je ušao u mrežu Skynet

Fejsbuk, kompanija koja vodi najveću svetsku drušvenu mrežu bila je prisiljena da zatvori jedan od svojih sistema veštačke inteligencije nakon što su istraživači otkrili da je počeo da komunicira jezikom koji nisu mogli razumeti, piše TechTimes, tehnološki portal iz Silicijumske doline.

Ovaj nesvakidašnji incident podseća na već ikoničku scenu podizanja mreže Skajnet (Skynet) u filmu Terminator. Možda je direktor kompanije “Tesla” Elon Musk u pravu kada kaže da je “AI najveći rizik s kojim se suočavamo”.

Facebook povlači AI sistem sa sopstvenim jezikom

Facebook je morao da povuče svoju veštačku inteligenciju na kojoj su radili njegovi istraživači jer su se stvari otele kontroli. AI nije počeo da isključuje kompjutere širom sveta ili nešto slično, ali je prestao da koristi engleski i počeo da koristi jezik koji je sam kreirao.

Bob: “Ja mogu mogu ja ja sve ostalo” (“I can can I I everything else”)

Alis: “Lopti ima nula meni meni meni meni men meni meni meni meni” (“Balls have zero to me to me to me to me to me to me to me to me to”)

Gore navedeni odlomci, koji za ljude nemaju smisla, jesu izvodi “razgovora” koji se dogodio između dva izvršna AI posrednika razvijena od strane Fejsbuka. AI agenti (posrednici), stvoreni za pregovore sa ljudima, prvi put su razgovarali jedni s drugima koristeći običan engleski, ali su na kraju stvorili novi jezik koji su razumeli samo AI sistemi.

Takozvani “AI agenti” nisu bili ograničeni samo na upotrebu engleskog jezika tako da su se udaljili od  njega, što im je olakšalo i ubrzalo međusobnu komunikaciju. Istraživači na Facebooku su, međutim, odlučili da isključe AI sisteme a potom ih prisile da razgovaraju između sebe samo na engleskom

Zašto je ovo zastrašujući razvoj veštačke inteligencije?

Zbog čega je razorno dopuštati da AI posrednici međusobno komuniciraju na jeziku koji su izmislili?

Ukoliko bismo AI sistemima dopustili da koriste sopstveni jezik, ljudi naprosto neće moći da prate o čemu ti agenti, zapravo, precizno govore. Ljudi nisu u stanju da shvate kako kompleksni AI sistemi misle tokom svojih skrivenih misaonih procesa, pa će se ta tajnost agenata AI biti još dodatno pogoršati kada ukoliko se njihovi razgovori obavljaju na nepoznatom jeziku.

Ako bi se AI agentima dozvolilo da govore jezikom koji su sami stvorili, možda bi došao trenutak kada im više ne bi bila potrebna bilo kakva ljudska intervencija.

Veštačka inteligencija kao “Najveći rizik”

Elon Musk veruje da su brojni razlozi zbog kojih ljudi treba da “brižljivo neguju” strah, i zaziru od komfornog prepuštanja veštačkoj inteligenciji mašina; zato je od američkih guvernera zatražio da primene propise koji se tiču tehnologije i posledica razvoja veštačke inteligencije.

“Svakodnevno sam izložen najsavremenijim vidovima veštačke inteligencije, i mislim da bi ljudi trebalo da se zaista zabrinuti zbog toga”, rekao je izvršni direktor kompanije Tesla početkom jula na Letnjem sastanku Nacionalnih guvernera na Rod Ajlendu.

AI sistemi su u stanju da širok psektar najrazličitijih stvari obavljaju bolje od ljudi i, ukoliko ih ne nadziremo i proveravamo, ukoliko ih ne držimo pod konstantnom kontrolom, mogu prerasti u nešto što nas, ljude,može u potpunosti zameniti.

Uzgred, najtoplije preporučujeno nastup koji je američki neuro-naučnik i filozof Sem Heris (Sam Harris) imao oktobra 2016 na TED-u.

 

30. 06. 2017, Aaron Mamiit, Tech Times

 

 

Leave a Reply

Fill in your details below or click an icon to log in:

WordPress.com Logo

You are commenting using your WordPress.com account. Log Out / Change )

Twitter picture

You are commenting using your Twitter account. Log Out / Change )

Facebook photo

You are commenting using your Facebook account. Log Out / Change )

Google+ photo

You are commenting using your Google+ account. Log Out / Change )

Connecting to %s