Alexa – pomoć u kući ili špijun koji prati ukućane?

Protiv Amazona je podneta tužba zbog toga što je pametni kućni asistent ove kompanije, Alexa, snimao dečje glasove.

Dva američka slučaja navode da firma nema pristanak na stvaranje glasovnih snimaka koji bi mu omogućili da prati dečju upotrebu uređaja kojima Alexa ima pristup, i na taj način prikupi “ogromnu količinu detalja o životu deteta”.

Amazon je saopštio da čuva podatke samo onda kada vlasnik uređaja da dozvolu za to, kao i da roditelji mogu da izbrišu profil i snimke deteta.

Tužioci koje su angažovala dva apelanta ispituju da li u ovom predmetu postoji realna šteta; poziv važi i za one koji su pozvani da se pridruže parničnim tužbama u devet država u kojima se tvrdi da Amazon krši zakone o privatnosti.

Amazon je u januaru izjavio da je širom sveta prodato više od 100 miliona ovih uređaja, od svojih Echo “pametnih” zvučnika do proizvoda drugih proizvođača, uključujući slušalice, frižidere i televizore.

“Amazon ima dugogodišnju posvećenost očuvanju poverenja naših kupaca i njihovih porodica, a mi imamo stroge mere i protokole za zaštitu njihove sigurnosti i privatnosti”, izjavila je za BBC portparolka ove kompanije.

Predstavljene su dve tužbe, jedna podnesena u Los Anđelesu u ime osmogodišnjeg dečaka, a druga u Sijetlu, u ime 10-godišnje devojčice.

Kaže se da su deca koristila Aleksu da bi pričala šale, slušala muziku, prepoznavala filmske reference, rešavala matematičke probleme i odgovorala na trivijalna pitanja.

U oba slučaja, deca su u svojim domovima stupila u interakciju sa Echo Dot zvučnicima, a u oba slučaja roditelji su tvrdili da nikada nisu pristali na snimanje glasova svoje dece.

U pritužbama se navodi da su Alexa uređaji mogli biti osmišljeni tako da šalju isključivo digitalni upit ali bez snimanja glasa koje se šalje na Amazonove servere – iako bi obrada zvuka na lokalnom nivou imala nedostatke, kao što je potencijalno povećanje troškova uključenih uređaja i otežavanje Amazona da primeni ažuriranja (apdejte) na tehnologiju koja služi za prepoznavanja glasa.

Alternativno, preporučuje se da Amazon automatski prebriše snimke ubrzo nakon što su obrađeni, iako to može uticati na sposobnost pametnog asistenta da dostavi personalizovane odgovore.

Čak i ako nijedna od ovih opcija ne bude usvojena, tužioci sugerišu da bi se moglo učiniti više kako bi se osiguralo da deca i drugi budu svesni onoga što se događa.

“Ni u jednom trenutku Amazon ne upozorava neregistrovane korisnike da stvara stalne glasovne zapise svojih interakcija sa Alexom, a kamo li da dobiju svoj pristanak da to učine”, navodi se u žalbi.

“Ni deca ni roditelji nisu pristali da se interakcije dece trajno beleže.”

„Roditeljska opcija“ Amazon je novinarima ukazao na blog objavljen prošlog meseca, u kojem je objavio sve o pretplatničkom servisu osmišljenom da pomogne roditeljima pri korišćenju Alexe od strane njihove dece.

On napominje da roditelji mogu pregledati i izbrisati snimke glasova svoje dece u bilo koje vreme putem aplikacije ili veb-lokacije firme. Pored toga, navodi se u saopštenju, oni mogu kontaktirati firmu i zatražiti brisanje glasovnog profila svog deteta i bilo kakvih ličnih informacija povezanih s njim.

Takođe, prošle sedmice je BBC o toj temi propitala egzekutivce ove kompanije, koji su zaduženi za Aleksu. Pitanja su upućena tokom Amazonove konferencije “re: Mars”, pre nego što su žalbe podnesene.

Dejv Limp je rekao da je firma samo profilisala mlađe od 13 godina i to samo ako bi roditelji pristali na njegove uslove njihovog servisa.

“[Ako] deca imaju 13 godina i manje … onda se roditelj odluči za njih”, objasnio je.

“Morate da potvrdite preko roditelja da je sam roditelj dao saglasnost za dete. A mi to radimo tako što potvrđujemo broj kreditne kartice (roditelja koji je tom karticom kupio ovaj uređaj).

“Dakle, ako to ne učinite, onda mi ne čuvamo nikakve podatke o detetu niti bismo to učinili.”

On je dodao da je samo oko 1% iskaza ikada provereno od strane njegovog osoblja, a čak ni tada onima koji su umešani neće biti prikazano ime ili adresa korisnika.

Međutim, on je priznao da Amazon može učiniti više kako bi označio da su ljudi – a ne samo automatske provere – ti koji su bili uključeni u pregled snimaka.

Trenutno, u jednoj objavi o Aleksinoj privatnosti se kaže da se prošli glasovni zahtevi koriste za poboljšanje usluga, ali se ne kaže izričito da ih slušaju ljudi.

“Mislim da je to fer povratna informacija”, rekao je Limp.

“Ako ljudi ne misle da smo transparentni u vezi s tim, mi nemamo nikakvog problema da budemo transparentniji.”

Kako Alexa funkcionišeSoftver na omogućenim uređajima osluškuje reč “probuditi” – koja se može postaviti na Alexu, Amazon ili kompjuter. Ako se detektuje, audio snimljen neposredno pre reči za buđenje tj aktivaciju uređaja, kao i ono što je rečeno odmah nakon toga prenosi se do Amazonovih kompjuterskih servera radi obrade.

Pošto se greške ponekad ipak naprave, snimci se mogu preneti i onda kada se reč koja se upotrebljava za aktivaciju uređaja zapravo ne koristi.

Snimci se čuvaju, omogućavajući Amazon-u da ih koristi za kreiranje modela karakteristika glasa korisnika kako bi se pomoglo servisu da nauči da se prilagodi na različite načine na koje različiti ljudi postavljaju zahteve, kao i da pruže prilagođene odgovore različitim korisnicima u kući.

Registrovani korisnici mogu da spreče da se to dogodi povlačenjem svog pristanka. Oni takođe imaju mogućnost da aktivno treniraju sistem radi boljeg prepoznavanja glasa, i to ponavljajući niz fraza.

Ljudski operateri ponekad slušaju isečke kako bi ih označili – cilj ove operacije je da poboljša da sistem za mašinsko učenje postane precizniji.

Korisnici mogu izbrisati pohranjene izjave putem aplikacije ili preko Amazonove veb lokacije. Pored toga, oni mogu da glasovnom komandom zatraže od Alekse da obriše poslednji snimak ili sve ono što je snimljeno poslednjeg dana.

 

Leo Kelion je urednik Bi-Bi-Sijeve rubrike iz tehnologije

Leave a Reply

Fill in your details below or click an icon to log in:

WordPress.com Logo

You are commenting using your WordPress.com account. Log Out /  Change )

Google photo

You are commenting using your Google account. Log Out /  Change )

Twitter picture

You are commenting using your Twitter account. Log Out /  Change )

Facebook photo

You are commenting using your Facebook account. Log Out /  Change )

Connecting to %s

This site uses Akismet to reduce spam. Learn how your comment data is processed.