Inzerce      O nás     CzechCrunch  
Siri nahrává povely. Lidé, kteří hodnotí její spolehlivost, často slyší útržky drogových obchodů a souloží

„Hey Siri“ je asi nejužitečnější aspekt celého hlasového asistenta Applu, jelikož dovoluje po zařízení něco chtít, aniž by se na něj muselo sáhnout nebo být v jeho bezprostřední blízkosti. Užitečnost je přitom jen taková, jakou ji umožňuje spolehlivost spouštěcí fráze, respektive reakčnost zařízení na ni. Přesto (nebo možná proto) se stává, že se Siri aktivuje nezáměrně a slyší to, co by neměla. Totéž pak mohou slyšet zaměstnanci Applu testující spolehlivost asistentky – mezi nezáměrné nahrávky patří drogové obchody, informace o zdravotním stavu, souložení a podobně.

„Naše práce je nezajímat se o tu vaši“ a „Co se stane na tvém iPhonu, zůstane na tvém iPhonu“, hlásají nedávno umístěné billboardy Applu. Firma se dlouhodobě staví do pozice ochránce soukromí a bezpečnosti dat svých uživatelů a často připomíná, že žádná data nesbírá a když už, tak je jich naprosté minimum a jsou zcela anonymizovaná. Obecně je pravda, že Apple má v tomto ohledu mezi velkými technologickými firmami asi nejlepší reputaci, to ovšem neznamená, že u něj není prostor pro kritiku.

Jednu příležitost k ní nyní otevřel anonymní zaměstnanec, který pro deník The Guardian odhalil fungování části procesu pro zlepšování Siri. Malá část promluv nebo jiných zvuků, které mikrofon zařízení zachytí několik vteřin po aktivaci asistentky, je nahrána a odeslána na servery Applu. Ten je pak v anonymizované podobě předává firmám třetích stran, kde lidští pracovníci mají za úkol vyhodnotit několik aspektů nahrávky. Obecně pak Apple u sebe tyto nahrávky nechává až dva roky, což je ostatně známou věcí.

Pomocí toho chce firma vědět, jestli byla Siri vůbec schopná reagovat na vyslovený požadavek, jestli na něj reagovala správně a adekvátně a v neposlední řadě jestli byla aktivována záměrně nebo omylem. Právě v tom tkví hlavní pointa problému – vůbec nikomu by pravděpodobně nevadilo, že některé jeho povely putují do uší lidských pracovníků, aby zhodnotili kvalitu reakce. Potenciálně velký problém ovšem mohou lidé vidět v tom, když se Siri aktivuje náhodou a vyslechne něco, co nebylo zamýšleno pro ni. Může to být úsek soukromé konverzace, uzavírání obchodů, kriminální činnost nebo jakýkoliv jiný útržek ze soukromí uživatele.

Steve Wozniak nedávno řekl, že v dnešní době svým zařízením často věříme více, než bychom měli, a málokdy si můžeme být zcela jistí, že nás některé z nich neposlouchá. Právě to se například zjistilo o chytrých reproduktorech Google Home, které v rámci standardního fungování poslouchají, nahrávají a odesílají k analýze části rozhovorů, ať už byly spuštěny, nebo ne. Problém Applu je z hlediska předpokladů a fungování podstatně jiný, ale výsledek je velmi podobný.

Podle anonymního zaměstnance Applu je největší problém v tom, že toto fungování podmínky užívání společnosti explicitně nezmiňují. Analyzování malé části zaznamenaných povelů zlepšování služby pochopitelně vyžaduje, nebylo však známo, jak přesně probíhá. Časté náhodné aktivace asistentky přitom znamenají pravidelné zachycování informací, ke kterým by firma určitě neměla mít přístup.

Vývoj Siri má na starosti John Giannandrea

Fráze „Hey Siri“ je dostatečně specifická na to, aby se téměř nikdy náhodou neobjevovala v klasické konverzaci, systém pro její rozeznávání ale není zdaleka dokonalý. Dlouho tak Siri například reagovala na vyslovenou frázi „Are you serious?“ („To myslíš vážně?“), protože slyšela útržek „siri“ ve slově „serious“, může se omylem zapojit do rozhovorů o Sýrii a nebo ji dokonce může spustit i zvuk zipu. Velmi často vede k nezáměrným spuštěním asistentky také prosté zvednutí ruky s Apple Watch následované promluvou.

„Někdy tak můžete jednoznačně slyšet doktora a pacienta mluvící o zdravotní historii pacienta. Nebo zaslechnete někoho, možná se zvukem motoru v pozadí – nejste si jistí, ale je to obchod s drogami… Jednoznačně to slyšíte probíhat. A také můžete slyšet třeba lidi při souložení, když je omylem nahrál HomePod nebo hodinky,“ řekl informátor Guardianu.

Foto: MacRumors / YouTube

Apple potvrdil, že malá část povelů pro Siri (méně než 1 % z denního provozu) je analyzována pro zlepšení asistentky a diktování. Zdůraznil přitom, že nahrávky jsou anonymizovány a „jsou analyzovány v zabezpečených zařízeních a všichni posutovatelé musí dodržovat stritktní nároky Applu na důvěrnost“. Pracovník z jednoho z těchto zařízení ale říká, že on ani jeho kolegové nejsou nijak specficky vedeni ke dbání na soukromí uživatelů, které poslouchají.

Navíc, i když nahrávky nejsou propojeny s Apple ID ani mezi sebou navzájem, v mnoha případech, obzvlášť když v nich zazní jméno nebo adresa, by nebyl problém je identifikovat. Zaměstnanci pak nejsou nijak specificky kontrolováni a relativně často se mění. Celá operace je zjevně zaměřená pouze na technologický aspekt Siri a na samotný obsah nahrávek se neklade žádný důraz, takže není možné například upozornit na problematičnost faktu, že bývají vyslechnuty soukromé informace. Je také zajímavé, že Apple některé funkce svých zařízení pracující se soukromými daty testuje s dobrovolníky z řad vlastních zaměstnanců, ale u Siri stále využívá nahrávky zákazníků, tedy praktiky, jimž se jinak snaží vyhýbat.

Apple by měl jednak reagovat větší transparentnostní ohledně toho, že a jak takové operace probíhají a jednak soustředit co nejvíce úsilí na minimalizaci nezáměrné aktivace Siri. Ta je sice vždy doprovázena zpětnou vazbou v podobě potvrzovacího zvuku, zaznívá ovšem často až po zaznamenání povelu, takže po potenciálním pořízení problematické nahrávky. Uživatelé by také měli zvážit, jestli hlasové vyvolávání Siri raději nevypnout, ať už v některých situacích, nebo zcela.

Komentáře