Zábery z toalety aj nahota. Meta okuliare nahrávajú ľudí aj v intímnych chvíľach

Meta predáva svoje inteligentné okuliare ako pohodlného AI asistenta do každodenného života. Majú pomáhať s prekladom, odpovedať na otázky, rozpoznávať okolie a pritom používateľovi ponechať kontrolu nad súkromím.

Nová investigatíva však naznačuje, že realita je podstatne menej uhladená než marketingové videá s celebritami a sľuby o technológii „navrhnutej pre súkromie“.

Pod povrchom tejto technológie totiž funguje globálny reťazec ľudskej práce, bez ktorého by podobné AI produkty nevedeli existovať. Podľa zistení švédskych médií Svenska Dagbladet a Göteborgs-Posten, na ktoré neskôr upozornil aj portál Ars Technica, sa k citlivému obsahu z okuliarov Ray-Ban Meta dostávajú aj pracovníci externého dodávateľa v Keni. Tieto svedectvá otvárajú nepríjemnú otázku, koľko súkromia používateľ v skutočnosti odovzdáva v momente, keď povie frázu „Hey Meta“.

Investigatíva opisuje fungovanie firmy Sama v Nairobi, ktorá pre veľké technologické spoločnosti zabezpečuje takzvanú dátovú anotáciu. Inými slovami, ľudia tam ručne kontrolujú, označujú a vyhodnocujú obraz, zvuk či text, aby sa systémy umelej inteligencie učili lepšie rozumieť svetu. Pri smart okuliaroch to môže znamenať overovanie toho, čo kamera zachytila, alebo kontrolu, či AI asistent odpovedal správne.

Viacerí pracovníci tohto centra pre médiá uviedli, že pri práci videli mimoriadne intímne zábery, ktoré zrejme vznikli pri bežnom používaní okuliarov v domácnosti. V materiáloch sa mali objaviť ľudia na toalete, pri prezliekaní, po vyjdení z kúpeľne bez oblečenia, ale aj sexuálne situácie. Jeden z pracovníkov opísal video, na ktorom muž nechal okuliare na stolíku a krátko nato vošla do miestnosti jeho partnerka a prezliekla sa. Ďalší hovorili o náhodne zachytených nahých telách či o záberoch, kde bolo vidieť bankové karty alebo pornografický obsah prehrávaný v domácnosti.

To najdôležitejšie pritom nie je len samotná existencia takýchto záznamov, ale dojem pracovníkov, že používatelia nemusia vôbec tušiť, čo všetko zariadenie v praxi zachytilo. Jeden z nich to zhrnul veľmi priamo: „Vidíme všetko, od obývačiek až po nahé telá.“ Iný dodal, že človek pri takejto práci cíti, že sleduje súkromný život niekoho iného, no zároveň sa od neho očakáva, že to nebude spochybňovať a jednoducho urobí svoju časť práce.

Meta po medializácii prípadu potvrdila, že obsah zdieľaný s Meta AI niekedy kontrolujú aj externí pracovníci, a to s cieľom zlepšovať produkty. Firma zároveň tvrdí, že dáta sú pred takýmto spracovaním filtrované, napríklad rozmazaním tvárí. Bývalí zamestnanci Meta podľa reportáže tiež hovoria, že citlivé údaje by sa na tréning modelov používať nemali. Súčasne však pripúšťajú, že v reálnom svete nie je možné mať proces úplne pod kontrolou a anonymizácia nemusí fungovať stopercentne, najmä pri horšom svetle alebo komplikovaných scénach.

Podstatná je aj technická rovina celého problému. Reportéri si okuliare sami kúpili a skúšali, čo sa stane po odmietnutí voliteľného zdieľania dát na zlepšovanie služieb. Z ich testov vyplynulo, že AI funkcie bez pripojenia k infraštruktúre Meta reálne nefungujú. Inak povedané, aj keď používateľ nepovolí extra tréningové využitie dát, hlas, text, obraz či video potrebné na fungovanie asistenta sa aj tak musia odosielať na spracovanie. Tvrdenia predajcov, že „všetko ostáva lokálne v aplikácii“ alebo že sa s Metou nič nezdieľa, preto podľa zistení reportáže neobstoja.

Meta vo svojich podmienkach uvádza, že interakcie s AI môžu byť kontrolované automatizovane aj manuálne ľuďmi. Zároveň používateľov upozorňuje, aby nezdieľali citlivé informácie, ktoré nechcú, aby si AI uchovala alebo použila. Problém je, že pri zariadení nosenom na tvári sa hranica medzi vedomým zdieľaním a nechceným zachytením reality môže veľmi rýchlo rozplynúť. Kamera nemusí nahrávať nepretržite, no stačí stlačenie tlačidla alebo hlasový príkaz a do systému sa môže dostať moment, ktorý používateľ ani jeho okolie nepovažujú za „obsah pre AI“.

Ak Meta poskytuje tieto služby používateľom v EÚ, vzťahuje sa na ňu GDPR a s ním aj požiadavka transparentne vysvetliť, ako sa osobné údaje spracúvajú, kam putujú a kto k nim má prístup. Právnici a experti na ochranu súkromia, ktorých švédska investigatíva oslovila, hovoria o možnom probléme s transparentnosťou aj so súhlasom. Používateľ podľa nich nemusí dostatočne chápať, že pri aktivácii AI asistenta môže dochádzať nielen k strojovému spracovaniu, ale aj k ľudskému nahliadaniu na obsah. Navyše, ak by sa dáta spracúvali mimo EÚ, vznikajú ďalšie otázky o právnom základe takéhoto prenosu a o úrovni ochrany.

Meta sa v reakciách drží najmä odkazov na svoje podmienky používania a zásady ochrany súkromia. Priame odpovede na otázky, ako dlho sa podobné záznamy uchovávajú, v akom rozsahu ich môžu vidieť externí pracovníci alebo či sa medzi nimi môžu ocitnúť aj videá európskych používateľov, však podľa reportáže neposkytla. Sama zasa uviedla, že nekomentuje konkrétne klientske projekty, no zdôraznila súlad s GDPR a CCPA, prácu v zabezpečených priestoroch a interné pravidlá ochrany dát.

Prípad medzitým nabral už aj právny rozmer. Podľa portálu Ars Technica už v USA pribudla navrhovaná hromadná žaloba proti Meta a Luxottice, ktorá spochybňuje marketingové slogany o súkromí a tvrdí, že bežný zákazník nemal dôvod očakávať, že hlboko osobné zábery z domácnosti budú sledovať a katalogizovať ľudskí pracovníci v zahraničí. Britský regulátor ICO si zas od Mety vyžiadal vysvetlenie. Do toho prichádzajú správy, že firma má údajne zvažovať ďalšie rozšírenie schopností okuliarov, vrátane funkcií rozpoznávania tvárí.

Na celej téme je azda najzaujímavejšie to, ako veľmi narúša populárny obraz umelej inteligencie ako niečoho automatického, čistého a takmer neviditeľného. V skutočnosti za ňou často stoja tisíce ľudí v kanceláriách ďaleko od Silicon Valley, ktorí ručne prezerajú to, čo zariadenia nazbierajú. Smart okuliare sa pritom predávajú ako nenápadné a prirodzené rozšírenie každodenného života. Otázka súkromia je preto ešte citlivejšia než pri smartfóne. Ten človek väčšinou vedome vytiahne a namieri, no okuliare má na sebe neustále.