Kenskí pracovníci spoločnosti Sama, subdodávateľa Mety, denne prezerajú videozáznamy z inteligentných okuliarov Meta Ray-Ban vrátane záberov ľudí na toalete, počas sexu a bankových kariet, upozornil švédsky magazín Svenska Dagbladet. Meta sa odvolala na podmienky používania, v ktorých sa uvádza, že interakcie s AI môžu byť kontrolované manuálne. Čo presne sa s týmito zábermi deje potom, podmienky nevysvetľujú.
Jeden z anotátorov spoločnosti Sama pre portál gigazine.net uviedol, že pracovníci „vidia všetko“. Priznal, že videl záznamy nahých partnerov a intímnych chvíľ, pričom nahrávané osoby o tom nemali potuchy. Dodal, že keby sa zverejnila čo i len časť obsahu, ktorý sa k nim dostáva každý deň, vznikol by obrovský škandál. Sama na otázky Svenska Dagbladet neodpovedala, napísal server TECHBYTE.sk.
Filtre zlyhávajú
Okuliare zachytávajú video dvoma spôsobmi: manuálnym stlačením tlačidla alebo prostredníctvom AI funkcie, ktorá odpovedá na otázky o tom, čo používateľ práve vidí. Záznamy z AI funkcie putujú na servery Mety, čo je všeobecne známe. Problém podľa zistení Svenska Dagbladet spočíva v tom, že na ľudskú kontrolu sa posielajú aj záznamy z bežného manuálneho nahrávania.
Citlivý obsah by podľa vyjadrení bývalých zamestnancov Mety na ľudskú kontrolu vôbec nemal putovať. Spoločnosť disponuje algoritmami, ktoré majú automaticky rozpoznať a zablokovať chúlostivé materiály ešte pred tým, ako sa dostanú k anotátorovi. Algoritmus na rozmazávanie tvárí a tiel však zlyháva pri slabom osvetlení. Výsledok je prostý: kenskí pracovníci vidia záznamy bez akéhokoľvek filtrovania.
Ďalší nezodpovedaný problém sa týka časového rozsahu odosielania. Server TechByte.sk upozorňuje, že nie je jasné, ako dlho okuliare po položení otázky pokračujú v odosielaní záberov. Päť sekúnd, tridsať sekúnd? Nikto nevie. Kenskí pracovníci zároveň pracujú pod prísnymi doložkami o mlčanlivosti, ktoré im bránia o svojich skúsenostiach hovoriť, uvádza portál kictanet.or.ke, a to bez adekvátnej psychologickej podpory.
Meta a podmienky
Keď Svenska Dagbladet požiadal Metu o vysvetlenie, spoločnosť odkázala na podmienky používania. V tých stojí, že „v niektorých prípadoch Meta preskúma vaše interakcie s AI, vrátane obsahu vašich konverzácií, pričom toto preskúmanie môže byť automatické alebo manuálne.“ Podmienky však nevysvetľujú, ako dlho Meta záznamy uchováva, kto k nim má prístup ani aké záruky existujú voči ich zneužitiu.
Prenos osobných údajov vrátane videozáznamov do tretích krajín, akou je Keňa, podlieha prísnym požiadavkám GDPR. Európske nariadenie jasne vyžaduje, aby prijímajúca krajina zaručovala primeranú úroveň ochrany. Podozrenie, že Sama tieto podmienky nespĺňa, je podľa expertov citovaných portálom TechByte.sk silné. A práve táto kombinácia vágnych podmienok a nedostatočnej transparentnosti je podľa autorov správy jadrom celého problému.
Harvardský experiment
Táto kauza nie je prvým varovným signálom pri okularoch Meta Ray-Ban. Portál dig-watch pripomína, že BBC minulý rok informovala o prípade, keď okuliare zachytili ženu bez jej súhlasu. V roku 2024 dvaja študenti Harvardskej univerzity demonštrovali, ako možno pomocou okuliarov a AI nástrojov v reálnom čase identifikovať ľudí na ulici vrátane ich mien, adries a telefónnych čísel, píše Forbes. Predaj okuliarov pritom v roku 2025 narástol trojnásobne na sedem miliónov kusov, čo znamená aj väčší objem záberov putujúcich ku kenským anotátorom.
Sama na otázky týkajúce sa ochrany dát ani pracovných podmienok svojich zamestnancov doteraz neodpovedala.
