Google len nedávno predstavil novú aplikáciu Google Fotky, vďaka ktorej si môžeme bezpečnejšie a jednoduchšie zálohovať svoje fotografie do cloudu a to za určitých podmienok aj bez obmedzenia kapacity.
Okrem iného, aplikácia dokáže intuitívne vyhľadávať v množstve snímok zábery na základe miesta či času ich zhotovenia alebo aj na základe rozpoznávania objektov.
Google dokáže automaticky v aplikácii rozoznať a označiť miesta, zvieratá, ale aj jedlo a samozrejme ľudí.
Práve automatické označovanie ľudí na fotografiách stojí za nechcenou nepríjemnosťou, ktorá hraničí s rasizmom.
Programátor Jacky Alcina toto tagovanie ľudí testoval a svoje poznatky zverejnil na sociálnej sieti Twitter. Zistil totižto, že softvér Googlu označoval ľudí tmavej pleti ako zvieratá, konkrétne gorily.
And it’s only photos I have with her it’s doing this with (results truncated b/c personal): pic.twitter.com/h7MTXd3wgo
— diri noir avec banan (@jackyalcine) 29. Červen 2015
Google na situáciu reagoval pomerne rýchlo, priznal vinu, ospravedlnil sa a začal pracovať na náprave.
@jackyalcine Holy fuck. G+ CA here. No, this is not how you determine someone’s target market. This is 100% Not OK.
— Yonatan Zunger (@yonatanzunger) 29. Červen 2015
Ako prvým krokom bolo odstránenie štítku z databázy aplikácie, ktorý bol určený pre označovanie goríl, čo je však len dočasné riešenie a Google bude teraz vynakladať úsilie, aby zdokonalil rozpoznávací softvér a k podobným incidentom už nedochádzalo.
Aj keď sa samozrejme nejednalo o úmysel, pri tvore tak vnímavého softvéru, ktorý pracuje s tvárami ľudí by sa malo dbať na dôkladnejšie testovanie jeho funkčnosti pred jeho uvoľnením.
