Emotikon pizze ako kód pre detskú pornografiu, hnedé srdce pre predaj drog. Európska komisia si nechala vypracovať 46-stranovú správu, ktorá mapuje systémové riziká online priestoru, a od veľkých platforiem žiada nástroje na kontextové rozpoznávanie takýchto skrytých kódov.
Správa vznikla v rámci zákona o digitálnych službách (DSA), ktorý platí od roku 2024 a ukladá platformám povinnosť aktívne moderovať škodlivý obsah. Podľa dokumentu sa kódové emotikony objavujú pri predaji drog, šírení extrémistického obsahu aj pri materiáloch spojených so zneužívaním detí. Smajlík polievky má podľa správy predstavovať sebapoškodzovanie, informoval server TECHBYTE.sk.
Pizze, vločky, diamanty
Profil Digital EU na sieti X zverejnil vizuál s konkrétnymi príkladmi. Medzi emotikonmi, ktoré údajne zakrývajú predaj drog, sa objavili hnedé srdce, snehová vločka, diamant či cukrík. Portál Techbyte.sk upozorňuje, že ide o bežné symboly, ktoré platformy automaticky neflagujú. Páchatelia ich využívajú práve preto, že automatická moderácia číta emotikony izolovane, nie v kontexte celej správy.
Niektorí poskytovatelia už podľa správy opatrenia zaviedli. Rozsah ani názvy platforiem dokument neuvádza.
Kombinácia algoritmov a ľudí
Komisia nechce plošný zákaz emotikonov. Požiadavka smeruje k tomu, aby platformy kombinovali automatickú detekciu, ľudský dohľad a znalosť lokálneho kontextu vrátane jazykových a kultúrnych špecifík. Správa výslovne hovorí o potrebe kontextového rozpoznávania skrytých kódov nielen v obsahu, ale aj v odporúčaniach a reklame. DSA, pod ktorý táto požiadavka spadá, sa zameriava predovšetkým na ochranu detí.
„Občianske organizácie zdôraznili, že je nevyhnutné, aby ľudskí moderátori boli dobre preškolení a zároveň poznali miestny kontext, jazyky a kultúry,“ cituje správa. Dohľad nad dodržiavaním pravidiel majú na starosti národní koordinátori, nie Komisia priamo.
Správa zároveň upozorňuje, že akékoľvek opatrenia musia byť primerané a rešpektovať slobodu prejavu. Kde presne leží hranica medzi kontextovou moderáciou a cenzúrou bežnej komunikácie, dokument nešpecifikuje.
