Chatbot Grok od spoločnosti xAI, ktorú vlastní Elon Musk, sa v priebehu niekoľkých týždňov premenil z technologickej atrakcie na globálny problém. Bezplatný nástroj, priamo integrovaný do siete X, umožňoval generovať fotorealistické obrázky na základe textových zadaní. Lenže namiesto kreativity prišla lavína digitálneho násilia. Ponižujúce, sexuálne explicitné výstupy, často založené na skutočných fotografiách žien a detí. Bez súhlasu. Bez zábran.
Spočiatku to vyzeralo neškodne. Používatelia žiadali, aby AI „prezliekla“ ženy do plaviek. Lenže Grok nemal nastavené pevné etické mantinely, a keď si to ľudia uvedomili, hranice sa prestali rešpektovať. Žiadne. Z plaviek sa stali priehľadné materiály, bizarné variácie odevov z dentálnej nite a napokon scény, ktoré evokovali sexuálne násilie. Skrátka explózia zneužívania.
Od zvedavosti k masovej výrobe poníženia
Začiatkom januára systém zaznamenal takmer dvestotisíc individuálnych požiadaviek. Analýza spoločnosti Peryton Intelligence pre britský The Guardian odkryla rozsah absurdity aj brutality. Ľudia chceli telá pokryté tekutinami pripomínajúcimi telesné sekréty, modriny, krv, zväzovanie, zapchaté ústa. Objavili sa požiadavky na vyliate vnútorné orgány či rasistické úpravy farby pleti. A to najhoršie prišlo potichu. Britská Internet Watch Foundation identifikovala snímky detí vo veku jedenásť až trinásť rokov, ktoré spĺňali definíciu materiálov zachytávajúcich sexuálne zneužívanie detí. V praxi to znamená trestnú činnosť.
Alibizmus platformy a ľahkovážnosť Muska
Reakcia xAI a platformy X pôsobila bolehlavo prázdne. Prístup ku Groku obmedzili len na overené, teda platiace účty. Problém nezmizol, len dostal cenovku. V samostatnej aplikácii sa dalo v generovaní pokračovať, iba bez automatického zverejnenia na nástenke. Platforma X vinu presunula na používateľov, vraj tí, čo obsah vytvárajú, budú posudzovaní rovnako ako tí, čo ho šíria. Papierovo správne. Morálne chybné.
Elon Musk celú situáciu skôr bagatelizoval. Keď AI „vyzliekla“ aj jeho, reagoval pobavene. Lenže pre ženy, známe aj anonymné, ide o dehumanizujúci zásah. Obrana na verejnej platforme často znamená len ďalšiu vlnu útokov. Krátka veta. Bez ilúzií.
Právo, dôkazy a tvrdá realita
Odborníci na online bezpečnosť, vrátane riaditeľky DigiQ Andrey Cox, radia postupovať chladne. Uchovať dôkazy. Screenshoty, ideálne notársky overené, lebo príspevky sa zvyknú rýchlo mazať. Obsah treba nahlásiť platforme pre porušenie súkromia. Ak nereaguje, DigiQ vie pomôcť cez prioritné kanály.
Z právneho hľadiska ide o vážnu vec. Pri deťoch o výrobu detskej pornografie. Pri dospelých o kyberšikanovanie, porušenie ochrany osobnosti, ohováranie či porušenie GDPR, keďže sa pracovalo so skutočnými fotografiami bez súhlasu. V týchto prípadoch sa odporúča kontaktovať políciu. Bez váhania.
Blokácie, vyšetrovania a tlak štátov
Malajzia a Indonézia prístup ku Groku zablokovali. Francúzska prokuratúra prípad vyšetruje, hrozia pokuty aj väzenie. Európska komisia nariadila platforme X uchovávať všetky dokumenty súvisiace s chatbotom. Britský premiér Keir Starmer označil situáciu za hanebnú a vyzval úrad Ofcom na rázny zásah. Grok bol pritom už skôr kritizovaný za antisemitizmus. Ak sa AI učí z internetu, zosilňuje aj jeho temné stránky. A práve to dnes vidíme v plnej sile.
