Popredné AI chatboty pri testovaní opakovali nepravdivé naratívy z ruskej dezinformačnej siete Pravda približne v tretine prípadov, uvádza spoločnosť NewsGuard vo svojej analýze. Kremeľ pritom necielia len na bežných čitateľov, ale priamo na databázy a encyklopédie, z ktorých sa trénujú jazykové modely., informoval server TECHBYTE.sk.
Sieť Pravda, známa aj ako Portal Kombat, prevádzkuje stovky webov v mnohých jazykoch a cieli na krajiny v Európe, Ázii aj Afrike. Francúzska agentúra Viginum, ktorá sleduje zahraničné dezinformačné operácie, vo svojej správe uvádza, že medzi krajinami, na ktoré sa sieť rozšírila, je aj Slovensko. Weby pritom nefungujú ako klasické médiá. Ich účelom je zaplaviť internet veľkým množstvom textov, ktoré zachytia vyhľadávače, agregátory a databázy.
Ruwiki a Runiversalis
Nástrojom tejto stratégie sú aj ruské encyklopedické alternatívy. Ruwiki vznikla ako technická kópia ruskojazyčnej Wikipédie a prevzala približne 1,9 milióna článkov. Navonok ide o encyklopédiu. Jej pravidlá sú však oveľa bližšie štátom kontrolovanému výkladu sveta. Ďalší podobný projekt, Runiversalis, vznikol v roku 2022. Spoločný menovateľ oboch platforiem je rovnaký: vojna na Ukrajine, úloha NATO, sankcie a domáca opozícia sa v nich vysvetľujú spôsobom prijateľným pre Kremeľ, ako upozorňuje portál Techbyte.sk s odvolaním sa na slovinský denník Dnevnik a výskumníkov z DFRLab.
DFRLab zistil, že odkazy na weby siete Pravda sa objavili nielen v odpovediach chatbotov, ale aj v zdrojoch používaných na Wikipédii a v komunitných poznámkach na sieti X. Obsah, ktorý začal ako štátom riadená encyklopédia, sa teda dokáže presunúť do platforiem, ktoré bežný používateľ považuje za nezávislé.
Odpoveď bez varovania
Chatbot neodpovedá z prázdna. Pri trénovaní alebo pri vyhľadávaní v reálnom čase sa opiera o texty dostupné na internete, a ak je ten zámerne zaplavený tisíckami manipulatívnych článkov, časť z nich sa dostane aj do odpovedí. Odpoveď od AI pritom často pôsobí neutrálne a autoritatívne, čo je presne to, čo pri bežnom webe s jednostranným slovníkom čitateľ zaznamená okamžite.
Praktická obrana existuje, aj keď nie je pohodlná. Pri citlivých témach, najmä pri vojne, politike, sankciách alebo migrácii, Techbyte.sk odporúča nekonfrontovať sa len s jednou odpoveďou chatbota, ale hľadať primárne dokumenty, porovnávať viacero dôveryhodných médií a všímať si, či sa v odpovedi neobjavujú neznáme weby s nápadne jednostranným jazykom.
Stroje ako cieľ
Sieť Pravda cieli na Slovensko a ďalšie európske krajiny práve v čase, keď AI nástroje prenikajú do bežného vyhľadávania. Nie je to náhoda. Ovplyvniť jedného čitateľa jedným článkom je menej efektívne než ovplyvniť prostredie, z ktorého sa budú učiť jazykové modely. Propaganda sa potom vracia k ľuďom nie ako tendenčný web, ale ako zdanlivo objektívna odpoveď umelej inteligencie.
Viginum, DFRLab aj NewsGuard dospeli k podobným záverom nezávisle od seba. Koordinácia medzi ich zisteniami nebola potrebná: dezinformačné stopy viedli k rovnakým sieťam, rovnakým webom a rovnakým naratívom. Slovensko figuruje v správe Viginum ako jedna z cieľových krajín, nie ako okrajová poznámka.
