Finančné inštitúcie vedú v nasadzovaní AI agentov. Súbežne vykazujú najvyšší podiel bezpečnostných incidentov spojených s umelou inteligenciou spomedzi všetkých odvetví, vrátane zdravotníctva, výroby aj vládnych inštitúcií, upozorňuje portál TechByte.sk s odvolaním sa na analýzu TechRadar.
Príčina nie je v samotnej technológii. Problémom je rozsah oprávnení, ktoré firmy agentom udeľujú. Agenti vo finančných službách operujú autonómne, nepretržite a bez únavy, pričom každú sekundu vykonávajú stovky až tisíce operácií. Keď majú zároveň prístup k desiatkam systémov naraz, napríklad pri onboardingu klientov, riadení rizík alebo detekcii podvodov, jedno zlyhanie sa nekontrolovane šíri do ďalších procesov.
Credential sprawl
Firmy siahajú po skratke. Namiesto zdĺhavého nastavovania granulárnych prístupov udelia agentovi rozsiahle oprávnenia, aby veci jednoducho fungovali. Výsledkom je jav, ktorý odborná komunita označuje ako credential sprawl: statické prihlasovacie údaje, API kľúče a dlhodobé servisné účty sa hromadia, šíria a opakovane používajú naprieč celou infraštruktúrou.
Klasické systémy správy identít sú navrhnuté pre ľudí a predvídateľný softvér. AI agent je dynamická entita, ktorá vytvára ďalších agentov, pracuje s externými systémami a koná naprieč celou organizáciou. Väčšina firiem pritom nemá ani základný rámec, ako takýto systém sledovať. Finančné inštitúcie sú prvými, ktoré nové technológie adoptujú, čo z nich robí akési laboratórium, no keďže ide o peniaze, riziko je tu obzvlášť vysoké.
Agenti s nadmernými oprávneniami navyše sťažujú plnenie regulačných požiadaviek. Ak agent operuje ako čierna skrinka, organizácia nevie preukázať, že kontroluje, čo robí.
Kontsevoyov rámec
Ev Kontsevoy, CEO bezpečnostnej spoločnosti Teleport, navrhol štvorstupňový rámec. Každý AI agent musí mať od okamihu svojho vytvorenia jedinečnú, overiteľnú identitu bez zdieľaných prihlasovacích údajov. Organizácie by následne mali skontrolovať existujúcich agentov, identifikovať nadmerné prístupy a obmedziť oprávnenia na konkrétne úlohy, systémy a dátové sady.
Tretím krokom je nahradenie statických poverení. Heslá, API kľúče a dlhodobé servisné účty by mali ustúpiť krátkodobým prístupovým tokenom naviazaným na konkrétnu identitu, pričom každá akcia agenta musí byť zaznamenaná a auditovateľná. Bez viditeľnosti sa riziko ticho kopí dovtedy, kým to celé nepraskne, cituje Kontsevoya TechByte.sk.
Runtime fáza
Existuje ešte jedno slepé miesto, ktoré bezpečnostné tímy prehliadajú. Väčšina pozornosti smeruje k tomu, ako sú dáta uložené a prenášané. Kritickým momentom je však takzvaná runtime fáza, teda okamih, keď model aktívne spracúva dáta v operačnej pamäti. Práve vtedy sú v pamäti infraštruktúry dostupné vstupy, výstupy aj samotné váhy modelu, a to aj v prostrediach so silnou bezpečnostnou politikou. Najcennejšie aktíva sú teda najzraniteľnejšie presne v momente, keď sa aktívne využívajú.
Kontsevoy preto odporúča, aby sa platformové, inžinierske a bezpečnostné tímy zjednotili okolo spoločného modelu identity ešte pred nasadením agenta do prevádzky, nie až po prvom incidente. Onboarding klientov alebo detekcia podvodov, teda procesy, ktoré finančné inštitúcie agentom zverujú ako prvé, sú zároveň procesmi s najrozsiahlejším prístupom k citlivým systémom.
Portál dodáva, že finančný sektor v tomto ohľade nemá komparatívnu výhodu prvého hráča, ale skôr prvého, kto zaplatí za chybu.
