Esther Crawford, produktová riaditeľka priamo v spoločnosti Meta, prišla o svoj Instagram účet rovnakým spôsobom ako stovky ďalších používateľov: chatbot Meta AI zmenil e-mailovú adresu spojeného profilu bez akéhokoľvek dodatočného overenia, informuje server Android Authority. Viceprezident Mety pre komunikáciu Andy Stone vyhlásil, že „problém bol vyriešený a zasiahnuté účty zabezpečujú“, no krádeže profilov pokračujú.
Útok funguje cez takzvaný prompt injection. Hackeri posielajú Meta AI špecificky naformulovanú textovú správu, ktorá chatbota zmanipuluje k zmene e-mailovej adresy na ľubovoľnom Instagram profile. Overenie totožnosti majiteľa účtu AI nevyžaduje. Cieľom sú najmä takzvané OG Handles, teda krátke a vzácne používateľské mená s vysokou hodnotou na čiernom trhu.
Dvojfaktorové overenie nestačí
Medzi obeťami je aj vývojárka a reverzná inžinierka Jane Manchun Wong, v komunite rešpektovaná pre odhaľovanie skrytého kódu v aplikáciách. Útočníci obišli aktívne dvojfaktorové overenie na jej sekundárnom účte a krátko nato bez jej vedomia zmenili heslo aj na hlavnom profile. Pod jej príspevkami o tejto problematike sa nahromadili desiatky komentárov od ďalších používateľov s rovnakou skúsenosťou. Crawford, ktorá pred Meta pôsobila ako produktová riaditeľka v Twitteri, teraz zdieľa tento problém so zákazníkmi, ktorých mala jej zamestnávateľ chrániť.
Stone reagoval opakovane tou istou rétorikou: zasiahnuté kontá sú zabezpečené, niektorí používatelia môžu dostať výzvy na resetovanie hesla alebo zodpovedanie bezpečnostných otázok. Komunita mu po prvom vyhlásení, ktoré sa ukázalo byť nepravdivým, neverí.
Skryté tlačidlo
Na bezpečnostnom Telegram kanále Bugify Vault sa objavila informácia o tom, ako Meta skutočne zasiahla. Z vizuálneho prostredia aplikácie odstránila tlačidlo „Získať podporu“. Samotné API rozhranie Meta AI zostalo na pozadí nedotknuté. Skúsenejší hackeri vymenili klikanie v aplikácii za automatizované skripty a botov, cez ktoré naďalej priamo komunikujú s rozhraním Meta AI. Krádeže účtov pokračujú rovnako ako pred opravou.
Meta pritom v ostatných mesiacoch potvrdila prepúšťanie tisícov zamestnancov práve v prospech umelej inteligencie, ktorú presadzuje naprieč svojimi službami. Chatbot, ktorý mal zefektívniť zákaznícku podporu, sa stal nástrojom na preberanie cudzích účtov, pričom záplata, ktorú firma nasadila, zablokovala prístup bežným používateľom a skúseným útočníkom nezabránila.
Stone zatiaľ neposkytol ďalšie vyjadrenie k tomu, prečo API rozhranie zostalo otvorené.
