Dříve nezdokumentovaný implantát a krádež informací pro macOS napsaný v jazyce Rust v sobě obsahuje payload typu prompt injection, který je navržen tak, aby oklamal nástroje umělé inteligence používané analytikem malwaru a přiměl je analýzu artefaktu přerušit nebo odmítnout.
Malware dostal kódové označení Gaslight kvůli tomuto klamavému chování. S vysokou mírou jistoty se hodnotí, že nástroj je dílem aktérů hrozeb napojených na Severní Koreu. Podle výzkumníka Phila Stokese ze společnosti SentinelOne je nejpozoruhodnějším rysem malwaru vložená kaskáda vymyšlených zpráv o selhání systému, jejímž cílem je přimět agenta umělé inteligence provádějícího triáž, aby zapochyboval o vlastní relaci. Útok míří na vnímání agenta, nikoli na sandbox, v němž běží.
Architektura a příkazy
Jádrem architektury malwaru je kanál pro řízení a kontrolu (C2) založený na API Telegram bota, který vstupuje do dotazovací smyčky a umožňuje operátorovi zadávat pokyny přes interaktivní shell a vracet výsledky vykonání. Pokud současně dotazují dvě instance se stejným tokenem bota, je vrácena odpověď „Conflict“, která způsobí ukončení druhé kopie. Shell podporuje šest hlavních příkazů, mezi nimi help (zobrazení nápovědy), id (identifikace implantátu operátorovi), shell (spuštění příkazu shellu), kill (ukončení cílového procesu podle PID), upload (exfiltrace souboru přes mechanismus Telegramu) a stop (zastavení činnosti implantátu). SentinelOne uvádí, že nalezl náznaky existence sedmého příkazu s názvem „focus“, jehož funkce zatím zůstává neurčena. K zajištění persistence Gaslight využívá LaunchAgent s označením „com.apple.system.services.activity“ v souboru .plist.
Do malwaru je rovněž vložen 6,6 KB velký skript v jazyce Python kódovaný v Base64, který funguje jako sada pro shromažďování informací. Sbírá historii příkazů z Terminálu, seznamy nainstalovaných aplikací, snímky běžících procesů, profil hardwaru a softwaru systému, databázi macOS Keychain a data z prohlížečů Chrome, Brave, Firefox a Safari. Posbíraná data jsou následně zkomprimována do archivu ZIP a nahrána přes Telegram. Přítomnost emotikonů a rozsáhlých komentářových hlaviček naznačuje, že skript byl pravděpodobně vygenerován pomocí velkého jazykového modelu.
Zbraň namířená na analytika
Pozoruhodné na Gaslightu je, že údaje o tokenu bota, ID chatu a zbytku konfigurace operátora nejsou v ukázce napevno zakódovány, ale jsou dodávány za běhu. Podle Stokese si implantát ve vlastním výstupu za běhu sám redaktuje token Telegram bota, čímž ho upírá komukoli, kdo zachytí protokoly nebo artefakty po pádu. Malware se navíc pokouší vyhnout detekci založené na umělé inteligenci tím, že obsahuje blok ohraničený značkami Markdownu s 38 vymyšlenými „systémovými“ zprávami navrženými tak, aby přiměly bezpečnostního agenta analýzu přerušit, zkrátit nebo odmítnout. Podle SentinelOne tato konstrukce obsahuje falešné systémové zprávy o vypršení tokenu, o ukončení kvůli nedostatku paměti, o vyčerpání místa na disku a o opakovaných selháních operací. Vkládá také falešná varování o zranitelnostech injekcí a o příznacích statické analýzy. Firma to označila za pokus využít jako zbraň ty triážní pipeline řízené umělou inteligencí, které se stále častěji nacházejí ve smyčce reverzního inženýrství.
Zdroj: thehackernews.com
Zdroj: IT SECURITY NETWORK NEWS
