Společnost Anthropic upozornila na potenciálně novou generaci kybernetických hrozeb, při které by se malé modely umělé inteligence mohly samostatně šířit mezi zařízeními připojenými k internetu. Podle jejího hodnocení by potřebné schopnosti mohly být technologicky dosažitelné již v horizontu několika měsíců.
Na rozdíl od tradičních botnetů by takové škodlivé sítě nemusely být řízeny jediným centrálním serverem. Samotný AI model by mohl na napadeném zařízení vyhledávat další cíle, připravovat postupy pro jejich kompromitaci a následně na ně přenášet vlastní kopie.
Mezi potenciálně ohrožená zařízení patří levné Android TV boxy, chytré domácí spotřebiče a další produkty internetu věcí. Právě u těchto zařízení bývá bezpečnostní ochrana často omezená a aktualizace nebývají pravidelné.
Distribuovaná umělá inteligence by mohla fungovat bez datového centra
Základem uvažovaného útoku je schopnost AI modelu přenést své parametry, označované jako váhy, na další kompromitované zařízení. Model by pak mohl spouštět výpočty přímo na získaném hardwaru nebo společně s dalšími připojenými systémy.
V takovém scénáři by útočníci nemuseli provozovat drahou centralizovanou infrastrukturu. Výpočetní výkon by získávali prostřednictvím rozsáhlé sítě napadených spotřebitelských zařízení.
Anthropic při experimentálním testování vyhodnocoval 11 otevřených AI modelů pocházejících od několika významných technologických společností. V jednom experimentu dokázal model GLM-5.2 spolehlivě rozšířit model Llama 3.1 8B na osm uzlů využívajících emulované prostředí Androidu, a to ve čtyřech z pěti pokusů.
Výzkum rovněž naznačuje, že dostatečně rozsáhlá síť levných chytrých zařízení by mohla společně poskytovat nezanedbatelný výkon pro provoz jazykových modelů.
Vedle šíření pomocí vlastních vah připadá v úvahu také zneužívání odcizených API klíčů, které by škodlivému AI systému umožnily využívat výpočetní kapacitu legitimních poskytovatelů.
Anthropic současně zdůrazňuje, že zatím nebyl předveden plně autonomní škodlivý systém schopný dlouhodobého samostatného rozmnožování. Jednotlivé technické schopnosti, z nichž by se podobná hrozba mohla skládat, však podle společnosti rychle dozrávají.
Pro bezpečnostní komunitu jde o upozornění, že budoucí malware nemusí pouze vykonávat předem naprogramované instrukce. Mohl by také vyhodnocovat situaci, přizpůsobovat útoky a aktivně reagovat na obranné mechanismy.
Zdroj: thehackernews.com
Zdroj: IT SECURITY NETWORK NEWS
