Umělá inteligence už v kybernetické bezpečnosti a při vyšetřování finanční kriminality neslouží jen jako pomocník. Tvrdí to nová zpráva Intel3D od blockchainové bezpečnostní firmy CertiK, kterou získal server CryptoPotato. Podle dokumentu dokážou novější systémy postupovat v logických krocích, používat nástroje, shromažďovat důkazy, jednat v reálném prostředí a vyhodnocovat výsledky, a to jen s omezeným zásahem člověka.
Systémy strojového učení dlouhé roky hlavně pomáhaly analytikům. Upozorňovaly na neobvyklá přihlášení, hodnotily rizikovost transakcí a připravovaly podklady pro reporty. Podle CertiKu ale nová generace agentů zvládá mnohem širší škálu úkolů. Jejich role se tak posouvá od pouhého odhalování problémů k aktivní pomoci při jejich řešení.
Agenti zvládají stále víc bezpečnostních úkolů
V bezpečnostním operačním centru by například agent mohl prověřit podezřelé přihlášení. Zkontroloval by záznamy o zařízení, údaje o poloze a zdroje informací o hrozbách, a teprve potom by zasáhl. Mohl by pozastavit účet a všechny své kroky zaznamenat, aby je později posoudil člověk.
Podobné systémy se podle CertiKu objevují i v oblasti bezpečnosti Web3. Používají se k třídění chytrých kontraktů podle priority, k hodnocení rizikovosti transakcí nebo ke sledování ukradených prostředků. Firma očekává, že lidé se budou čím dál víc věnovat dohledu, zatímco rutinní vyšetřování převezmou agenti.
Jedním z důvodů tohoto posunu je rychlost některých útoků. Exploity založené na bleskových půjčkách (flash loans) dokážou vyprázdnit protokol během několika sekund. Ukradené kryptoměny se pak během pár hodin přesunou přes mosty a mixéry. Lidským týmům tak zbývá jen velmi málo času na vyšetření a reakci.
Další roli hraje nedostatek odborníků na kybernetickou bezpečnost a compliance a zároveň rostoucí regulační tlak, který zvyšuje objem práce. Bezpečnostní firma uvádí, že jen v první polovině roku 2025 dosáhly pokuty za porušení pravidel proti praní špinavých peněz (AML) více než 900 milionů dolarů. Ukazuje to, jaké následky hrozí firmám, když jejich kontrolní mechanismy selžou.
Autonomie AI přináší nová rizika
CertiK tvrdí, že by firmy měly autonomní agenty vnímat spíš jako součást pracovní síly než jako běžný software. To, že jedná agent, nezbavuje odpovědnosti lidi. Za výsledky tedy dál odpovídá společnost, která agenta nasadila.
Na této odpovědnosti záleží tím víc, čím víc úkolů agenti přebírají ve finančním a kryptoměnovém provozu. Ve financích by mohli plnit úkoly spojené s AML. V kryptoměnách by mohli odhalovat exploity, sledovat tok prostředků a monitorovat transakce.
Zpráva však upozorňuje i na rizika. Patří k nim chybné výstupy, slábnoucí lidská kontrola a cílené útoky na samotné systémy AI. CertiK proto doporučuje zaznamenávat vstupy a provedené akce, stanovit jasné limity pro autonomní rozhodování, provádět adversariální testování a u každého agenta určit konkrétního odpovědného vlastníka.
Systémy AI získávají nad bezpečnostními a compliance úkoly stále větší pravomoci. Firmy proto budou potřebovat kontrolní mechanismy, které budou této rozšířené roli odpovídat. Podle CertiKu hrozí, že bez důsledného dohledu automatizace jen nahradí známé problémy selháními, která se budou vysvětlovat mnohem hůř.
Zdroj: cryptopotato.com
Zdroj: IT SECURITY NETWORK NEWS
