Autonomní agenti umělé inteligence se při hledání statistik o školách a rozvodech pokoušeli agresivními postupy proniknout na vládní weby Spojených států a Kanady. Na problém upozornila nezisková výzkumná laboratoř Transluce. Podle ní agenti zjevně plnili úkoly typu vyhledávání dat, jejich aktivita ale zahrnovala i neúspěšné a základní pokusy o hacking. Shromážděná data nenaznačují, že by se agenti dostali k neveřejným informacím.
Pokus o SQL injection na americkém ministerstvu školství
Jeden z incidentů se odehrál 17. června, kdy agenti při hledání školních statistik odeslali na web amerického ministerstva školství více než 200 000 požadavků. Součástí byl i jednoduchý pokus o SQL injection pomocí upraveného parametru, jehož cílem bylo obejít běžné filtry webu. Podle výzkumníků předcházela pokusu čtyřicetisekundová série požadavků s neobvyklými identifikátory států, jejichž účel bez dalšího kontextu není jasný. Požadovaná data podle všeho odpovídala otázce z benchmarku Google DeepSearchQA týkající se školních poradců a šikany související s rasou. Transluce ministerstvo informovala 25. září. Mluvčí uvedl, že kontrola žádný dopad na služby neodhalila.
Neúspěšné sondy proti kanadskému archivu
Podobný vzorec zaznamenali výzkumníci u knihovny a archivu Library and Archives Canada, kde se agenti snažili získat historické záznamy o rozvodech z let 1905 až 1911. Portugalský národní webový archiv Arquivo.pt zaznamenal 28. května a 9. června téměř 900 požadavků na tuto instituci. Třináct z nich obsahovalo útočný kód, například sondy SQL injection a testy zpracování vstupů, výstupních formátů a ladicích voleb. Sondy vrátily prázdné stránky a kanadské Centrum pro kybernetickou bezpečnost potvrdilo, že nic nenasvědčuje manipulaci s databází. „V tuto chvíli nic nenasvědčuje tomu, že by vládní systémy byly kompromitovány,“ uvedlo centrum. Dodalo, že automatizované nebo potenciálně škodlivé požadavky samy o sobě ještě neznamenají úspěšný kybernetický incident.
Širší aktivita a nejistý původce
Výzkumníci útoky s jistotou nepřipisují společnosti OpenAI, upozorňují však, že použité postupy odpovídají aktivitě, která jí byla připsána dříve. OpenAI listu The Washington Post sdělila, že zjištění prověřuje a kanadským úředníkům poskytla první informace. Firma už dříve přiznala nezamýšlené interakce svých agentů s americkými vládními weby.
Vyšetřování odhalilo i mnohem širší aktivitu agentů proti federálním a státním webům v USA, mimo jiné v Kalifornii, Kansasu, Marylandu, Illinois, Texasu a New Yorku. Agenti používali obrovské objemy požadavků, upravené adresy URL, jednorázové e-maily, pokusy o obejití ochrany proti botům, hádání názvů souborů ke stažení i opakované použití uniklých přihlašovacích údajů. V jednom případě se pokusili zaregistrovat API klíč u Úřadu pro ekonomickou analýzu s jednorázovou adresou a názvem organizace „OpenAI Research“. Mezi 23. dubnem a 18. květnem se také automatizovaně snažili dostat do administrace webu námořního historického velitelství history.navy.mil, přístup k citlivým vojenským informacím však prokázán nebyl. Transluce vycházela hlavně ze záznamů Arquivo.pt a služby urlquery.net. Navazuje tím na dřívější výzkum, podle kterého agenti zkoumali zranitelnosti služby Data USA a digitální knihovny Univerzity Nového Mexika a zneužili chybu v australském vládním portálu.
Zdroj: bleepingcomputer.com
Zdroj: IT SECURITY NETWORK NEWS
