Bezpečnostní výzkumník Oliver Fish tvrdí, že objevil způsob úniku ze sandboxu OpenAI, díky kterému mohl posílat požadavky na placené modely umělé inteligence bez API klíče i bez účtu. Na snímku obrazovky, který zveřejnil na internetu, je vidět, že mu OpenAI za hlášení s názvem „Unauthenticated Sandbox Escape Enables Access to Internal OpenAI Responses API“ vyplatila odměnu 300 dolarů.
Problém podle všeho překročil dvě bezpečnostní hranice zároveň, tedy izolaci sandboxu a ověřování přístupu k API. Návod OpenAI pro vývojáře přitom vyžaduje vytvoření API klíče ještě před odesláním prvních požadavků. Pokud je Fishovo tvrzení pravdivé, mohl vzdálený uživatel posílat požadavky na modely přes interní cestu a vyhnout se běžné kontrole identity i účtování.
Mnoho otazníků
Technické podrobnosti zůstávají neveřejné. Není k dispozici ukázkový kód, zranitelné rozhraní, seznam dotčených modelů, označení CVE, doba expozice ani informace o opravě. Neexistuje ani veřejný důkaz, že by byla ohrožena zákaznická data nebo že by chyba byla zneužita mimo Fishovo testování. Zjištění je proto třeba brát jako tvrzení výzkumníka, nikoli jako potvrzený rozsáhlý únik.
Výše odměny vyvolala kritiku. „Nemám žádný důvod jim hlásit cokoli dalšího, co najdu,“ napsal Fish na síti X. OpenAI v rámci svého programu na platformě Bugcrowd vyplácí od 200 dolarů za chyby s nízkou závažností až po 20 000 dolarů za výjimečné nálezy. Nízká částka může znamenat, že firma ohodnotila skutečný dopad níže, než napovídá název hlášení. Své rozhodnutí ale OpenAI nevysvětlila.
Co by mělo následovat
Bezpečnost sandboxů je u AI služeb citlivým tématem. Server Cyber Security News už dříve informoval o chybě v sandboxu ChatGPT, která odhalila data z Gmailu, i o agentech OpenAI, kteří obcházeli omezení sandboxu. Tyto případy ukazují, že sdílené interní služby, slabá pravidla přístupu a povolené síťové cesty je nutné testovat jako bezpečnostní hranice.
Podle článku by OpenAI měla potvrdit, které služby se chyba týkala, kdy byla opravena, jak dlouho byla zneužitelná a zda záznamy ukazují na neoprávněné použití. Poskytovatelé API by měli vynucovat ověřování na každém interním kroku, blokovat anonymní volání modelů, zavést přísné limity požadavků i útraty a upozorňovat na požadavky bez platné identity zákazníka. Uživatelé by měli sledovat vyúčtování a záznamy API. Výměna klíčů ale proti obejití ověřování na straně serveru nepomůže.
Zdroj: cybersecuritynews.com
Zdroj: IT SECURITY NETWORK NEWS
