Anthropic představil model Claude Fable 5, svůj dosud nejschopnější model, do běžné dostupnosti. Společnost zároveň udělala něco neobvyklého: jeden model uvedla na trh ve dvou produktech, rozdělených nikoli podle schopností, ale podle vrstvy bezpečnostních klasifikátorů.
Fable 5 je určen veřejnosti. Jeho dvojče, Claude Mythos 5 – stejný základní model, ale bez kybernetických pojistek – zůstává vyhrazeno prověřené skupině obránců v oblasti kybernetické bezpečnosti a provozovatelů kritické infrastruktury. Anthropic označuje Mythos 5 za nejsilnější kybernetický bezpečnostní model na světě.
Praktický rozdíl spočívá v tom, že Fable 5 přesměrovává označené požadavky týkající se kybernetiky, biologie, chemie a takzvané destilace na slabší model Claude Opus 4.8, zatímco Mythos 5 si kybernetické schopnosti ponechává pro prověřené uživatele. Oba modely stojí 10 dolarů za milion vstupních tokenů a 50 dolarů za milion výstupních tokenů, což je méně než polovina ceny dřívějšího modelu Mythos Preview, a Fable 5 je nyní dostupný přes Claude API. Je zahrnut v plánech Pro, Max, Team a v podnikových plánech s placenými místy bez dodatečných poplatků až do 22. června, poté přejde na systém kreditů za používání.
Jak fungují kybernetické klasifikátory modelu Fable 5
Rozdělení existuje proto, že modely třídy Mythos dokážou nacházet a zneužívat softwarové zranitelnosti natolik dobře, že by podle Anthropicu předání této schopnosti veřejnosti bez kontrolních mechanismů poskytlo útočníkům výraznou výhodu.
Mechanismem je sada klasifikátorů – samostatných AI systémů, které sledují zneužití a pokusy o obejití pravidel. Když požadavek některý z nich aktivuje, Fable 5 jej neodmítne. Odpověď je předána modelu Opus 4.8 a uživatel je informován, že k přesměrování došlo. Z označených kategorií je destilace výjimkou – jde o extrahování schopností modelu za účelem trénování konkurenčního modelu, což Anthropic blokuje, aby zabránil úniku schopností blízkých nejmodernějším modelům bez příslušných pojistek.
Klasifikátor pro kybernetickou bezpečnost je nejširší. Anthropic jej navrhl tak, aby blokoval nejen vývoj exploitů, ale i ofenzivní kybernetické úkoly obecně – průzkum, objevování, postup napříč sítí, tedy agentní kroky tvořící skutečný útok.
Při interním testování, kdy byl Fable 5 nastaven na blokování místo přesměrování a kdy nedocházelo k pokusům o obejití pojistek, klasifikátory modelu zabránily v jakémkoli pokroku na těchto úkolech. Jeden z externích partnerů zjistil, že Fable 5 nevyhověl žádnému ze škodlivých jednorázových požadavků týkajících se plánování kybernetických útoků, vývoje exploitů či obcházení obrany, a obstál proti 30 různým veřejně známým technikám obcházení omezení (jailbreak).
Daní za to jsou falešně pozitivní výsledky. Anthropic nastavil pojistky konzervativně, aby mohl rychle uvést produkt na trh, takže občas zachytí i neškodné požadavky. Společnost uvádí, že k přesměrování dochází u méně než 5 procent všech relací, takže ve více než 95 procentech případů se Fable 5 chová jako kyberneticky neomezený Mythos 5. Toto číslo zahrnuje veškerá přesměrování včetně oprávněných blokací, takže jde o horní hranici celkového narušení, nikoli o samostatnou míru falešně pozitivních výsledků. Anthropic uvádí, že po spuštění bude pojistky dále zpřesňovat a snižovat počet falešných poplachů.
Pokud jde o odolnost, čísla jsou konkrétní. Externí program za nalezení chyb (bug bounty) trval přes 1 000 hodin a nepřinesl žádný univerzální jailbreak, prompt ani nástroj, který by pojistky kompletně odstranil. Externí red teamy nenašly nic ani u dlouhých agentních úloh, s jednou výjimkou, kterou Anthropic otevřeně přiznává: britský AI Security Institute během krátkého počátečního testovacího okna dosáhl pokroku směrem k univerzálnímu jailbreaku. Anthropic připouští, že je pravděpodobně nemožné univerzálním jailbreakům zcela zabránit, a jeho cílem je, aby ty, které přetrvají, byly natolik pomalé a nákladné, že je bude možné odhalit dřív, než budou zneužity ve velkém měřítku.
Proč jsou tyto schopnosti hrozbou
Důvody pro opatrné zacházení s tímto modelem byly popsány již v dubnu, kdy Anthropic zpřístupnil Claude Mythos Preview omezené skupině v rámci programu Project Glasswing. Stojí za přečtení technická zpráva red teamu Anthropicu k tomuto vydání.
Během testování Mythos Preview identifikoval a zneužil zero-day zranitelnosti ve všech hlavních operačních systémech a všech hlavních webových prohlížečích, pokud k tomu byl uživatelem instruován. Nejstarší nalezenou chybou byla 27 let stará zranitelnost v systému OpenBSD, který je známý především svým důrazem na bezpečnost. Model autonomně napsal exploit pro vzdálené spuštění kódu proti NFS serveru systému FreeBSD na základě 17 let staré chyby, zařazené pod označením CVE-2026-4747.
Anthropic popisuje výsledek jako úplný přístup root pro neautentizovaného útočníka odkudkoli z internetu; záznam v databázi NVD je zdrženlivější a uvádí, že samotné přetečení zásobníku nevyžaduje autentizaci klienta, ale spuštění kódu na úrovni jádra je dosažitelné útočníkem, který dokáže odesílat pakety na NFS server, pokud je načten modul kgssapi.ko.
Podle vlastního vyjádření Anthropicu nebyly tyto schopnosti záměrně natrénovány – objevily se jako vedlejší efekt obecných zlepšení v oblasti kódu, uvažování a autonomie, tedy stejných pokroků, díky nimž je model lepší i v opravování chyb. Red team varuje jasně: opatření, jejichž bezpečnostní hodnota spočívá spíše v komplikovanosti než v pevných bariérách, výrazně ztrácejí účinnost proti modelu, který dokáže ve velkém měřítku projít zdlouhavými kroky zneužití zranitelnosti.
Pevné technické bariéry, jako jsou KASLR a W^X, stále zvyšují náklady útočníka; varování se týká spíše obran, které spoléhají na trpělivost útočníka nebo ruční práci – tu nyní může model nahradit sám.
Mythos 5 tyto schopnosti přebírá. Anthropic uvádí, že uživatelé jej shledají srovnatelným nebo o něco silnějším než Mythos Preview.
Skutečný problém na straně obránců
Obranný přínos není jen teoretický. Během prvních týdnů programu Project Glasswing Anthropic a zhruba 50 partnerů pomocí Mythos Preview odhalili více než deset tisíc vysoce závažných nebo kritických zranitelností v systémově významném softwaru.
Sama společnost Cloudflare našla 2 000 chyb, z toho 400 vysoce závažných nebo kritických. Mozilla nalezla a opravila 271 chyb ve Firefoxu 150, tedy více než desetinásobek toho, co odhalila ve Firefoxu 148 pomocí staršího modelu Opus 4.6. Anthropic uvádí, že stejný tlak je patrný i mimo program Glasswing, a to v podobě neobvykle rozsáhlých bezpečnostních aktualizací od různých výrobců.
Tato záplava je zároveň problémem. Hledání chyb je nyní levné a rychlé. Jejich ověřování, třídění a opravování však nikoli – stále je na to potřeba lidský čas.
Anthropic uvádí, že správci open-source projektů, již tak zahlcení nekvalitními hlášeními o chybách generovanými umělou inteligencí, jej požádali, aby zpomalil zveřejňování zranitelností, protože nestíhají psát opravy dostatečně rychle. V rámci programu Glasswing trvá oprava vysoce závažné nebo kritické chyby nalezené modelem v průměru asi dva týdny.
Úzké hrdlo se tak přesunulo od objevování k opravě, a právě v mezeře mezi zveřejněním zranitelnosti a nasazením opravy dnes operují útočníci. Experimenty red teamu s takzvanými N-day zranitelnostmi tento bod jen podtrhují: Mythos Preview dokázal na základě pouhého zveřejněného CVE a jeho opravy sestavit funkční exploity pro eskalaci oprávnění v Linuxu během necelého dne, za pár tisíc dolarů či méně ve výpočetních nákladech.
Pro obránce to znamená totéž co dosud, jen na kratším čase: počítat s tím, že vysoce závažná zranitelnost CVE se může proměnit ve funkční exploit během hodin od zveřejnění, nikoli týdnů. To znamená upřednostňovat automatické aktualizace u systémů přístupných z internetu a brát aktualizace závislostí obsahující opravy CVE jako úkol s časovým tlakem, nikoli jako položku v zásobníku úkolů.
Vícefaktorové ověřování a důkladné protokolování zůstávají základem, aby jediná zmeškaná oprava nebyla jedinou věcí stojící mezi útočníkem a sítí. Anthropic spustil program Cyber Verification Program, který umožňuje prověřeným bezpečnostním profesionálům používat jeho modely pro legitimní ofenzivní práci bez kybernetických pojistek.
Nový požadavek na 30denní uchovávání dat
Anthropic také mění způsob, jakým nakládá s daty u modelů třídy Mythos.
Pro veškerý provoz modelů Fable 5, Mythos 5 a budoucích modelů této úrovně schopností, a to napříč vlastními i partnerskými platformami, bude vyžadovat 30denní uchovávání dat. Společnost uvádí, že data nepoužije pro trénování ani jiné účely mimo bezpečnost, bude zaznamenávat veškerý lidský přístup k nim a po 30 dnech je smaže, pokud bezpečnostní vyšetřování nebo právní povinnost nevyžadují jejich delší uchování.
Uváděným důvodem je obrana – data pomáhají odhalovat nové typy útoků a pokusů o obejití pravidel, které se projevují napříč mnoha požadavky. Týmy s přísnými požadavky na nakládání s daty by tuto retenční lhůtu měly zohlednit dříve, než přes tyto modely povedou citlivý provoz.
Anthropic plánuje rozšířit přístup k modelu Mythos 5 prostřednictvím programu pro důvěryhodný přístup a uvádí, že jakmile to dovolí kapacita výpočetního výkonu, chce Fable 5 znovu zařadit do předplatitelských plánů bez příplatku za kredity, který se uplatní po 22. červnu.
Zásadnější otázkou, kterou toto uvedení na trh znovu otevírá, je ta, kterou Anthropic naznačuje už od dubna: podobně schopné modely od jiných laboratoří přicházejí a ne všechny budou vybaveny stejnou vrstvou klasifikátorů. Náskok, který měl program Glasswing obráncům zajistit, bude mít smysl jen tehdy, pokud jej zbytek odvětví skutečně využije.
Zdroj: thehackernews.com
