Amazon Web Services (AWS) zpřístupnila svou nejnovější generaci čipů Trainium – Trainium3 – prostřednictvím nabídky UltraServers. Společnost také uvádí UltraServery s Nvidia GB300 a naznačuje příchod Trainium4.
UltraServery byly společností AWS uvedeny na trh v prosinci 2024. Skládají se ze čtyř propojených instancí a původně byly nabízeny s čipy AWS Trainium2, přičemž každý UltraServer nabízel 64 čipů.
Trainium3 je první 3nm AI čip společnosti a podle firmy nabízí Trainium3 UltraServer až 4,4krát vyšší výpočetní výkon, čtyřikrát větší energetickou účinnost a téměř čtyřikrát větší šířku pásma paměti než předchozí generace.
Kromě toho UltraServery využívají nový NeuronSwitch-v1, který poskytuje dvojnásobnou šířku pásma v rámci každého UltraServeru, zatímco vylepšená síť Neuron Fabric snižuje komunikační zpoždění mezi čipy na méně než 10 mikrosekund.
Trainium3 UltraServery, oznámené na akci AWS Re:Invent 2025 v Las Vegas a nyní obecně dostupné, lze škálovat až na 144 čipů Trainium3, což nabízí 362 FP8 petaflopů a čtyřikrát nižší latenci pro trénování velkých modelů.
Zákazníci mohou také propojit tisíce UltraServerů a spojit až 1 milion čipů Trainium – přibližně 10krát více než předchozí generace.
Podle AWS mezi zákazníky, kteří již používají Trainium3 UltraServery, patří Anthropic, Karakuri, Metagenomics, Neto.ai, Ricoh a Splashmusic.
Matt Garman, generální ředitel AWS, během své hlavní přednášky uvedl, že AWS dosud nasadila více než 1 milion čipů Trainium a že společnost to dokázala „rekordní rychlostí“.
K tomu Garman vysvětlil, že tento rychlý rozvoj byl možný, protože „my [AWS] kontrolujeme celý proces, celý stack, můžeme optimalizovat způsob, jakým to zavádíme, a to nám umožňuje postupovat ještě rychleji.“
Dodal: „Ve skutečnosti jsme dokázali zvýšit objemy Trainium2 v našem datovém centru 4krát rychleji než u nejrychlejšího AI čipu, který jsme kdy nasadili, a prodáváme je tak rychle, jak je dokážeme vyrábět. Trainium již představuje byznys v hodnotě několika miliard dolarů a nadále velmi rychle roste.“
Kromě zpřístupnění Trainium3 AWS naznačila příchod nadcházejících čipů Trainium4, které podle ní přinesou „významná vylepšení výkonu ve všech dimenzích“.
Trainium4 bude mít podle AWS alespoň 3krát větší výpočetní výkon FP8 a 4krát větší šířku pásma paměti než Trainium3. Kromě toho bude Trainium4 navržen tak, aby podporoval technologii propojení čipů Nvidia NVLink Fusion.
Začátkem tohoto roku AWS zpřístupnila UltraServery založené na systému Nvidia GB200 NVL72. Kromě uvedení nejnovějších Trainium UltraServerů AWS během konference Re:Invent oznámila, že nyní nabízí P6e-GB300 UltraServery, které obsahují systém Nvidia GB300 NVL72, a popisuje je jako ideální pro „AI inferenci ve velkém měřítku podporující modely s biliony parametrů s rozumovými schopnostmi v produkci“.
Zdroj: datacenterdynamics.com
Zdroj: DATACENTER NETWORK NEWS
