Procesory Blackwell od společnosti Nvidia patří v současné době k nejžádanějšímu hardwaru datových center, protože společnosti se snaží trénovat rozsáhlé jazykové modely (LLM) se stále větším počtem parametrů. Jako první prý na servery Blackwell sáhla společnost Microsoft, jednalo se však o neoficiální informace. Dnes společnost uvedla, že nejenže získala součásti Nvidia Blackwell, ale že jsou již v provozu.
„Microsoft Azure je prvním poskytovatelem cloudových služeb, který provozuje systém Blackwell společnosti Nvidia se servery s umělou inteligencí poháněnými GB200,“ uvádí se v příspěvku Microsoft Azure na adrese X. „Optimalizujeme na každé vrstvě, abychom mohli pohánět nejpokročilejší modely AI na světě, využíváme sítě Infiniband a inovativní kapalinové chlazení s uzavřenou smyčkou. Více se dozvíte na MS Ignite.“
Microsoft Azure má tedy k dispozici minimálně jeden serverový rack založený na GB200 s neznámým počtem procesorů B200 – pravděpodobně 32. Využívá vysoce sofistikovaný systém kapalinového chlazení. Nejde o stroj NVL72 GB200 od společnosti Nvidia, kterému Microsoft údajně dává přednost před méně hustými variantami. Tento konkrétní rack bude pravděpodobně sloužit k testovacím účelům (jak grafických procesorů Nvidia Blackwell, tak systému kapalinového chlazení) a v následujících měsících Microsoft nasadí servery s procesory Blackwell pro komerční zátěž.
Očekává se, že stroj NVL72 GB200 se 72 grafickými procesory B200 bude spotřebovávat a rozptylovat přibližně 120 kW energie, takže kapalinové chlazení bude pro takové stroje povinné. V důsledku toho je pro společnost Microsoft dobré, aby před nasazením skříní založených na technologii Blackwell otestovala vlastní řešení kapalinového chlazení.
Grafický procesor Nvidia B200 nabízí ve srovnání s procesorem H100 2,5krát vyšší výkon, pokud jde o výkon FP8/INT8 (4 500 TFLOPS/TOPS oproti 1 980 TOPS). S datovým formátem FP4 nabízí Nvidia B200 výkon přibližně 9 PFLOPS, což otevírá dveře pro trénování extrémně sofistikovaných LLM, které mohou umožnit nové modely využití pro AI obecně.
„Naše dlouholeté partnerství se společností NVIDIA a nové inovace jsou i nadále špičkou v oboru a pohánějí nejsofistikovanější pracovní zátěže AI,“ uvedl v dalším příspěvku X Satya Nadella, šéf společnosti Microsoft.
Očekává se, že Microsoft sdělí další podrobnosti o svých strojích založených na Blackwellu a obecně o projektech AI na své výroční konferenci Ignite. Konference MS Ignite se bude konat v Chicagu od 18. do 22. listopadu 2024. Očekává se, že plošné nasazení serverových instalací Blackwell se rozběhne koncem tohoto roku nebo začátkem roku 2025.
Zdroj: tomshardware.com
Obrázek: Nvidia
Zdroj: CLOUD & BACKUP NETWORK NEWS
