Akamai nasadil referenční design Nvidia AI Grid napříč svou sítí čítající 4 400 hraničních lokalit (Edge).
Nvidia AI Grid představuje řešení, při němž je hardware Nvidie umísťován na hranici sítě (network Edge), a již si jej osvojila řada telekomunikačních společností.
Podle Akamai je tato společnost první, kdo nabídku uvedl do provozu, a v rámci své globální sítě lokalit rozmísťuje „tisíce“ grafických karet Nvidia RTX Pro 6000 Blackwell Server Edition.
Firma uvádí, že to podnikům umožní provozovat agentní a fyzickou umělou inteligenci „s odezvou lokálního výpočetního výkonu a v měřítku globálního webu“.
„Továrny na AI byly od základu navrženy pro trénování a práci s hraničními modely – a centralizovaná infrastruktura bude pro tyto účely nadále nabízet nejlepší tokenomiku,“ řekl Adam Karon, provozní ředitel a generální manažer skupiny Cloud Technology Group ve společnosti Akamai. „Avšak zpracování videa v reálném čase, fyzická AI a vysoce souběžné personalizované zážitky vyžadují inferenci v místě kontaktu, nikoli zpáteční cestu do centralizovaného clusteru.“
„Inteligentní orchestrace našeho AI Gridu dává továrnám na AI způsob, jak škálovat inferenci směrem ven – využívá stejnou distribuovanou architekturu, která způsobila revoluci v doručování obsahu, a rozkládá zátěž AI workloadů napříč 4 400 lokalitami, ve správnou dobu a za správnou cenu.“
„Edge“ je již dlouho považován za klíčový prvek při zpracování AI inferenčních úloh a zdá se, že si konečně získává zájem celého odvětví.
Akamai tvrdí, že distribuovaná povaha řešení zákazníkům umožní „přistupovat k doladěným nebo řídkým modelům“ napříč jeho globální hraničním footprintem, který nabízí „obrovskou výhodu z hlediska nákladů i výkonu pro dlouhý chvost AI workloadů.“
Mezi navrhované případy použití patří herní studia usilující o AI-řízené interakce s NPC, finanční instituce nabízející rychlou detekci podvodů a marketingová doporučení nebo televizní vysílatelé schopní přepisovat a dabovat obsah v reálném čase.
Zdroj: datacenterdynamics.com
