Čínští vývojáři umělé inteligence DeepSeek vydali nový model, který využívá své multimodální schopnosti ke zlepšení efektivity zpracování složitých dokumentů a velkých bloků textu tím, že je nejprve převede na obrázky. Podle SCMP dokázaly vision enkodéry vzít velké množství textu a převést ho na obrázky, které při pozdějším přístupu vyžadovaly mezi sedmi až dvacetinásobně méně tokenů, přičemž si zachovaly působivou úroveň přesnosti.
DeepSeek je čínsky vyvinutá AI, která na začátku roku 2025 šokovala svět tím, že předvedla schopnosti podobné těm od OpenAI ChatGPT nebo Google Gemini, přestože k jejímu vývoji bylo potřeba mnohem méně peněz a dat. Tvůrci od té doby pokračují v práci na zvyšování efektivity AI a s nejnovějším vydáním známým jako DeepSeek-OCR (optical character recognition) dokáže AI poskytnout působivé porozumění velkému množství textových dat bez obvyklé režie tokenů.
„Prostřednictvím DeepSeek-OCR jsme demonstrovali, že komprese vision-text může dosáhnout významného snížení tokenů – sedmi až dvacetinásobného – pro různé fáze historického kontextu, což nabízí slibný směr, pro zpracování dlouhých kontextových výpočtů,“ uvedl vývojář.
Jak model funguje
Nový model se skládá ze dvou komponent: DeepEncoder a DeepSeek3B-MoE-A570M, který funguje jako dekodér. Enkodér dokáže vzít velké množství textových dat a převést je na obrázky s vysokým rozlišením, zatímco dekodér je obzvláště zdatný v tom, že vezme tyto obrázky s vysokým rozlišením a porozumí textovému kontextu v nich, přičemž k tomu vyžaduje méně tokenů, než kdybyste text vložili přímo do AI.
Toho dosahuje tím, že rozdělí každý úkol na samostatné podsítě a používá specifické AI agenty experty k cílení na každou podmnožinu dat.
Toto funguje obzvláště dobře pro zpracování tabulkových dat, grafů a dalších vizuálních reprezentací informací. To by mohlo být zvláště užitečné ve financích, vědě nebo medicíně, naznačují vývojáři.
Výsledky benchmarků
Při benchmarkingu vývojáři tvrdí, že při snížení počtu tokenů o méně než desetinásobek dokáže DeepSeek-OCR udržet 97% hodnocení přesnosti při dekódování informací. Pokud se kompresní poměr zvýší na dvacetinásobek, přesnost klesne na 60 %. To je méně žádoucí a ukazuje to, že u této technologie existují klesající výnosy, ale pokud by bylo možné dosáhnout téměř 100% míry přesnosti i při kompresním poměru 1-2x, mohlo by to stále znamenat obrovský rozdíl v nákladech na provoz mnoha nejnovějších AI modelů.
Model je také prezentován jako způsob vývoje trénovacích dat pro budoucí modely, ačkoli zavádění chyb v tomto bodě, i ve formě několika procent odchylky, se zdá být špatný nápad.
Pokud si chcete s modelem sami pohrát, je k dispozici prostřednictvím online vývojářských platforem Hugging Face a GitHub.
Zdroj: tomshardware.com
Zdroj: CLOUD & BACKUP NETWORK NEWS
Jedna odpověď