Téměř kamkoliv se v současné digitalizovaném světě obrátíte, narazíte na umělou inteligenci (AI), která transformuje nebo narušuje stávající procesy a systémy. Velkým problémem ovšem je, že AI není opravdu inteligentní, protože není schopna reagovat na neznámé situace. Využívá spoustu dat a spotřebuje mnoho výpočetního výkonu, ale je to vlastně jenom „černá skříňka“, která nedokáže vysvětlit, jak došla k určitému rozhodnutí.
„Roboti jsou skvělí, ale současně také naprosto hloupí, protože nejsou schopni porozumět základům ani nejsou připraveni porozumět svému okolí,“ říká Bruno Maisonnier, CEO a zakladatel francouzské startupové společnosti AnotherBrain. „V roce 2010 jsem se začal zabývat AI a vývojem robotů, kteří by se chovali více přirozeně, více než bychom mohli očekávat, že se budou chovat. Zabýval jsem se systémy strojového učení a došel k závěru, že hluboké učení, které je nejnovějším přístupem k AI, je lež. V hlubokém učení, neurálních sítích, big data a AI není ani není jediná kapka inteligence. Neříkám, že to nejsou velmi výkonné nástroje, které poskytují mnoho možností, ale neexistuje zde žádná inteligence.“
Maisonnier zdůrazňuje, že svět není předvídatelný a že tedy není možné vytvořit vozidla s autonomním řízením nebo sofistikované roboty pomocí v současnosti dostupných technologií. „Skutečná inteligence je systém schopný analyzovat a porozumět způsobem, jakým to dělá náš mozek v reálném času, a to aniž by bylo potřeba velkého množství dat a velmi hospodárným způsobem. To je třeba realizovat v rámci čipu, který bude mít jen minimální spotřebu oproti 15 až 20 W pro inferenční fázi hlubokého učení a tisícům wattů pro fázi trénování a učení.“
Čip nepotřebuje big data ani obrovské množství dat, přičemž výsledek by měl být vysvětlitelný. Vezměme si příklad, kdy vozidlo s autonomním řízením detekuje motocykl. Kamery a senzory vozidla identifikují objekt a z databáze odvodí, že je to motocykl, ale už nedokážou vysvětlit, proč je to motocykl. Měly by být ale schopny říci, že je to motocykl, protože má tlustá, tmavá kola, motor a nádrž uprostřed, sedí na něm někdo s přilbou a hluk motocyklu je odlišný. To je vysvětlení, tak fungujeme my lidé.
AI musí být schopna vysvětlit, jak dospěla ke svým rozhodnutím
Schopnost podat vysvětlení umožňuje systému více napodobovat způsob, jakým funguje příroda. Na summitu Gartner Data & Analytics, který se konal minulý měsíc v Sydney v Austrálii, se hovořilo o tom, že AI se schopností vysvětlovat je nezbytná, protože modely AI jsou stále více využívány k rozšíření a dokonce nahrazení rozhodování lidí – v některých případech však podniky musí zdůvodnit, jak dospěly ke svým rozhodnutím. Bohužel i ty nejpokročilejší modely AI nejsou nic víc než složité černé skříňky, které nejsou schopny vysvětlit, jak dospěly k určitému doporučení nebo rozhodnutí.
Na základě těchto obav rostou snahy vytvořit systémy, které by byly schopny vysvětlit, jak došly k určitému rozhodnutí. Agentura pro obranné pokročilé výzkumné projekty (DARPA) zahájila program vývoje AI se schopností vysvětlovat (explainable AI, XAI), která by chápala kontext a prostředí ve kterém funguje a byla by schopná si časem vytvořit základní vysvětlující modely, které by umožňovaly charakterizovat jevy reálného světa. Obr. 1 ukazuje koncept AI se schopností vysvětlovat v porovnání s klasickou AI.
Také výzkumníci z TU Berlin, Fraunhoferova institutu Heinricha Hertze (HHI) a Singapurské univerzity technologie a designu (SUTD) publikovali na stránkách Nature Communications článek s názvem „Unmasking Clever Hans predictors and assessing what machines really learn“, který se zabývá tím, jak systémy AI dospívají ke svých závěrů a zda jsou rozhodnutí skutečně inteligentní nebo jen „průměrně“ úspěšné.
Bio-inspirovaná AI se učí velmi rychle
Současné přístupy strojového učení spoléhají na předprogramování systému pro všechny potenciální scénáře, což je složité, laboratorně náročné a neefektivní. Překonání těchto omezení slibují biologicky a mozkem inspirované přístupy AI. V rámci dalšího programu DARPA, s názvem Lifelong Learning Machines (L2M), se pracuje na vývoji systémů, které by byly schopny se učit průběžně během provádění úloh. Tento program byl zahájen v roce 2017 a jeho obsahem je výzkum a vývoj systémů příští generace AI a jejich komponentů, jako jsou mechanismy učení v biologických organismech převedených do výpočetních procesů. V rámci programu L2M spolupracuje prostřednictvím různých grantů a smluv 30 výkonných skupin.
Jeden z těchto grantů obdržela USC Viterbi School of Engineering, která v březnu 2019 publikovala své poznatky z vývoje bio-inspirovaného algoritmu AI v článku „Autonomous functional movements in a tendon-driven limb via limited experience“, který popisuje vytvoření robotické končetiny řízené AI, která funguje podobně jako šlachy zvířat a je schopná se naučit chodit, dokonce je schopna automaticky korigovat narušení rovnováhy.
Tato robotická končetina využívá algoritmus odvozený z biologického organismu, který je schopen se naučit chodit během pěti minut. Díky provádění náhodných pohybů je robotická končetina schopna rozpoznat svou vlastní strukturu i okolní prostředí. Schopnost robotů poučit se ze svých činů je významným pokrokem pro učení strojů po celou dobu jejich životnosti. To, čeho vědci USC dosáhli, jasně dokazuje, že se systémy AI mohou učit na základě relevantních zkušenosti a časem nalézt řešení problémů a přizpůsobit se dané situaci.
Výzkumníci z Harvard John A. Paulson School of Engineering and Applied Sciences a Department of Organismic and Evolutionary Biology publikovali minulí měsíc článek s názvem „Morphogenesis of termite mounds“, který na inteligentním chování termitiště ukazuje, jak mohou jednoduchá pravidla propojení životního prostředí a chování zvířat vést ke vzniku složitých struktur v přírodě.
Maisonnier k tomu dodává: „Příroda je při optimalizaci systémů jednoznačně dokonalá.“ V chování termitů neexistují žádné složité systémy – pouze jednoduchá pravidla aplikovaná na jednotlivé termity. Pokud máte jednoduchá pravidla, konečným výsledkem je termitiště, které má uvnitř neuvěřitelně stabilní teplotu a vlhkost, i když je venkovní teplota 42°C. Výsledkem je „systém, který vypadá, jako by byl naprojektován, ale faktem je, že neexistuje žádný šéf, žádný král, žádná královna, nic takového a ani žádný inženýr. Je to jen něco, co vychází z přirozeného chování.“
Rozlišením tranzistorů od hradel k pochopení mozku
Jak jsou tedy termiti relevantní pro vývoj systémů AI? „Pokud chcete pochopit, jak funguje počítač, můžete odpovědět, že to není nic jiného než síť tranzistorů,“ vysvětluje Maisonnier. „Nicméně i když budete vědět, jak tranzistor funguje, bude velmi obtížné odvodit z toho vyšší úroveň fungování počítače, protože koncepční mezera mezi nimi je příliš velká. Pokud však budete o tranzistoru uvažovat z hlediska funkce zprostředkovatele jako hradla, bude mnohem snazší pochopit, jak počítač funguje.“
V podstatě stejné je to i případě mozku, který se skládá z obrovského množství neuronů, takže je tu analogie s tranzistory a počítačem. Opět také platí, že mezi fungováním neuronů a mozku je obrovský rozdíl, nemůžete extrapolovat, jak mozek funguje pouze na základě znalosti neuronů.
Jednotlivé nervové buňky lidského mozku jsou propojeny s jinými nervovými buňkami pomocí synaptických spojů. Jednotlivé shluky tak vytvářejí propojené skupiny, které si lze představit jako funkční sloupce (cortical columns). Pokud víte, jaké funkce tyto sloupce mají, pak můžete tyto funkce reprodukovat – buď prostřednictvím sítí neuronů, neurálních sítí, což je velmi obtížné anebo to lze udělat pomocí klasické elektroniky.
Právě na tom pracuje AnotherBrain, tj. využívá klasickou elektroniku k reprodukci funkcí funkčních sloupců v mozku. V podstatě jde o to, že místo, aby byl mozek replikován v mikroskopickém měřítku, tj. na úrovní neuronů, jako v případě hlubokého učení, replikuje se chování mozku v makroskopičtějším měřítku, kde mají velké skupiny neuronů různé funkce jako vnímání pohybu nebo zakřivení. Jde tedy spíše o vytváření ekosystému nežli o vývoj technologie.
„Zaměřujeme se především na koexistenci současných technik strojového učení s technikami inspirovanými funkcemi mozku,“ říká Maisonnier. „Existuje mnoho aplikací, kde lze nyní i v budoucnu bez problémů využívat hluboké učení a neurální sítě. Nicméně existuje také spousta aplikací, které potřebují opravdovou inteligenci, tj. AI musí chápat co se děle a jak se chovat v chaotickém a nepředvídatelném světě.“
Společnost AnotherBrain vyvinula umělou inteligenci Organic AI (obr. 2), která transformuje senzory na skutečně inteligentní senzory, které jsou určeny pro využití v průmyslové automatizaci, Internetu věcí, (IoT) a automobilovém průmysl. Zatím jsou k dispozici produkty Organic AI pro průmyslovou automatizaci, přičemž dalším krokem budou produkty vozidla s autonomním řízením. Organic AI je nová generace AI založená na souboru biologicky inspirovaných algoritmů, které umožňují senzorům porozumět svému okolí a samostatně se učit a vysvětlit uživateli svá rozhodnutí. Díky nízkým nárokům na výpočetní výkon a vstupní data umožňuje mnohem efektivnější nasazení v továrnách a logistice.
Zdroj: EETimes
