Evropská komise (EK) zahájila pilotní program, jehož cílem je stanovit pokyny a usilovat o mezinárodní koncensus v oblasti komunikace mezi umělou inteligencí (AI) a člověkem. Tento program má zajistit, že pokyny EK navrhované pro rozvoj a využívání AI, budou moci být implementovány v praxi.
Pilotní program vychází z práce skupiny nezávislých odborníků, kteří v prosinci loňské roku zveřejnili první návrh pokynů týkající se důvěryhodné AI. Tyto pokyny byly následně konzultovány s průmyslovými organizacemi, výzkumnými ústavy a orgány veřejné správy, z čehož vzešlo více než 500 různých připomínek. Podle prvních pokynu by důvěryhodná AI měla být:
1. zákonná – dodržovat všechny platné zákonů a předpisy;
2. etická – respektovat etické principy a hodnota;
3. robustní – a to jak z technického hlediska, tak s ohledem na sociální prostředí.
Důvěryhodná AI
Cílem EK je usnadnit a zlepšit spolupráci v oblasti AI v rámci celé EU a posílit konkurenceschopnost a zajistit důvěru založenou na hodnotách EU. Komise proto na základě strategie AI, zveřejněné v 18. dubnu 2018, zřídila odbornou skupinu, zahrnující akademickou sféru, průmyslové organizace i státní správu.
„Etická AI je důležitá pro všechny, protože může poskytnout Evropě konkurenční výhodu – být lídrem v oblasti komunikace mezi AI a lidmi,“ říká Andrus Ansip, místopředseda Evropské komise a komisař pro digitální trh. „Na etickou AI nelze pohlížet jako na luxus nebo doplněk. „Aby bylo možné plně využívat digitální technologie, musí celá společnost těmto technologiím důvěřovat.“
Komise stanovila tři stupně pro zajištění důvěryhodné AI, a to stanovení klíčových požadavků na důvěryhodnou UI, rozsáhlý pilotní program pro zajištění zpětné vazby od zúčastněných stran a dosažení mezinárodního koncensu v oblasti komunikace mezi AI a člověkem.
Klíčové požadavky
Důvěryhodná AI by měla respektovat všechny platné zákony a předpisy, jakož i řadu dalších požadavků a specifických ustanovení s cílem pomoci ověřit aplikaci každého ze sedmi klíčových požadavků:
- Lidská činnost a dohled: Systémy AI by měly umožňovat spravedlivou společnost a podporovat lidskou činnost a základní práva člověka, a nikoliv ho nějak omezovat nebo jím nevhodně manipulovat.
- Robustnost a bezpečnost: Pro zajištění důvěryhodné AI je třeba, aby algoritmy byly bezpečné, spolehlivé a dostatečně robustní, byly schopny řešit chyby nebo nesrovnalosti ve všech fázích životního cyklu systémů AI.
- Ochrana osobních údajů a správa dat: občané by měli mít plnou kontrolu nad svými vlastními údaji, přičemž údaje, které se jich týkají, nebudou použity k jejich poškození nebo diskriminaci.
- Transparentnost: Měla by být zajištěna sledovatelnost systémů AI. Lidé si musí být vědomi, že komunikují se systémem AI a musí být informováni o schopnostech a omezeních systému.
- Rozmanitost, nediskriminace a spravedlnost: Systémy AI by měly brát v úvahu celou škálu lidských schopností, dovedností a požadavků a měly být přístupné všem, bez ohledu na jakékoli postižení.
- Společenský a ekologický dopad: Systémy AI by měly být využívány k posílení pozitivních sociálních změn, ekologické odpovědnosti a zvýšení udržitelnosti.
- Odpovědnost: Měly by být zavedeny mechanismy, které zajistí odpovědnost za systémy AI a jejich závěry a výstupy.
Mezinárodní konsensus
Komise chce dosáhnout mezinárodního koncensu v oblasti komunikace mezi AI a člověkem, protože technologie, data a algoritmy neznají hranice. Z toho důvodu chce Komise rozšířit spolupráci podobně smýšlejícími partnery, jako je Japonsko, Kanada nebo Singapur, a chce i nadále hrát aktivní úlohu v mezinárodních diskusích a iniciativách, včetně G7 a G20. Součástí pilotního programu budou také společnosti z mimoevropských zemí a mezinárodních organizací.
Do podzimu plánuje Komise zřídit řadu center pro výzkum AI, zřídit síť center pro digitální inovace a společně s členskými státy a zúčastněnými stranami zahájit diskuse o vývoji a zavádění modelu pro sdílení dat a co nejlepšího využití společných datových prostorů. Společnosti, veřejné správy i další organizace se mohou přihlásit k Evropské alianci AI a obdržet oznámení o zahájení pilotního programu.
V návaznosti na pilotní program a na základě obdržené zpětné vazby skupina odborníků pro AI přezkoumá a vyhodnotí klíčové požadavky na důvěryhodnou AI, což by mělo být počátkem roku 2020. Na základě tohoto přezkumu pak Komise vyhodnotí výsledky a navrhne další kroky.
