Poslanci Evropského parlamentu (EP) dnes schválili návrh pravidel pro fungování umělé inteligence (AI), která by se mohla stát první regulací tohoto odvětví na světě. Například generativní systémy AI, jako je třeba ChatGPT, budou muset být podle nových pravidel označeny tak, aby bylo jasné, že obsah byl vytvořen umělou inteligencí. Vzniknout má rovněž úřad EU pro AI, který má vedle národních kontrolních úřadů na dodržování nových pravidel dohlížet. Finální verzi regulace nyní dojedná parlament s členskými zeměmi EU.
Asi největší spor se v EP vedl o používání AI k biometrickému sledování v reálném časem, tedy užití systémů na rozpoznávání obličejů přes kamerové systémy na veřejnosti. Někteří europoslanci, například z české strany Piráti, se obávají zneužití AI v této oblasti autoritativními režimy.
„Tady se střetává otázka soukromí a bezpečnosti,“ řekla novinářům ve Štrasburku místopředsedkyně EP Dita Charanzová. „Systém rozpoznávání obličejů potřebujeme využít například při únosech dětí či při hrozbě teroristických útoků,“ dodala.
Podle Charanzové unijní pravidla nastavením mantinelů v AI také dávají „jasné zadání vývojářům, aby cítili také zodpovědnost za to, co vytvářejí“. Podle české místopředsedkyně EP bylo cílem při vytváření těchto pravidel také zvýšit důvěru spotřebitelů v tyto systémy. Unijní pravidla pro regulaci vznikala zhruba dva roky, postupně byla rozšířena, například o pravidla pro ChatGPT.
AI dokážou být tak přesvědčivé, že běžný uživatel internetu ani nepozná, že hovoří s umělou inteligencí. Právě proto unijní pravidla zahrnují povinnost transparentnosti, tedy aby uživatel poznal, že jde o systém umělé inteligence.
Návrh pravidel přijatý dnes europoslanci také určuje takzvaně vysoce riziková odvětví, v nichž budou pro AI platit přísnější pravidla, jsou jimi například soudnictví či některé oblasti školství. Ve školství se má podle europoslance Marcela Kolaji omezení týkat například takzvaného e-proctoring, pomocí něhož mohou školy kontrolovat, zda studenti nepodvádějí při zkouškách online. Za vysoce rizikové považuje EP i používání umělé inteligence k ovlivňování voličů.
Úplně zakázány mají být nástroje AI k rozpoznávání emocí v případě prosazování práva, správě hranic či na pracovišti a ve školách, zákaz neplatí to pro lékařské a výzkumné účely. Nová pravidla také zakazují systémy takzvané prediktivní policejní práce. Ty totiž mohou vést třeba k diskriminaci menšin. Zakázané budou i programy, které automaticky třídí občany na základě charakteristik, jako je pohlaví, zdravotní stav nebo třeba sexuální orientace.
Poskytovatelé základních modelů AI se také budou muset registrovat do databáze EU. Rovněž budou muset zveřejnit souhrn dat chráněných autorským právem, na kterých se jejich systémy učily. EP podporuje i takzvané regulační pískoviště zřízené veřejnými orgány, kde lze AI před jejím uvedením do provozu testovat.
Akt o umělé inteligenci přináší také pravidla pro programy typu ChatGPT. Jejich provozovatelé se budou muset registrovat do databáze, ve které mimo jiné uvedou, odkud čerpají data, ze kterých se program učí.
Obavy, že systémy umělé inteligence „přechytračí“ lidstvo, vyjádřila v posledních týdnech řada představitelů tohoto odvětví, včetně Sama Altmana, šéfa společnosti OpenAI, která vyvinula chatovacího robota ChatGPT, či Geoffreyho Hintona, jemuž se přezdívá „kmotr umělé inteligence“. Altman například navrhl, aby na AI dohlížela organizace podobná Mezinárodní agentuře pro atomovou energii.
TZ
Foto: Shutterstock
