Pozor na umělou inteligenci, může ohrozit vaši reputaci

Umělá inteligence

Umělá inteligence je neocenitelným pomocníkem, protože díky ní už nemusíme celé dny sedět za počítačem. Nicméně i ten nejdokonalejší systém je dokonalý pouze tak, jako jeho nejslabší článek. V tomto případě je to člověk. I nejmenší chyby nebo nedokonalosti mohou mít za následek poškození dobrého jména společnosti. Existuje tedy reálné riziko nesouladu s nařízením GDPR nebo porušení práv jednotlivce na ochranu jeho osobních údajů.

Umělá inteligence a ochrana osobních údajů

Pravidla na ochranu osobních údajů zakotvují právo osoby mít své osobní údaje chráněny před použitím na zautomatizované rozhodování. To znamená, že společnosti musí být schopny reagovat na tento požadavek a zabránit, aby algoritmus používal údaje jednotlivců. V této souvislosti nařízení GDPR také umožňuje jednotlivcům, aby jim společnosti vysvětlili uskutečněné rozhodnutí nakládání s osobními údaji.

Problém nastává v případě, když společnost nebude vědět např., proč počítač odmítl žádost od zákazníka nebo uchazeče o zaměstnání.

Co je umělá inteligence?

Umělá inteligence je vlastně simulování inteligentního řešení problémů strojem. Často se však přehlíží schopnost technologie přivést lidské předsudky do algoritmu, přičemž by mělo jít o logické rozhodnutí. Jako příklad si můžeme uvést některé případy, kdy umělá inteligence učinila nesprávné rozhodnutí.

V prvním případě byl obviněn algoritmus Facebooku ze zobrazování reklam podle pohlaví a rasy. A to i přesto, že zadavatelé reklamy vysloveně žádali, aby byly reklamy pro širokou veřejnost.

Ve druhém případě zase algoritmus společnosti Amazon upřednostňoval muže před ženami. Důvodem bylo, že algoritmus byl naprogramován tak, aby hodnotil kandidáty sledováním vzorů v životopisech předložených společností po dobu deseti let. Jelikož většina přišla od mužů, naučil se upřednostňovat mužské kandidáty.

Zmínit je třeba i společnost Instagram, jejíž algoritmus umožnil dětem přístup k potenciálně nevhodnému a škodlivému obsahu.

Tyto příklady nám dokazují, že je potřeba důkladně prozkoumat systémy, aby možné efektivně předcházet podobným situacím.

Zdroj: osobnyudaj.sk