Projekt xAI rozšířil svou sadu funkcí o možnost využití vlastních hlasových modelů. Uživatelům to umožňuje generovat zvukové vzorky, které věrně kopírují jejich vlastní hlas, a to na základě pouhých několika sekund nahrávky.
Tato nová funkcionalita, která je nyní dostupná v rámci nástrojů pro správu xAI, přináší nový způsob, jak dodat digitálnímu zvuku lidský rozměr. Uživatelé tak mohou replikovat hlas kohokoli a následně jej využít v dalších aplikacích.
Tato možnost může vyvolávat určité obavy ohledně potenciální manipulace s tím, co lidé ve skutečnosti řekli nebo neřekli. Společnost xAI však uvedla, že zavedla příslušný proces, který má zneužití omezit a zajistit, aby byly tyto hlasové repliky využívány pouze schváleným způsobem.
Nástroj by mohl najít uplatnění například u zákaznických chatbotů, při vylepšeném čtení obsahu vlastním hlasem uživatele či při zdokonalování funkcí zpřístupnění pro znevýhodněné uživatele.
Aby xAI předešla možnému zneužití, uvedla, že každá nahrávka hlasu projde dvoufázovým ověřovacím procesem, než bude moci být vytvořena.
Jak uvádí xAI: „Nejprve mluvčí přečte ověřovací frázi, kterou náš převodní modul (STT) v reálném čase přepíše a porovná, čímž potvrdí záměr a přítomnost. Poté ze zkušebního klipu a celé nahrávky vypočítáme charakteristiky mluvčího, abychom potvrdili, že patří stejné osobě.“
Záměrem je zajistit, aby replikovaný hlas skutečně patřil osobě, která text namluvila, a tím i potvrdila souhlas s jeho použitím.
Tento systém není zcela neomylný a nástroj by stále mohl být zneužit k simulaci výroků dané osoby. Vyvstávají také otázky, co se s těmito hlasovými nahrávkami stane v budoucnu a jak by mohly být využity například poté, co zaměstnanec opustí firmu.
Společnost xAI je však přesvědčena, že tento proces pomůže zajistit bezpečnost při používání nástroje a omezí možnost vytváření replik hlasu na základě nahrávek z neschválených zdrojů. Jak bude vše fungovat v praxi, se teprve ukáže.
Kromě toho xAI rozšířila svůj vestavěný katalog hlasů na více než 80 variant ve 28 jazycích, což uživatelům poskytuje široký výběr pro tvorbu audio nahrávek.
Nástroje umělé inteligence nevyhnutelně povedou k nárůstu deepfaků a šíření dezinformací, a v tomto smyslu tento proces nepředstavuje žádné zásadní nové bezpečnostní riziko. xAI by dokonce mohla argumentovat, že tato opatření bezpečnost v této oblasti zvyšují, jelikož zajišťují, že prvotní nahrávku poskytla a schválila skutečná osoba. Přesto se zdá, že ke zneužití pravděpodobně dojde a v budoucnu to může vést k problémům.
Možná je však podobné klonování hlasu nevyhnutelné a v ideálním případě budou velké technologické platformy zavádět alespoň určitou úroveň ověřování, aby se chránily před možným zneužitím.
Zdroj: socialmediatoday.com
