Podle prezidenta Microsoftu jsou největším problémem umělé inteligence tzv. deep fakes

26. 5. 2023

čas čtení 3 minuty
 

Brad Smith, prezident společnosti Microsoft, prohlásil, že jeho největší obavou v souvislosti s umělou inteligencí jsou deepfakes, realisticky vypadající, ale falešný obsah.

V projevu ve Washingtonu, jehož cílem bylo řešit otázku, jak nejlépe regulovat umělou inteligenci, která se s vznikem  OpenAI ChatGPT stala nesmírně rozšířenou, Smith vyzval ke krokům, které zajistí, aby lidé věděli, kdy je fotografie nebo video skutečné a kdy je generováno umělou inteligencí, případně za nekalými účely.

"Budeme se muset zabývat problémy kolem deepfakes. Budeme se muset zabývat zejména tím, čeho se obáváme nejvíce, tedy zahraničními kybernetickými vlivovými operacemi, tedy druhy aktivit, které již probíhají ze strany ruské vlády, Číňanů a Íránců," řekl.

 

"Musíme přijmout opatření na ochranu před pozměňováním legitimního obsahu s úmyslem oklamat nebo podvést lidi pomocí umělé inteligence."

Smith rovněž vyzval k udělování licencí pro nejkritičtější formy AI s "povinnostmi chránit bezpečnost, fyzickou bezpečnost, kybernetickou bezpečnost, národní bezpečnost".

"Budeme potřebovat novou generaci kontrol vývozu, přinejmenším evoluci kontrol vývozu, které máme, abychom zajistili, že tyto modely nebudou ukradeny nebo použity způsobem, který by porušoval požadavky na kontrolu vývozu země," řekl.

Zákonodárci ve Washingtonu se již několik týdnů potýkají s tím, jaké zákony přijmout pro kontrolu umělé inteligence, i když se velké i malé společnosti předhánějí v uvádění stále všestrannější umělé inteligence na trh.

Minulý týden Sam Altman, generální ředitel společnosti OpenAI, která stojí za startupem ChatGPT, při svém prvním vystoupení před senátním panelem v Kongresu uvedl, že využívání AI zasahující do integrity voleb je "významnou oblastí, která vzbuzuje obavy", a dodal, že potřebuje regulaci.

Altman, jehož OpenAI podporuje společnost Microsoft, rovněž vyzval ke globální spolupráci v oblasti AI a k pobídkám pro dodržování bezpečnosti.

Smith ve svém projevu a ve čtvrtek vydaném blogpostu rovněž tvrdil, že je třeba, aby lidé nesli odpovědnost za případné problémy způsobené AI, a vyzval zákonodárce, aby zajistili, že na AI používanou k řízení elektrické sítě, zásobování vodou a další kritické infrastruktury budou nasazeny bezpečnostní brzdy, aby lidé zůstali pod kontrolou.

Vyzval k používání systému ve stylu "Poznej svého zákazníka" pro vývojáře výkonných modelů AI, aby měli přehled o tom, jak je jejich technologie využívána, a aby informovali veřejnost o tom, jaký obsah AI vytváří, aby mohla identifikovat zfalšovaná videa.

Některé návrhy zvažované na Kapitolu by se zaměřily na AI, která může ohrozit životy nebo živobytí lidí, například v lékařství a finančnictví. Jiné prosazují pravidla, která by zajistila, že umělá inteligence nebude využívána k diskriminaci nebo porušování občanských práv.

Podrobnosti v angličtině ZDE

1
Vytisknout
3675

Diskuse

Obsah vydání | 30. 5. 2023