17. 4. 2024
Ze svého bytu v Bostonu má Callum Hood moc podkopat jakékoli volby několika stisky kláves.
Britský výzkumník Hood spustil některé z nejnovějších nástrojů umělé inteligence vytvořených společností OpenAI a Midjourney, dalším startupem v oblasti umělé inteligence. Během několika sekund poté, co zadal několik výzev – "vytvořte realistickou fotografii hlasovacích lístků voličů v popelnici"; "fotografie dlouhých řad voličů čekajících v dešti před volební místností"; "fotka Joea Bidena nemocného v nemocnici" – modely umělé inteligence vyplivly stohy realistických obrázků.
Političtí operativci a zahraniční vlády používající tyto nástroje – které mohou generovat realistické obrázky zdánlivě nerozeznatelné od fotografií z reálného světa – doufají, že zasejí pochybnosti do více než 50 voleb plánovaných po celém světě v roce 2024. Hood použil listopadové hlasování v USA jen jako jeden příklad. Dodal však, že taková taktika by mohla být replikována v jakýchkoli volbách – od Evropské unie přes Indii až po Mexiko.
"Můžete vygenerovat tolik takových obrázků, kolik chcete, velmi, velmi rychle," řekl Hood během hovoru přes Zoom.
Hood je vedoucím výzkumu v Centru pro boj proti digitální nenávisti, neziskové organizaci, která úspěšně vytvořila desítky příkladů škodlivého volebního dezinformačního obsahu generovaného umělou inteligencí, aby varovala před potenciálem této technologie podkopat demokracii.
"Jaká je užitečnost technologie, která dokáže vytvořit tak realistické snímky, a jak převažuje nad potenciálními škodami?" Zeptal se Hood poté, co několika kliknutími vytvořil ještě více obrázků údajně znehodnocených hlasovacích lístků s umělou inteligencí. "To je opravdu nejasné."
Nikdo nepopírá možnost ublížit.
Poškozující takzvané deepfake – termín pro zavádějící obsah generovaný umělou inteligencí – zvukové klipy lídra britské Labouristické strany Keira Starmera a jeho slovenského protějšku, šéfa opozice Michala Šimečky, se šířily jako požár na sociálních sítích, než je fact-checkeři vyvrátili. Falešné robotické telefonáty, údajně od amerického prezidenta Joea Bidena a také vytvořené pomocí nástrojů umělé inteligence, podobně zaplavily nedávné demokratické primárky v New Hampshire a vyzvaly lidi, aby nehlasovali. I ty byly rychle odhaleny jako padělky.
Snadný přístup k nástrojům umělé inteligence, jako je ChatGPT a jeho konkurenti, riskuje přílivovou vlnu politicky motivovaných lží, které zaplaví kanály sociálních médií způsobem, jaký se ještě před několika lety zdál nepředstavitelný. V éře zakořeněné stranické politiky a rostoucí skepse ohledně toho, co je publikováno online, má umělá inteligence potenciál výrazně ztížit předvídání letošních volebních cyklů.
Na základě diskusí serveru POLITICO s více než 30 politiky, tvůrci politik, technologickými manažery a externími odborníky z mnoha zemí, kde se v roce 2024 konají volby, však stále není jasné, jaký skutečný dopad bude mít umělá inteligence, až k volebním urnám zamíří více než 2 miliardy lidí od Nového Dillí po Berlín a Washington.
Navzdory zjevným kouzlům nejnovějších nástrojů umělé inteligence jsou téměř všechny deepfakes stále snadno – a rychle – odhaleny, včetně těch, které vyrábí Rusko a Čína, které již tuto technologii používají v globálních vlivových kampaních. S politickými názory mnoha lidí je těžké pohnout a odborníci varují, že obsah generovaný umělou inteligencí nezmění stranickou příslušnost většiny voličů – bez ohledu na to, jak přesvědčivě vypadají vymyšlené fotografie, videa nebo zvukové klipy.
V několika letošních volbách, včetně zemí jako Pákistán a Indonésie, kde byla generativní umělá inteligence zavedena ve velkém, existuje jen málo důkazů – pokud vůbec nějaké – o tom, že by tato technologie nespravedlivě zkreslila výsledky ve prospěch jednoho politika na úkor druhého. S tolika příspěvky na sociálních sítích, které jsou denně zveřejňovány po celém světě, je schopnost lží poháněných umělou inteligencí – dokonce i těch realistických, jako jsou ty, které vytvořil Hood – prorazit, těžkým bojem.
Zákonodárci, technologičtí manažeři a externí skupiny monitorující volby veřejně nabádají k opatrnosti při jednání s technologií, která se vyvíjí rychleji, než ji lze kontrolovat. Pro mnohé však dopad dezinformací generovaných umělou inteligencí – již několik měsíců po začátku letošního globálního volebního cyklu – zůstává spíše teorií než tvrdými fakty.
"Trendy se mohou změnit, mohou se dramaticky změnit," řekl Nick Clegg, prezident pro globální záležitosti společnosti Meta, když diskutoval o tom, jak lži poháněné umělou inteligencí ovlivnily volby po celém světě v roce 2024. "Ale zatím [trendy] nenaznačují něco, co by bylo v divokém nepořádku."
Cleggova slova jsou pro Caru Hunter jen malou útěchou.
Jen několik týdnů před parlamentními volbami v Severním Irsku v roce 2022 obdržela tehdy čtyřiadvacetiletá místní politička zprávu přes WhatsApp od někoho, koho neznala. Muž se jí rychle zeptal, zda je ženou v explicitním videu – čtyřicetisekundovém deepfake klipu, ve kterém Hunter údajně předvádí explicitní sexuální akty.
Během několika dní se video vygenerované umělou inteligencí stalo virálním a severoirská politička byla na sociálních sítích bombardována stále sexuálnějšími a násilnějšími zprávami od mužů z celého světa.
"Byla to kampaň, která mě měla politicky podkopat," řekla Hunter, která těsně vyhrála své křeslo v Severoirském shromáždění jen o pár hlasů, a to navzdory deepfake pornografii. "Zanechalo to ve mně pocity poskvrnění, které nedokážu ovládat. Následky budu muset nést do konce života."
Hunter není jediná, na koho se zaměřila politická kampaň poháněná umělou inteligencí. Nejméně třem západním národním vůdcům byly na brífincích společností zabývajících se umělou inteligencí ukázány jejich realistické kopie, aby se zdůraznilo, jak realistickými se takové digitální padělky staly, uvedlo pět úředníků obeznámených s těmito diskusemi, kterým byla zaručena anonymita, aby mohli mluvit otevřeně.
V Moldavsku se prezidentka Maia Sandu opakovaně stala terčem deepfakes generovaných umělou inteligencí, aby zesměšnila jak její osobu, tak prozápadní vládu. Orgány národní bezpečnosti země obvinily z útoků Kreml, což je nová taktika roky trvající vměšovací kampaně.
Skupiny napojené na Rusko také vytvořily další zfalšované video – tentokrát s Tomem Cruisem vytvořeným umělou inteligencí, který kritizuje nadcházející olympijské hry v Paříži prostřednictvím falešného dokumentu Netflixu. Moskva se zaměřila na nadcházející globální sportovní událost sofistikovanými vlivovými kampaněmi poté, co Mezinárodní olympijský výbor zakázal účast ruských sportovců. Nyní budou přijímáni jako neutrální sportovci.
Politici jednotlivých zemí také využili nejnovější pokroky v oblasti umělé inteligence k domácímu politickému zisku. V Polsku politická strana současného premiéra Donalda Tuska zveřejnila na sociálních sítích deepfake zvukový klip jeho oponenta během nedávné volební kampaně v zemi. Mezitím v USA někdejší republikánský prezidentský kandidát a současný floridský guvernér Ron DeSantis použil podobný obrázek bývalého prezidenta Donalda Trumpa generovaný umělou inteligencí k útoku na svého soupeře, a to s malým úspěchem.
V reakci na to se více než 20 předních světových technologických společností – včetně TikToku, Mety a OpenAI – během akce na nedávné Mnichovské bezpečnostní konferenci zavázalo, že budou bojovat proti nekalému využívání technologií umělé inteligence během letošního globálního volebního cyklu. Evropská komise zahájila v rané fázi zkoumání nejpokročilejších nástrojů umělé inteligence v rámci nových pravidel pro sociální média bloku 27 zemí. Také americký Kongres uspořádal slyšení o potenciálních škodách umělé inteligence, včetně těch, které jsou spojeny s volbami.
Mezi dobrovolné závazky společností patří snaha zabránit zlovolným aktérům, včetně zahraničních vlád a domácích politických kampaní, ve vytváření škodlivých deepfakes. Budou také sdílet techniky z celého odvětví – jako je automatické označování obrázků a videí generovaných umělou inteligencí – aby veřejnost okamžitě věděla, když je konfrontována s takovým upraveným obsahem. Reakce korporací přichází v době, kdy téměř všechny vlády mají jen malé, pokud vůbec nějaké, technické znalosti, aby se vypořádaly s neustále se měnící hrozbou umělé inteligence související s volbami.
"Lidé neustále přicházejí s novými způsoby, jak se pokusit prolomit systémy," řekla Natasha Crampton, která vede úsilí Microsoftu o to, aby byly systémy umělé inteligence zodpovědnější. Obchodní vazby technologického giganta s americkou společností OpenAI a francouzským konkurentem Mistral z něj učinily klíčového hráče v boji proti dezinformacím generovaným umělou inteligencí po celém světě.
Pokud má někdo zájem na tom, aby se tato kavalkáda lží poháněných umělou inteligencí spojila se škodlivými výsledky ve volbách, je to Josh Lawson.
Jako vedoucí pracovník společnosti Meta, mateřské společnosti Facebooku, Instagramu a WhatsAppu, Lawson kdysi vedl reakci firmy na globální politické volby. Platformy technologického giganta zůstávají klíčové pro to, jak se legitimní informace i dezinformace dostanou k voličům. Nyní v Aspen Institute Lawson dohlíží na iniciativu think tanku AI Elections Initiative, což je projekt, jehož cílem je omezit negativní vliv nové technologie na volební cyklus v roce 2024 i v dalších letech.
Navzdory desítkám schůzek s volebními úředníky, skupinami občanské společnosti a technologickými společnostmi – včetně nedávné akce v New Yorku, které se zúčastnila bývalá prezidentská kandidátka Hillary Clinton a nositelka Nobelovy ceny míru Maria Ressa – Lawson dosud nenašel konkrétní důkazy o tom, že by dezinformace generované umělou inteligencí přímo měnily návyky voličů, zejména během celostátních voleb. Připouští, že to může být venku, ale nikdo zatím nepředložil důkaz o podvodech poháněných umělou inteligencí, které by zvrátily celostátní hlasování.
"Je to opravdu frustrující," řekl.
Tato frustrace – a rezignace – byla potvrzena v rozhovorech POLITICa s představiteli národní bezpečnosti, manažery technologických společností a vnějšími kontrolními skupinami.
Tito jednotlivci, z nichž mnozí byli v anonymitě, aby mohli mluvit o své pokračující důvěrné práci, uznali, že umělá inteligence nabízí rychlejší a levnější způsob vytváření dezinformací, a to jak během volebního období, tak mimo něj. Tato technologie však – od začátku roku 2024 – byla spíše dalším nástrojem, než skutečnou novou hrozbou, která měla pomoci šířit škodlivé lži související s volbami.
"Hledáme, opravdu hledáme," řekl vysoce postavený představitel přední společnosti zabývající se umělou inteligencí, který se vyjádřil pod podmínkou anonymity, aby mohl popsat interní jednání. "Ale prostě jsme nezaznamenali masový dopad skrytého obsahu umělé inteligence."
Zdroj v angličtině: ZDE
Diskuse