AI hrozí zrušit demokracii, česká vláda zůstává v zenovém klidu

29. 2. 2024 / Bohumil Kartous

čas čtení 9 minut
Politici, kteří říkají, co nikdy neřekli. Anebo politici, kteří skutečně něco říkají, ale nikdo si nemůže být jist, jestli je to pravda. Tohle je hrozivá realita. Jinde nastala panika, česká vláda na to však jde s námořnickou rozvahou dědy Lebedy…

Během několika týdnů od podvodného, AI generovaného robotického telefonátu, v němž hlas Joe Bidena přesvědčoval voliče, aby nechodili volit v primárkách, došlo k USA k zákonnému zákazu téhle „svobody slova“. Vlády v různých zemích intenzivně řeší s technologickými korporacemi, jak zhoubnou dezinformační intervenci s využitím AI zastavit či omezit. Alespoň tolik si lze vzít z nedávné Mnichovské bezpečnostní konference, na které zástupci velkých digitálních korporací (OpenAI, producent ChatGPT, Google, Adobe, Microsoft a dále Amazon, Meta, X a TikTok) podepsali dohodu, podle které by nemělo být možné jejich nástroje na bázi AI zneužívat v politických kampaních. Případně, že budou takové obsahy na sítích (Meta, TikTok, X) detekovat a bránit tak v manipulaci.
Řekněme, že je to alespoň nějaká snaha. Nicméně z dosavadních „snah“, zejména provozovatelů platforem sociálních sítí (Meta - Facebook, TikTok, X) a chatů (WhatsApp, Telegram), je zřejmé, že mnohem více než nasytit vlka je cílem to, aby koza zůstala celá. Tou kozou je myšlen model postavený na skoro neomezeném zasahování do toho, jaký obsah uživatelé šíří, případně na zcela nahodilých snahách některé uživatele potrestat dočasným zákazem či smazáním účtu (Facebook, Twitter před tím, než ho koupil Elon Musk a udělal z něj X, skládku násilí, dezinformací a extremismu). Nemálo lidí, které znám, překvapil „ban“ na Facebooku, ačkoliv si nebyli vědomi, že by se dopustili něčeho nepatřičného. Vedle toho dezinformátoři a jejich populistické politické bratrstvo neomezeně zneužívá účtů na sociálních sítích k šíření manipulací, na nichž staví svůj ekonomický nebo politický profit. Důvěra vůči těmto aktérům, vůči společnostem, které drží v hrsti digitální komunikaci, že chtějí skutečně zasáhnout proti šíření manipulací prostřednictvím jejich platforem, je silně podkopána jejich vlastním, opakovaným selháváním (jeden příklad za všechny, studie o osmdesátiprocentním selhání Facebooku odhalit lživou konspiraci o biologických zbraních na Ukrajině). A toto selhávání není založeno na tom, že by podnikly efektivní kroky, které se následně ukázaly jako nefunkční. Šlo o zjevné předstírání této snahy, která byla předurčena k nezdaru. Protože udělat skutečné změny, zavést účinné kontrolní mechanismy, by znamenalo příliš velké náklady a tedy snížení - jinak obřích - zisků. 
Je také nutno připustit, že i kdyby se všichni „velcí“ producenti AI nástrojů skutečně dohodli a AI obsahy byly opatřeny třeba určitou formou digitálního „vodoznaku“ (jedno z diskutovaných technologických řešení), nic to neřeší. Dá se předpokládat, že během relativně krátké doby budou k dispozici různé pirátské verze podobných nástrojů, které si rozhodně nebudou lámat hlavu s nějakými bezpečnostními opatřeními. Naopak, budou velmi pravděpodobně vytvořeny právě proto, aby byly efektivně zneužity v politických kampaních a jako zbraň antidemokratických systémů v globálním kybernetickém konfliktu. 
O to větší váha odpovědnosti leží na těch, kdo obsahy vytvořené AI, ale i další masové manipulace, zprostředkovávají, tedy sociální sítě a chatovací služby. Dostáváme se ale na začátek kruhu, kdy prioritou zůstává celá koza, tedy snaha neohrozit obří zisky sociálních sítí z reklamy. Právě v tomto směru, ve snaze přimět k odpovědnosti dosud krajně nezodpovědné sociální sítě, lze chápat jako na současné poměry velký krok (byť nedostatečný) přijetí Digital Services Actu na úrovni EU a shodu Demokratů i Republikánů v americkém senátu na tom, že skončil čas debat a je třeba jednat, zejména v ochraně dětí a dospívajících, což ale s obecným principem odpovědnosti za šířený obsah úzce souvisí. 
Ne všude ale nastal poplach. Celá konstrukce demokracie sice hoří, v Česku se ale důsledně díváme jinam a předstíráme, že se nic vážného neděje. Česká vláda zachovává v tomto směru svůj zenový klid a věnuje se čemusi pro ni důležitějšímu. Nedokáže ji zřejmě znepokojit ani to, že u našich nejbližších sousedů běžela před volbami deep fake nahrávka, která poškozovala prodemokratického kandidáta Šimečku, načež zvítězil politický zbabělec Fico, který nyní chce otce téhož opozičního politika, Šimečku staršího, trestat za „hanobení národa“ kvůli tomu, že pojmenoval skutečnost. Mimochodem, nahrávku pochopitelně šířili političtí šmejdi i užiteční idioti prostřednictvím sociálních sítí a chatovacích platforem, a to pouhé dva dny před volbami. V zahraničních médiích globálního významu se stal slovenský deep fake předmětnou ilustrací hrozby, kterou současné technologie přinášejí do už tak vysoce nepřehledné digitální džungle prorostlé řízenými manipulacemi. 
U nás, na českém dvorečku, vládne klid a s pocitem zbytečného opruzování ze strany nějakých „aktivistů“ se přijímají obecné strategie k čelení dezinformacím, přičemž task force určený k jejímu naplňování by nestačil ani zemi velikosti Andory. Zřejmě se čeká na to, až českým internetem proletí deep fakes, na nichž Fiala, Rakušan nebo Bartoš budou zaprodávat Česko hnusné EU, nebo slibovat Ukrajině, že nasadíme vlastní armádu. Nebo jak prostřednictvím korespondenční volby zfalšují výsledky ve svůj prospěch. Během deseti minut vám vymyslím deset podobných námětů, které by bylo možné podobným způsobem zpracovat. A věřte, že nájemná komunikační chátra populistů se bude s radostí věnovat témuž. Nedozírnost následků toho, pokud téhle vrcholně zdegenerované formě „svobody slova“ nebudeme čelit, je myslím i pro průměrně inteligentního Čecha srozumitelná: Nejde jen o to, že se objeví obsahy, které jsou zcela smyšlené, ale zároveň není možné je jednoduše vyvrátit, protože budou působit reálně. V obrácené, inverzní podobě tento stav způsobí, že důvěra v reálné výroky, zachycené v pravdivých obsazích, bude vysoce ohrožena. Jinými slovy, pokud někdo chce vidět Fialu jako člověka, který na utajených schůzkách prodává Česko zahraničním zájmům a nechce ho vidět v reálných rozměrech, deep fake mu nabídne perfektní řešení. Navždy už se pak může držet svého postoje a tvrdit, že k němu má pevný důkaz. Protože pak už ani fact checking nemá žádnou moc, vždy bude možné říct „ale jak můžete vědět, který Fiala je ten pravý, vždyť on samozřejmě lže, že to neříkal“. 
I průměrný Čech by se měl naučit rozumět tomu, že naše poznání o skutečnosti nestojí toliko na faktech, protože jako jedinci nemáme v drtivé většině fenoménů a událostí možnost si je ověřit. Poznání skutečnosti stojí na důvěře v ty, od kterých si necháváme jednotlivé události a fenomény zprostředkovávat. Informační chaos, džungle prorostlá AI generovanými manipulacemi, hrozí tuto důvěru zcela zrušit a tím ohrozit demokracii tam, kde doposud měla pevné kořeny, notabene tam, kde znovu zakořenila celkem nedávno, jako v Česku. Jsme - žel - skutečně politicky provinční stát, který i navzdory hrozbě nejvyššího stupně čeká, že to snad nějak přejde nebo že to za nás vyřeší druzí. 
Politici, kteří v jiných souvislostech neustále berou do úst potřebu ochrany demokracie, třeba v souvislosti s podporou Ukrajiny, nějak nejsou schopni pochopit, že to, co ohrožuje demokracii nejvíce, se děje přímo v naší zemi, v našem digitálním prostoru. Dalo by se říct, ať klidně dál sebevražedně strkají vlastní hlavu do oprátky, vždyť oni budou obětí své vlastní nekompetence. Komu není rady, tomu není pomoci. Nejde ale vůbec o budoucnost konkrétních politických stran. Jde o budoucnost demokracie jako takové. A kvůli tomu je třeba na vládu nikoliv apelovat, ale vyžadovat po ní, velmi nesmlouvavě, aby vytáhla hlavu z konejšivého tepla a tmy a začala v této věci neprodleně jednat, ať už sama, nebo v těsné spolupráci s partnery v EU. Protože tam je iniciativa patrná, a ačkoliv to zástupci české vlády musejí vědět, nehnou v tomto směru prstem. Zřejmě jsou i její ruce pevně zaklíněny tam, kde hlava… 
Ilustrace je vytvořená během pěti minut volně dostupným nástrojem Pixlr na editování obrázků s AI nástroji. Portrét českého premiéra Petra Fialy je promítnut do portrétu Josifa Vissarionoviče Stalina.

4
Vytisknout
4560

Diskuse

Obsah vydání | 1. 3. 2024