Nabídka dezinformací bude brzy nekonečná

21. 9. 2020

Dezinformační kampaně kdysi vyžadovaly značné lidské úsilí, ale umělá inteligence je posune na zcela jinou úroveň, varuje Renée DiRestová.

Někdy zanedlouho bude veřejnost postrádat doby, kde trocha detektivního úsilí mohla identifikovat zcela fiktivní autory. Vezměte případ "Alice Donovanové". V roce 2016 autorka toho jména na volné noze emailovala redaktorům CounterPunche, nezávislé mediální stránky tíhnoucí k levici, aby prosadila svůj příběh. Její twitterový profil ji identifikoval jako novinářku. Během 18 měsíců Donovanová pravidelně publikovala v CounterPunchi. List přijal několik jejích textů a sbírka dalších levicových stránek publikovala jiné.

Pak v roce 2018 redaktorovi CounterPunche zavolali z redakce listu Washington Post. Tamní reportér obdržel zprávu FBI tvrdící, že Alice Donovanová byla "maskovým účtem" - vytvořeným ruskou vojenskou rozvědkou GRU. Redaktoři CounterPunche byli skeptičtí ohledně ruské linky, ale znepokojení, že mohli publikovat obsah od fiktivní osoby, znova prozkoumali její produkci. Ta zahrnovala témata od Sýrie přes Black Lives Matter až po emaily Hillary Clintonové. Zjistili, že autorka není jen podezřelá, ale také plagiátorka: Některé z článků zřejmě byly napsány Sophií Mangalovou, novinářkou spojenou s čímsi, co se nazývá Inside Syria Media Center.

Dalším zkoumáním redaktoři zjistili, že Sophia Mangalová je také fabrikace, stejně jako ostatní autoři ISMC. V lednu 2018 redakce publikovala výsledky vyšetřování: Články plagiarizované z časopisu New Yorker, saúdských Arab News a dalších zdrojů; "novináři", kteří produkují tři až čtyři články denně, ale kteří se ztratili, jakmile začalo vyšetřování; profily na sociálních médiích s ukradenými fotografiemi skutečných lidí; twitterové účty rozhořčeně bránící syrského diktátora. ISMC zřejmě byla krycí organizací. Její zaměstnanci byli čistě digitální osoby kontrolované ruskými zpravodajskými agenty.

Kromě potenciálu falešných historek produkovaných umělou inteligencí existuje současně i děsivá a vzrušující budoucnost, kde se falešné příběhy generované umělou inteligencí staly normou.

V minulosti propaganda potřebovala lidské ruce, které by ji psaly. V kauze Alice Donovanové šlo o texty kradené. Teď si představte, co se stane, pokud zdroj takových textů je nevysledovatelný a nabídka v zásadě nekonečná.

Náš manipulovaný informační systém směřuje k nerealističnosti.

Redaktoři médií zjistí, že se velice snaží vyhnout publikaci syntetizovaných úvodníků příštích algoritmických Alicí Donovanových a Sophií Mangalových. Velké internetové společnosti se budou snažit o detekci obsahu tak brzy a tak účinně, jak to jen půjde. Jenže jako roste sofistikovanost detekční technologie, tak ji nabírají i nástroje generující snímky, videa a text.

Uprostřed závodů ve zbrojení obklopujících obsah generovaný umělou inteligencí uživatelé a internetové společnosti rezignují na snahu posoudit autenticitu. Místo toho budou hledat jen "reálnou" osobu za texty.

Podrobnosti v angličtině: ZDE

0
Vytisknout
2530

Diskuse

Obsah vydání | 24. 9. 2020