Pedofilové využívají volně přístupný software umělé inteligenci k vytváření obrazů sexuálního zneužívání dětí
13. 9. 2023
Nadace Internet Watch Foundation uvedla, že na internetových fórech, která používají pachatelé sexuálních trestných činů, se diskutuje o používání volně přístupného software umělé inteligence k vytváření nových nezákonných materiálů. Varování přichází v době, kdy předseda britské vládní pracovní skupiny pro umělou inteligenci Ian Hogarth v úterý kolegům sdělil, že modely s volně přístupným zdrojovým kódem jsou využívány k vytváření "těch nejodpornějších věcí".
Technologie AI s volně přístupným zdrojovým kódem si mohou uživatelé stáhnout a upravit, na rozdíl od uzavřených modelových nástrojů, jako je Dall-E od OpenAI nebo Imagen od Googlu, k jejichž základním modelům - které jsou základem pro vytváření obrázků - nemá veřejnost přístup ani je nemůže měnit.
Dan Sexton, technický ředitel nadace Internet Watch Foundation, uvedl, že na diskusních fórech na dark webu, kde jsou aktivní pedofilové, se diskutuje například o tom, které modely s otevřeným zdrojovým kódem používat a jak dosáhnout co nejrealističtějších obrázků.
"V rámci pachatelů existuje technická komunita, zejména na fórech temného webu, kde se o této technologii diskutuje. Sdílejí snímky, sdílejí modely [umělé inteligence]. Sdílejí návody a tipy."
Dodal: "Materiál, který jsme viděli, je podle našeho názoru skutečně generován pomocí softwaru s otevřeným zdrojovým kódem, který byl stažen a spuštěn lokálně na počítačích a poté upraven. A to je mnohem těžší problém k řešení."
Dodal: "Naučili ten software, jak vytvářet videa sexuálního zneužívání dětí."
V diskusích se hovoří používání snímků dětí celebrit, veřejně dostupných snímků dětí nebo snímků známých obětí zneužívání dětí k vytváření nového pornografického materiálu. "
Na otázku, zda by IWF, který vyhledává pornografické materiály o dětech a koordinuje jejich odstraňování a provozuje horkou linku pro tipy, mohl být zahlcen materiálem vytvořeným umělou inteligencí, Sexton odpověděl: "Sexuální zneužívání dětí na internetu je již teď epidemií veřejného zdraví. Tohle ten problém zhorší."
Odborníci na prosazování práva a bezpečnost dětí se obávají, že fotorealistické snímky dětské pornografie, ztíží identifikaci skutečných obětíé a pomoc pro ně. Obávají se také, že samotný potenciální objem takových snímků by mohl způsobit jejich širší konzumaci.
Mluvčí britské vlády uvedl, že na dětskou pornografii generovanou umělou inteligencí se bude vztahovat připravovaný zákon o bezpečnosti online a platformy sociálních médií budou muset zabránit tomu, aby se na platformách objevovala.
V úterním projevu na zasedání výboru Sněmovny lordů pro komunikace a digitální technologie Hogarth uvedl, že řešení problematiky otevřeného zdrojového kódu na rozdíl od uzavřených systémů je velkým problémem.
Diskuse