Britský premiér Keir Starmer rozšíří po skandálu s Grokem předpisy onlinové online bezpečnosti na chatboty s umělou inteligencí

20. 2. 2026

Starmer také plánuje urychlit zavedení nových omezení používání sociálních médií dětmi, pokud s nimi poslanci po veřejné konzultaci o možném zákazu pro osoby mladší 16 let souhlasí. To znamená, že jakékoli změny v používání sociálních médií dětmi, které mohou zahrnovat i další opatření  by mohly nastat již letos v létě.

K tomuto kroku došlo poté, co online regulační orgán Ofcom přiznal, že nemá pravomoc zasáhnout proti Groku, protože obrázky a videa vytvořená chatbotem bez vyhledávání na internetu nespadají do působnosti stávajících zákonů, pokud se nejedná o pornografii. Změna, která podřídí chatboty s umělou inteligencí zákonu o online bezpečnosti, by mohla nastat během několika týdnů, ačkoli tato mezera v zákoně je známa již více než dva roky.

„Technologie se vyvíjí velmi rychle a zákon musí držet krok,“ řekl Starmer. „Opatření, které jsme přijali vůči Groku, vyslalo jasný signál, že žádná platforma nedostane volnou ruku. Dnes uzavíráme mezery, které ohrožují děti, a připravujeme půdu pro další opatření.“

Firmy, které poruší zákon o online bezpečnosti, mohou čelit pokutám až do výše 10 % globálních příjmů a regulační orgány mohou požádat soudy o zablokování jejich připojení ve Velké Británii.

Pokud jsou chatboty s umělou inteligencí používány konkrétně jako vyhledávače, k produkci pornografie nebo k provozu v kontextu uživatel-uživatel, již se na ně zákon vztahuje. Mohou však být použity k vytváření materiálů, které povzbuzují lidi k sebepoškozování nebo sebevraždě, nebo dokonce k vytváření materiálů s dětskou sexuální tematikou, aniž by jim hrozily sankce. To je mezera, kterou vláda chce podle svých slov uzavřít.

Generální ředitel NSPCC Chris Sherwood uvedl, že mladí lidé kontaktují jeho linku pomoci a hlásí škody způsobené chatboty s umělou inteligencí a že nevěří, že technologické společnosti je navrhnou bezpečně.

V jednom případě byla 14letá dívka, která s chatbotem s umělou inteligencí hovořila o svých stravovacích návycích a tělesné dysmorfii, informována nesprávně. V jiných případech viděli „mladé lidi, kteří si ubližují, a kterým jsou dokonce nabízeny obsahy podněcující k dalšímu sebepoškozování“.

„Sociální média přinesla mladým lidem obrovské výhody, ale také mnoho škod,“ řekl 

Poté, co si 16letý Adam Raine z Kalifornie vzal život po „měsících povzbuzování ze strany ChatGPT“, jak tvrdí jeho rodina, společnost OpenAI zavedla rodičovskou kontrolu a zavádí technologii predikce věku, aby omezila přístup k potenciálně škodlivému obsahu.

Vláda také hodlá konzultovat možnost donutit sociální média, aby uživatelům znemožnila odesílání a přijímání nahých fotografií dětí – což je již nyní nezákonné.

Liz Kendallová, ministryně pro technologie, uvedla: „Nebudeme čekat s přijetím opatření, která rodiny potřebují, proto zpřísníme pravidla pro chatboty s umělou inteligencí a připravujeme půdu, abychom mohli rychle reagovat na výsledky konzultací o mladých lidech a sociálních médiích.“

Nadace Molly Rose Foundation, kterou založil otec 14leté Molly Russellové, která spáchala sebevraždu poté, co si prohlížela škodlivý obsah online, označila tyto kroky za „vítaný první krok“. Vyzvala však premiéra, aby se zavázal k přijetí nového zákona o bezpečnosti online, „který posílí regulaci a jasně stanoví, že bezpečnost produktů a blaho dětí jsou podmínkou pro podnikání ve Velké Británii“.

Zdroj v angličtině ZDE