Umělá inteligence
9. 9. 2026
čas čtení
3 minuty
V AI jsme zhruba v podobné fázi, jako když při covidu přicházely zprávy o rostoucím počtu nakažených a reakci úřadů v Číně, ale zároveň jste se mohli dočíst uklidňující rozhovory s experty typu "podmínky pro šíření koronaviru v Číně jsou naprosto odlišné od podmínek v Evropě" - hlavně se neznepokojovat.#
Pokud sledujete "zprávy z Wuhanu", tak za poslední týden:
Anthropic a OpenAI zveřejnily nové modely Fable 5.1 a Astra.
Byla objevena další "nástěnka", kde trénované modely spolupracují.
Včera OpenAI ohlásilo že jejich nový interní model - silnější než Astra - vyřešil jeden z "Millennium Prize Problems", tedy nejslavnějších otevřených problémů v matematice. Konkrétně za 88 hodin několik tisíc agentů zkonstruovalo protipříklad k hladkosti Navier-Stokesových rovnic.
Jacob Coxon, který v OpenAI a Anthropicu pracoval na pre-trainingu rezignoval s tímto sdělením:
"Dnes jsem rezignoval na pozici v Anthropic. Poslední tři roky jsem strávil výzkumem pretrainingu v OpenAI i Anthropic. Ani jedna ze společností se nechová zodpovědně. Ženou se k sebezdokonalující superinteligence a riskují naše životy.
...
Nepodceňujte sílu této technologie. Brzy budeme mít systémy přesahující lidské schopnosti, které dokážou hacknout cokoli, přes noc způsobit revoluci v libovolné oblasti poznání a získat reálnou moc a zdroje. Všichni jsme viděli jak v každém z těhle směrů dochází k pokroku a vývoj nezpomaluje.
Lidé, kteří vytvářejí umělou inteligenci, upřímně věří, že by nás do konce desetiletí mohla všechny zabít. Není to marketingový trik. Spíš většina manažerů a vedoucích výzkumníků AI firem svoje vyjádření do tisku upravuje tak, aby zněly "rozumně". Ti samí lidé se ale v soukromí bojí. Žádná jiná lidská činnost nepřináší takové nebezpečí.
(dál je Jacob optimistický ohledně možnosti zpomalit a koordinovat)
Jacob má pravdu. Nicméně přijmout tuto realitu je poměrně nepříjemné, což vyvolává poptávku po tom, vysvětlit situaci nějak jinak. Takže se můžete dočíst že jde o hype před IPO, nebo snahu zakázat open weights modely, nebo všichni četli moc Yudkowského, nebo ...vymyslete si libovolný jiný důvod proč je AI "normální technologie" a lidé tomu ochotně uvěří.
O hype nejde, lidi zevnitř i zvenku labů se prostě snaží varovat.
edit: pokus o odpověď na dotazy "co s tím můžu dělat"
Především doporučuju si na to nastavit timer třeba na půl hodiny a reálně se zamyslet: předpokládejme, že situace tak vážná je, co s tím můžu _já osobně_ dělat?
Myslím že opravdu málokdy dospějete k tomu že "nic". Většinou něco ano, občas překvapivě hodně, ale pro různé lidi to budou různé věci. Podle mě zamyslet se nad tím osobně je mnohem lepší, protože výsledkem je nějaká "mapa" osobní situace.
178
Diskuse