Jak vznikají zbraně ovládané umělou inteligencí, Amerika má opravdu velký strach
11. 4. 2023
Budou technologické výhody stačit Číně k tomu, aby nahradila USA na pozici světové velmoci v oblasti umělé inteligence?
V poslední době do závodů ve zbrojení vstoupil nový druh zbraní - volně nazývaný "umělá inteligence". V roce 2021 jsme se zpožděním zjistili, jaké obavy z něj měla americká vláda. Pod vedením Erica Schmidta, bývalého předsedy společnosti Google, byla svolána Národní bezpečnostní komise pro umělou inteligenci. Ve své zprávě, vydané v březnu téhož roku, komise varovala: že Čína by mohla brzy nahradit USA na pozici světové "supervelmoci v oblasti umělé inteligence"; že systémy umělé inteligence budou využívány (překvapivě!) v "honbě za mocí"; a že "umělá inteligence nezůstane doménou velmocí nebo sférou science fiction". Schmidt také vyzval prezidenta Bidena, aby odmítl výzvy k celosvětovému zákazu vysoce kontroverzních autonomních zbraní poháněných umělou inteligencí s tím, že Čína a Rusko pravděpodobně nedodrží žádnou smlouvu, kterou by podepsaly, píše John Naughton.
Byl to dosud nejsilnější náznak hegemonistické úzkosti, která svírá USA tváří v tvář rostoucí čínské asertivitě na globální scéně. To také vysvětluje, proč otevřený dopis podepsaný mnoha výzkumnými pracovníky, který vyzýval všechny laboratoře umělé inteligence, aby okamžitě alespoň na šest měsíců pozastavily výcvik systémů umělé inteligence výkonnějších než GPT-4 (a dodával, že "pokud takovou pauzu nelze rychle zavést, měly by zasáhnout vlády a zavést moratorium"), narazil ve Washingtonu i v Silicon Valley.
Pro představu o obavách, které svírají USA, může být poučná první kapitola knihy 2034: Román o příští světové válce, jejímž spoluautorem je spisovatel thrillerů a bývalý americký admirál. Americká letadlová skupina v Jihočínském moři se vydává na pomoc čínské rybářské lodi, která hoří. Ukáže se, že loď má na palubě zajímavou elektronickou výbavu. Číňané požadují okamžité propuštění plavidla, načež Američané, kteří nemají chuť jim vyhovět, zjistí, že všechny jejich elektronické systémy jsou najednou nefunkční a že jsou obklíčeni skupinou čínských válečných lodí, o jejichž blízkosti vůbec nevěděli. Takhle vypadá technologická podřízenost, když jste velmoc.
Dobře míněný, ale marný dopis "o pauze" byl motivován obavami, že technologie strojového učení překročila významnou hranici na cestě k AGI (artificial general intelligence), tj. k superinteligentním strojům. To je pravděpodobné pouze v případě, že věříte - jako někteří ve světě strojového učení - že masivní rozšíření LLM (velkých jazykových modelů) nás nakonec dovede k AGI. A pokud by k tomu došlo (tak zní panická úvaha), mohla by to být pro lidstvo špatná zpráva, ledaže by se stroje;;+; spokojily s tím, že si lidi ponechají jako domácí mazlíčky.
Pro zahraničněpolitický establishment ve Washingtonu však vyhlídka, že by se Čína mohla dostat k AGI dříve než USA, vypadá jako existenční hrozba pro americkou hegemonii. Místní technologičtí giganti tyto existenční obavy usilovně rozdmýchávají. A tak by svět mohl čelit novým "závodům ve zbrojení" poháněným budoucími generacemi technologií, které nám přinesly ChatGPT, se vším plýtváním a korupcí, které takové utrácení přináší.
Tento způsob uvažování je založen na dvou pilířích, které se zdají být dosti vratké. Prvním je víra, druhým je mylná představa o povaze technologické konkurence. Víra spočívá v přesvědčení, že zrychlený rozvoj technologie strojového učení nakonec povede ke vzniku AGI. To vypadá jako docela hrdinský předpoklad. Jak upozornil filozof Kenneth A. Taylor před svou předčasnou smrtí, výzkum umělé inteligence má dvě podoby: Umělá inteligence jako inženýrství a umělá inteligence jako kognitivní věda. Vznik LLM a chatbotů ukazuje, že po inženýrské stránce bylo dosaženo významného pokroku, ale v kognitivní oblasti se k rovnocennému průlomu ještě ani zdaleka neblížíme. Přitom právě zde je zapotřebí velkolepého pokroku, mají-li se rozumové stroje stát životaschopnou nabídkou.
Diskuse