15. 3. 2023
"Omlouvám se, že jsem zabil většinu lidstva s úsměvem, čepicí a knírem," říká monitor vítající návštěvníka "Misalignment Museum", nové výstavy o kontroverzní technologii.
Exponáty v této dočasné show mísí znepokojivé s komiksem a tato první zpráva má hned úvodem šokovat návštěvníky.
"Koncept muzea spočívá v tom, že se nacházíme v postapokalyptickém světě, kde umělá inteligence již zničila většinu lidstva," řekla kurátorka výstavy Audrey Kim.
"Ale pak si umělá inteligence uvědomí, že to bylo špatné a vytvoří jakýsi památník člověku, takže slogan naší show je 'omlouvám se za zabití většiny lidstva'," řekla.
Umělá obecná inteligence je koncept, který je ještě mlhavější než jednoduchá AI, která se kaskádovitě dostává do každodenního života, jak je vidět na rychlém vzniku aplikací, jako je ChatGPT nebo chatbot Bing, a veškerý humbuk, který je obklopuje.
AGI je "umělá inteligence, která je schopna dělat vše, co by člověk byl schopen udělat," integrující lidské kognitivní schopnosti do strojů.
Po celém San Franciscu a na poloostrově v Silicon Valley jsou startupy na stopě svatého grálu AGI.
Sam Altman, zakladatel tvůrce ChatGPT OpenAI, řekl, že AGI, pokud se udělá správně, může "pozvednout lidstvo" a změnit "hranice možností".
Kim však chce vyvolat úvahy o nebezpečích, která mohou zajít příliš daleko a příliš rychle.
"Na Twitteru proběhlo mnoho rozhovorů o bezpečnosti AI v docela specializovaných intelektuálních technologických kruzích a myslím, že je to velmi důležité," řekla.
Ale tyto rozhovory nejsou tak snadno přístupné široké veřejnosti jako koncepty, které můžete vidět nebo cítit, dodala.
Kim má obzvláště rád sochu nazvanou "Paperclip Embrace": Dvě busty lidí, kteří se drží navzájem, vyrobené výhradně z kancelářských sponek.
Práce odkazuje na metaforu filozofa Nicka Bostroma, který si v roce 2000 představoval, co by se stalo, kdyby umělá inteligence byla naprogramována tak, aby vytvářela kancelářské sponky.
"Mohla by se stát stále mocnější a neustále se optimalizovat, aby dosáhla svého jediného cíle, až do bodu, kdy zničí celé lidstvo, aby zaplavila svět kancelářskými sponkami," řekl Kim.
Zvažování kladů a záporů umělé inteligence je téma, které se stalo blízkým Kimovu srdci v dřívější práci pro společnost Cruise, která se zabývá autonomními vozidly.
Tam pracovala na "neuvěřitelné" technologii, která "by mohla snížit počet nehod způsobených lidskou chybou", ale také představovala rizika, řekla.
Výstava zabírá malý prostor v budově na rohu ulice v moderní čtvrti Mission v San Francisku.
Spodní patro výstavy je věnováno umělé inteligenci jako děsivé dystopii, kde stroj poháněný GPT-3, jazykovým modelem ChatGPT, v kurzívě skládá zlomyslné kaligramy proti lidstvu.
Jedním z exponátů je umělou inteligencí vytvořený – a zcela falešný – dialog mezi filozofem Slavojem Žižkem a filmařem Wernerem Herzogem, dvěma z nejuznávanějších evropských intelektuálů.
Tato "nekonečná konverzace" je meditací o deep fake: Obrázcích, zvuku nebo videu, jejichž cílem je manipulovat s názorem vydáváním se za skutečné lidi a které se staly nejnovější dezinformační zbraní online.
"S tímto projektem jsme začali teprve před pěti měsíci, a přesto se mnoho zde prezentovaných technologií zdá být téměř primitivních," řekla Kim ohromeně.
Doufá, že se výstava změní na stálou s větším prostorem a více exponáty.
Zdroj v angličtině: ZDE
Diskuse