Superinteligence

Dnes se často diskutuje o tom, zda umělá inteligence brzy předstihne lidskou, a jaké to bude mít následky. Budeme schopni ovládat sebevědomou umělou inteligenci? Bude nám partnerem, nebo se od nás odvrátí a potenciálně nás ohrozí? Může vzniknout nový druh, kombinace člověka a jím stvořené inteligence? Tyto otázky zkoumá kniha Nicka Bostroma. Autor nejprve sleduje historický vývoj umělé inteligence a popisuje její současný stav. Rozebírá různé typy umělé inteligence, od klasických počítačů až po budoucí formy kombinující stroje a biologické materiály. Představuje také souhrn názorů odborníků na směřování vývoje. Klíčová je pro něj otázka, zda umělá inteligence dokáže napodobit fungování lidského mozku, neboť dokud to nezvládne, bude omezená. Lidský mozek má podle něj unikátní schopnosti, které ostatní živé organismy postrádají, což lidem zajišťuje dominantní postavení na Zemi. Bostrom varuje, že stejně jako lidé rozhodují o osudu lidoopů, tak i naše přežití může záviset na superinteligenci, pokud ji vytvoříme. Máme ale v rukou, zda k tomuto kroku vůbec dojde. Autor předpokládá, že vytvoření superinteligence je nevyhnutelné, a proto se zamýšlí nad tím, jak to udělat bezpečně. Zkoumá různé scénáře a ptá se, jaké „motivace“ budou superinteligenci řídit. Vzhledem k tomu, že lidské chování je ovlivněno morálními dilematy, klade si otázku, zda lze do umělé inteligence naprogramovat trvalé morální sebeomezení. Odpověď není jasná, a proto se zabývá možnostmi, jak se lidstvo může bránit ztrátě kontroly. I ty ale mohou být superinteligencí odhaleny a obejity. Kniha je srozumitelná pro širokou veřejnost i odborníky a zabývá se potenciálními dopady technologií, které dnes běžně používáme.