Intelektuální exploze je možným důsledkem vytvoření a rozvoje silné umělé inteligence člověkem , popsané Irvingem Goodem v roce 1965 [1] .
Podle tohoto konceptu si lidstvo v určitém okamžiku vytvoří umělou inteligenci, která se bude schopna sama zlepšovat, navíc bez lidského zásahu. Takže v procesu sebezdokonalování se taková umělá inteligence může proměnit v umělou superinteligenci, která překoná schopnosti lidí. To bude okamžik "intelektuální exploze". Koncept intelektuální exploze úzce souvisí s konceptem technologické singularity .
Hlavní rozdíl mezi silnou umělou inteligencí a umělou superinteligencí od konvenční umělé inteligence spočívá v tom, že schopnosti té první v mnohém předčí intelektuální schopnosti nejvýraznějších představitelů lidstva. Lidstvo tak nebude schopno plně pochopit a řídit jejich vývoj.
Navzdory tomu, že vědci zabývající se vývojem umělé inteligence dosud nevyvinuli jedinou obecně uznávanou definici silné umělé inteligence, panuje shoda na vlastnostech, které by silná umělá inteligence (AI) měla mít. AIS je tedy schopen :
Mezi dalšími vlastnostmi silné umělé inteligence vynikají i její potenciální schopnosti vědomí, sebeuvědomění a moudrosti.
Za zmínku stojí, že žádnou z výše uvedených vlastností nelze označit za povinnou pro vytvoření silně umělé inteligence. Mezi vědci navíc nepanuje shoda v tom, zda je výčet těchto charakteristik dostatečný pro vytvoření a fungování silné umělé inteligence.
Irving Goode ve svých úvahách o prvním ultrainteligentním stroji z roku 1965 píše:
„Definujme ultrainteligentní stroj jako stroj schopný daleko překonat jakoukoli intelektuální aktivitu člověka, bez ohledu na to, jak chytrý může být. Protože konstrukce strojů je jednou z intelektuálních činností, je ultrainteligentní stroj schopen konstruovat stále dokonalejší stroje; pak nepochybně dojde k "intelektuální explozi" a lidská mysl zůstane daleko za sebou. První ultrainteligentní stroj je tedy posledním vynálezem, který bude od člověka vyžadován...“ [3]
Předkládá tak důkazy o možnosti vytvoření pokročilejší verze umělé inteligence. Základem diskusí o technologické jedinečnosti se stala myšlenka Irvinga Gooda, že v určitém okamžiku člověk vynalezne stroj, jehož intelektuální schopnosti předčí lidské. Good navíc považoval tento okamžik v lidských dějinách za nevyhnutelný a pozitivní, protože po intelektuální explozi vyřeší stroje všechny existující problémy lidstva, protože toho budou schopny mnohem efektivněji než člověk. V Úvahách o prvním ultrainteligentním stroji řekl, že vytvoření umělé inteligence schopné sebezdokonalování a sebereplikace by bylo „posledním vynálezem člověka“, protože stroje by byly schopny řešit i problémy, které představují nebezpečí lidská civilizace. Později však Good ve své práci vyjadřuje zcela oprávněné obavy, zda si člověk může udržet nějakou kontrolu nad superinteligencí, kterou vynalezl, a pochopením jejího jednání. Pokud totiž „chytrý stroj“ člověku neřekne, „jak ho lze ovládat“, lidstvo nebude mít možnost jeho vynález ovlivnit. Důsledky toho mohou být velmi různorodé [4] .
V knize Náš matematický vesmír. Při hledání základní povahy reality“ [5] Max Tegmark píše o možných důsledcích intelektuální exploze. Zamýšlí se nad možným vztahem mezi člověkem a umělou inteligencí a analyzuje stabilitu vztahu mezi umělou inteligencí, jejíž schopnosti předčí ty lidské, a lidstvem samotným. Takže i dobře navázané přátelské vztahy mohou být extrémně nestabilní a jejich vývoj je nepředvídatelný. Tegmark tedy shledává Goodeův částečný pesimismus v této otázce zcela oprávněný, vzhledem ke složitosti operace AI po intelektuální explozi a nedostupnosti plného pochopení jejích aktivit pro lidi.
V roce 1950 Alan Turing – kolega a přítel Irvinga Hooda, s nímž společně pracovali v Bletchley Parku během druhé světové války s týmem kryptografů – píše článek „Computing Machinery and Intelligence“ (COMPUTING MACHINERY AND INTELLIGENCE). Nastiňuje v něm nejčastější námitky odpůrců myšlenky možnosti vytvořit „myslící stroje“. Navzdory tomu, že dílo bylo napsáno a publikováno před více než půl stoletím, Turingem zmiňované námitky zůstávají aktuální, neboť odrážejí mimo jiné nadčasové náboženské přesvědčení, matematická ustanovení a rysy lidské psychiky.
Článek tedy uvádí následující důvody nemožnosti vytvořit „myslící stroje“. Za prvé, lidské duši je přisuzována schopnost myslet z teologického hlediska. Proto vše, co nemá duši, nemůže být schopno myslet. Za druhé lze v této souvislosti považovat větu G. Gödela za důkaz nemožnosti vytvoření silné umělé inteligence, neboť pokud je logický systém dostatečně výkonný, lze v jeho rámci formulovat výroky tak, že nemohou ani být v rámci takového systému prokázáno, ani vyvráceno (samozřejmě pokud samotný systém není nekonzistentní). Za třetí, i když stroj reaguje na vnější podněty stejným způsobem jako člověk, například odpovídá na otázky tazatele o „jeho vzhledu“, ukazuje reakci potěšení z chvály, píše sonety atd., není možné vědět, zda prožívá pocity tak, že je přeměňuje v poezii, ví, jak tak či onak vypadá, a těší se z toho, že je chválena. Pravděpodobně je to jen reakce naprogramovaná do ní, nevědomá si jí. Ada Lovelace , slavná anglická matematička, ve svých pamětech napsala, že „analytický stroj nepředstírá, že by něco vytvořil“, a že může reprodukovat pouze to, co mu nařídil člověk. Také z biologického hlediska je zjevně nemožné, aby stroj napodoboval chování lidského nervového systému. Je také zmíněno, že je nemožné, aby stroj naprogramoval všechna možná chování pro všechny možné scénáře, takže reakce člověka v tomto případě bude odlišná od reakce stroje [6] .
Fenomén intelektuální exploze, stejně jako související fenomén technologické singularity, je široce zastoupen v populární kultuře po celá desetiletí. V kulturních dílech se odehrávají různé důsledky a možnosti rozvoje vztahu člověka a umělé inteligence, kde se události vyvíjejí jak pozitivním směrem, tak i naopak.