AI revoluce

Naprostá většina z vás již patrně slyšela o blížící se AI revoluci, doprovázející masivní pokroky ve vývoji umělé inteligence. Obdobně si však naprostá většina lidí, zdá se, neuvědomuje, jak dramatické změny tato inovace pravděpodobně přinese.

Jelikož je AI revoluce často (mylně) srovnávána s neolitickou či průmyslovou revolucí, rozebereme si nejprve jejich důsledky, které pak porovnáme s pravděpodobnými důsledky AI revoluce.

Pojmem neolitická revoluce se zpravidla označuje období zhruba mezi desátým a osmým tisíciletím před naším letopočtem, kdy poprvé (alespoň podle našich poznatků) došlo k vynálezu zemědělství a domestikace, a tím pádem přechodu z kultury lovců a sběračů v první reálné soudržné společnosti. Jelikož usedlý způsob života plně podporoval širší společenství, došlo k rychlému vzestupu lidské populace. Následné pokroky vedly z dalšímu zdokonalování nově objevených postupů a postupnému vzestupu civilizace tak, jak ji známe dnes.

Průmyslová revoluce byla (díky daleko komplexnější struktuře společnosti své doby) mnohem složitější. Podobně jako neolitická revoluce vytlačila ve velké míře model lovec-sběrač, vytlačila průmyslová revoluce většinu lidí z agrikultury. Jelikož pokročilé stroje byly příliš drahé, než aby si je obstarali jednotlivci, vznikly první fabriky, kdy přístroje patřily továrně a pracovníci je pouze obsluhovali. Zatímco výkon ekonomiky jakožto celku prudce stoupal, standarty života se zvyšovaly buď jen velmi pomalu, nebo setrvávaly na zhruba stejné úrovni, přičemž podle některých odhadů i přímo klesaly. Většina populace trpěla hladem a špatnou výživou, neboť ačkoliv se zemědělská produkce rovněž zvyšovala, nedokázala předhonit nárůst množství obyvatel. Dětská práce a rozličné choroby byly na pořadu každého dne. I přes tyto problémy však společnost jako celek bohatla a životní podmínky se postupně zlepšily. Ostatně, důsledky průmyslové revoluce sklízíme dodnes.

Důvodem, proč zde uvádím právě tyto dva mezní body historie, je, že v obou případech došlo k (alespoň částečné) automatizaci jisté do té doby hojně rozšířené činnosti – získávání jídla v případě neolitické revoluce (zatímco dříve mohl jeden lovec sám o sobě získat potraviny jen pro několik lidí, farmář byl schopen je zajistit pro tucty – zjednodušeně řečeno -, takže se uvolnila lidská kapacita pro další činnosti, jako například intelektuální práci), repetitivní silové působení v případě revoluce průmyslové.

Obdobně tomu bude v případě AI revoluce, až na ten malý, avšak podstatný detail, že zde půjde o automatizaci myšlení.

Proč je takové odlišení důležité? Protože jde o zcela jiný typ změny, než k jakým došlo u revolucí předcházejících. Zatímco k (částečné) automatizaci farmaření a manuální práce došlo v důsledku nových vynálezů – tedy produktů myšlení -, u AI revoluce dojde k převedení samotného myšlení na stroje. Jde tedy o posun zcela fundamentální, nikdy dříve nepozorovaný. O revoluci na druhou.

Jistě, počítače jsou s námi již nějakou dobu (ve skutečnosti daleko delší dobu, než si většina lidí myslí), avšak po naprostou většinu své existence nebyly schopny provádět nic než předem zadané úlohy. To se s příchodem umělé inteligence postupně mění, ačkoliv, jak jsem psal dříve, AI je stále ještě jen velmi omezené ve svém fungování (vše, co zatím máme, je ANI, tedy Artificial Narrow Intelligence, přístroje více či méně kreativně zpracovávající velmi úzce zaměřená zadání, jako je třeba hraní go či rozpoznávání obrázků) a ke skutečné umělé inteligenci, jak si ji představují hollywoodské filmy (a tudíž většina běžného obyvatelstva), má poměrně daleko.

Nechci se zde věnovat odhadům, za jak dlouho dojde k vyvoření první (a možná jediné) umělé inteligence na úrovni člověka (takzvané AGI – Artificial General Intelligence), neboť to za mne činí lidé daleko uzpůsobenější takovým odhadům, než jsem já. Daleko raději se zaměřím na snahu vysvětlit, k čemu výtvor takové inteligence povede.

Zaprvé je nutné si uvědomit, na bázi čeho všechny dosavadní technologické revoluce fungovaly. V podstatě jde o jednoduchý, logický, neustále se opakující řetěz zhruba tohoto typu: [myšlení] -> [technologický pokrok] -> [automatizace práce] -> [více času a prostředků  pro myšlení] -> [myšlení] -> [technologický pokrok] -> [ad infinitum], přičemž hnacím prvkem celého tohoto systému je pouhá redistribuce lidských zdrojů, díky čemuž je také lidský prvek stále potřebný. Pokud ovšem řetěz přetneme a automatizujeme samotné myšlení, dojde k vyloučení lidského faktoru.

Ono vylučování můžeme pozorovat již delší dobu, vlastně od samotné neolitické revoluce, ale vždy se týkalo především manuální práce, až s rozvojem počítačů během posledních pár desetiletí explozivně přešlo i do sféry zpracovávání dat a nyní rapidně i do kreativních činností. Bude-li tento trend pokračovat bez přerušení, velmi, velmi rychle dojde ke kompletní eliminaci potřebnosti lidstva pro systém technologického pokroku jako takového.

Je to problém? Ano. Ve skutečnosti je to největší riziko, jakému kdy lidstvo čelilo a pravděpodobně i jakému kdy bude čelit, a to ze dvou důvodů. První z nich je ekonomický, o nemž nejsem povolaný – a v tuto chvíli ani ochotný – hovořit (ostatně si silně protiřečí i jednotliví experti na dané téma).

Druhý z nich je problém zrychlující se návratnosti pokroků v oblasti umělé inteligence. Jakmile budeme mít počítače schopné myslet na úrovni člověka v rámci odpovídajícího poměru hloubky a rychlosti, lidstvo jako takové v podstatě z rovnice odpadá. Stroje jsou schopny zlepšovat samy sebe v reálném čase, zatímco člověk je (alespoň prozatím) vázán na pomalé mezigenerační proměny (jinak řečeno evoluci) či případně na (zatím nepříliš rozvinutou) kybernetiku.

Existuje vcelku rozumná obava, že AGI záhy po svém vytvoření (za předpokladu, že se bude moci samo vylepšovat) přeroste v ASI (Artificial Super-Intelligence), kterou nebude možno kontrolovat prostě proto, že oproti člověku bude stát úplně jinde na všech inteligenčních škálách (myš také nikdy nepřechytračí člověka, bez ohledu na všechny její představitelné snahy). Čím více inteligentní je bytost, jež dovede sebe sama zdokonalovat, tím rychleji a efektivněji může taková zdokonalování provádět, díky čemuž je ještě chytřejší, a tudíž ještě dokonalejší… a tak dále.

Existuje nějaký strop tohoto únikového efektu? Těžko říct. Jistě, naše hardwarové jsou prozatím značně omezené, ale na druhou stranu si vůbec nedokážeme (a ani si z definice nemůžeme dokázat) představit, s jakými vynálezy či aplikacemi již existujících technologií přijde bytost o celé řády inteligentnější, než jakýkoliv člověk.

Přirozeně, taková exploze inteligence, jež se může teoreticky odehrát i extrémně rychle, v řádu pouhých hodin či dnů, není sama o sobě pozitivní ani negativní – jde jen o vložení extrémně mocného agenta do systému, který na něj může a nemusí být správným způsobem připraven. Ať už ovšem AI revoluce dopadne jakkoliv, téměř jistě změní tvář lidstva navždy.

Je jen a pouze na nás, zdali budeme schopni dostatečně rychle projevit odpovídající míru nadhledu a vize do budoucna a vypracujeme odpovídající etické a legislativní mantinely, které snad pomohou zajistit, že ASI usilovat o naši prosperitu, namísto našeho (ať už záměrného či nikoliv) vyhlazení.