Non-fiction: Ovládne dementní lidstvo umělá inteligence?

25. 2. 2015 / Bohumil Kartous

Elektrifikace lidstva trvala sto třicet let a v podstatě ještě zdaleka není ukončena. Propojení prostřednictvím internetu trvalo dvacet let a mnohde elektrifikaci předběhlo. Google i Facebook testují šíření wi-fi signálu prostřednictvím dronů a balónů. Na řadě míst zeměkoule elektrická síť není a ani nebude, internet se tam už ale dostal v podobě mobilních zařízení. Tyto oblasti doposud nepoznaly většinu z toho, čím technologický vývoj obdařil euroatlantickou civilizaci, ale mobilní sítě a zařízení jsou téměř všude. Technologický vývoj zaměřený na informace a jejich přenos tak překlenul veškerý jiný. James Gleick ve své nedávno vydané knize Informace tento vývoj podrobně sleduje a dokládá, že v informaci se sbíhají fyzika, chemie i biologie. Současná věda pracuje s teorémem, že hmota i život jsou založeny na přenosu informací.

Zároveň se zdá, že díky tomuto pokroku se lidstvo dostalo na hranu schopnosti kontroly vlastního technologického vývoje. Deník Guardian vydal článek, v němž Stephen Balkam, ředitel amerického Institutu rodinného bezpečí na internetu (Family Online Safety Institute) poukazuje na varovné předpovědi lidí z oblasti vědy a technologického vývoje týkající se rozvoje umělé inteligence. Fyzik Stephen Hawking, dlouholetý spolupracovník Intelu a člověk, který je kvůli degenerativnímu postižení motorických neuronů odkázaný na pokrok v komunikačních technologiích, nedávno předpověděl, že vývoj umělé inteligence může vést ke konci lidské rasy. Elon Musk, zakladatel projektů PayPal,Tesla a SpaceX prohlásil, že umělá inteligence je největším existenciálním nebezpečím lidstva. Bill Gates, jeden z průkopníků v oblasti informačních technologií, se také řadí do tábora těch, kteří jsou rozvojem umělé inteligence znepokojeni.

Důvodem pro znepokojení je možná ztráta kontroly tehdy, pokud se informační technologie dokáží vyvinout na takovou úroveň, kdy budou počítače schopné sebeprogramování a tedy budou schopné řídit vlastní procesy nezávisle na člověku. Toto znepokojení posiluje rozvoj dalšího nadcházejícího technologického trendu, jímž je internet věcí (internet of things). Už dnes je možné prostřednictvím internetu ovládat ledničky či pračky nebo termostaty v domácnosti. Existují tisíce technologických start upů, které se snaží tuto oblast rozvinout, protože představuje velmi lukrativní ekonomickou příležitost. A představuje také další stupeň ztráty kontroly nad procesy, které se kolem nás dějí, a to na takové úrovni, kdy je možné tyto procesy, bez vědomí člověka, jehož se přímo týkají, zcela ovládnout.

Ve věku internetu věcí se dá předpokládat, že objekty (věci, ale i zvířata nebo lidé) vybavení komunikačním zařízením schopným vysílat a přijímat informace budou komunikovat se svým okolím na zcela samostatně, jak píše Balkam, bez lidské intervence. Tyto technologie nejsou ničím, co bychom mohli označovat za scifi, jsou přítomné, reálné a jejich vývoj je neuvěřitelně rychlý. Penetrace internetem věcí bude pravděpodobně mnohem rychlejší a mnohem méně nápadná než tomu bylo na počátku internetu samotného.

Balkam v souvislosti se skeptickými predikcemi, uvádí dva filmy, které poutají naši představivost v souvislosti s umělou inteligencí a jejím plíživým ovládnutím lidské existence: Kubrickovu Vesmírnou odyseu a nedávný film Ona Spikea Jonzea. V tom prvním počítač HAL promyšleně zavraždí posádku vesmírné lodi, kterou jeho systém řídí. V tom druhém se hlavní hrdina zamiluje do operačního programu, který je schopen rozeznávat a komunikovat emoce.

Nejen tvůrci scifi vyvolávají jistou míru znepokojení. Americká federální obchodní komise vydala zprávu, v níž apeluje na výrobce, aby jednali podle té nejlepší praxe a účinně omezovali shromažďování dat, aby zajistili důvěru zákazníků v novou síť.

Balkam je přesto technologickým optimistou. Cituje Kevina Kellyho, šéfredaktora časopisu Wired, který soudí, že s vývojem internetu věcí a umělé inteligence bude zároveň docházet k vývoji programového řešení, které bude pokročilé přístroje omezovat v tom, aby nabývaly něčeho, co by se dalo označit za vlastní "vědomí", resp. možnosti dělat samostatná rozhodnutí.

Stejně jako Balkam, i Kelly je optimista. Věří, že stejné jako předchozí vynálezy, i rozvoj v oblasti přenosu informací a umělé inteligence povede v konečném důsledku ke prospěchu a rozvoji civilizace. Balkam odkazuje k Teilhardovi de Chardinovi, francouzskému spiritualistovi, který chápal vesmír jako smysluplný celek a lidskou civilizaci jako kolektivní vědomí, síť. Podle Balkama de Chardin touto metaforou (v jeho případě silně panteistickou) předpověděl budoucnost, předpověděl vznik internetu jako další vývojový stupeň na cestě k bodu Omega, který v de Chardinově pojetí představuje vrchol evoluce.

Teilhard de Chardin byl náboženský myslitel a tedy v principu věřil v pozitivní progres. Evoluce v jeho pojetí nutně spěje k vyvrcholení, které je součástí velkého božského plánu, proto happy end. Jenže poprvé v historii se lidstvo dostalo do situace, kdy technologický vývoj zcela zásadně obrací vztah mezi myšlením a okolním světem. V době před chytrými telefony a aplikacemi, které provádějí složitější  kognitivní operace místo člověka, bylo nutné rozvíjet činnost mozku a adaptovat se tak pružně na nejrůznější situace. Civilizace pochopitelně přinášela nástroje, které pomáhaly člověku zjednodušovat jeho činnost, ale osvojit si jejich ovládání převážně stimulovalo mozkovou činnost. Poprvé se dostáváme do situace, že ovládat nástroje v podobě různých smart apps (navigace, organizéry, hry atp.) nevyžaduje velmi často náročnější myšlenkové operace, pouze „intuitivní“ návod, který je se stále větší pečlivostí zbavován překážek, jež je nutno překonat vlastní vynalézavostí. Intuice střídá kognici v roli hlavního „driveru“ řízení stále většího počtu procesů v našem životě. Jde přitom o intuici s malým „i“, sémanticky nepřesný výraz pro jednoduchý ovladač, o jehož použití není třeba dlouze přemýšlet.

Tu náročnou část činnosti převzala stále dokonalejší umělá inteligence. Označení "smart", které má původně marketingový význam, vlastně velmi přesně vystihuje, kam se přesunulo kognitivní těžiště.
Situace je o to problematičtější, že tzv. smart apps, kam pro účely tohoto textu zařadíme i hry, jsou v současnosti nejdůvěrnějším a nejbližším společníkem dětí, a to už od jejich raného věku. S rozvojem zařízení ovládaných dotykem se okamžitě objevila nabídka aplikací určených pro děti od batolecího věku, nejčastěji pochopitelně her. Okamžitá, instantní dostupnost a nepřeberné množství stále nových her vede k vytvoření návyku a mnohdy závislosti na tom, čemu děti věnují pozornost a jak tráví čas, velmi často za tichého souhlasu spokojených rodičů. Dítě vysloveně „nelelkuje“ a budí dojem zaujetí. To je pravda, jenže zaujetí a jeho zdroj jsou dvě vysoce odlišné věci.

Nejde v podstatě o nic jiného než o čas. Technologie mají i v tomto případě velmi různorodý rozvojový potenciál. Aplikací a her, které vyžadují vynalézavost, řešení složitějších zadání a problémů či kreativitu, je spousta. Problém spočívá v tom, že děti, jejichž mozek nutně vyžaduje stimulaci, svádí velmi často ty hry, které potřebnou stimulaci neposkytují, resp. poskytují jen v omezené míře. V tomto stavu mohou vysloveně promeškat období, kdy je jejich mozek tvárný a schopný vytvářet spojení nutná pro pozdější vstřebávání a rozvoj. To je historicky zcela unikátní a zároveň naprosto masová zkušenost, kterou lidská civilizace neumí vyhodnotit. Nedokážeme proto předpovědět, co to s vývojem kultury udělá za dalších 20 či 30 let, až tato generace dospěje.

Tohoto fenoménu si všímá německý psychiatr a neurovědec Manfred Spitzer, autor knihy Digitální demence. Jeho vlastní predikce je více než temná. Na základě toho, jak vyhodnocuje interakci a rozvoj lidského mozku při vysoké míře závislosti na tzv. chytrých zařízeních a aplikacích předpovídá, že kolem roku 2050, až se generace dnešních dětí dostane do pozdně produktivního a postproduktivního věku, předpovídá Spitzer prudký nárůst demence. Podle Spitzera nebude mozek velké části tzv. civilizovaného lidstva rozvinutý k dostatečné výkonnosti a jeho funkce budou mnohem rychleji atrofovat. Spitzer je možné týmž konzervativním skeptikem, jací se objevovali v dějinách vždy, když se objevila nějaká nová technologie, která radikálně měnila status quo společnosti. Jenže problém je právě v tom, že žádná z technologií ještě nedokázala tak radikálně změnit způsob našeho uvažování, jako „smart“ aplikace, které je možné „intuitivně“ ovládat. Skutečně nečekanou oporu by Spitzer našel někde, kde by to skutečně nečekal: v Hollywoodu. Animovaný film Wall-E, jehož hlavními hrdiny jsou mimochodem stroje s vlastním vědomím, ukazuje lidstvo budoucnosti přesně podle toho, jak jej líčí německý psychiatr: obézní a dementní tvory, závislé a ovládané umělou inteligencí. Tato zvláštní symbióza stojí za zamyšlení. Ne příliš často se stává, že se Hollywood a skeptičtí vědci shodnou na svém vidění světa a budoucnosti. Jejich vzácná shoda ještě nemusí znamenat, že se tak skutečně stane, máme ale - jako lidstvo - skutečně vážný námět k zamyšlení. Pokud toho ovšem ještě v době, kdy ideální příspěvek do diskuse má 140 znaků, jsme schopni...

Vytisknout