Až se stroj zamiluje

7. 8. 2009 / Jita Splítková

Umělá inteligence zapráská bičem

Je zvláštní, že v knihách a časopisech se vždy a ke všemu objevují, a také jsou nejznámější, katastrofické vize. Není to jinak ani v případě umělé inteligence... asi nejvíce diskutovaná je od matematika a autora sci-fi Vernora Vinge... prostě jednoho rána se probudíte, zapnete comp, připojíte se na Facebook a... a to bude ta poslední kapka. Bude tu! On, nadinteligent (eventuelně ONA - nadinteligentka)..

Vznik umělé inteligence až nadinteligence a důsledky pro lidi popsal V.V. ve svém článku nazvaném prostě Singularita. Vyšel v zimním vydání Whole Earth Review 1993. Ovšem, abychom byli úplně přesní, původní verze tohoto článku byla přednesena na prestižním sympóziu VISION-21 konaném 30.-31. 3. 1993 v USA.

Singularita - konec lidstva?

Vinge hned v úvodu své práce píše: "Do třiceti let budeme mít technické prostředky, abychom vytvořili nadlidskou inteligenci. Krátce poté skončí lidská éra." Dále uvádí 4 možnosti, jak může dojít ke vzniku nadlidské inteligence:

• Mohou být vyvinuty počítače, které budou mít vědomí a nadlidskou inteligenci. Zatím je sporné, jestli vůbec půjde vytvořit strojového člověka. Pokud odpověď je "ano", nelze pochybovat o tom, že krátce poté mohou být vytvořeny bytosti inteligentnější.
• Rozsáhlé počítačové sítě plus jejich uživatelé se mohou "probudit" coby bytosti s nadlidskou inteligencí.
• Interface člověk - počítače se může stát tak těsným, že uživatele bude možno považovat za tvory s nadlidskou inteligencí.
• Biologie může poskytnout prostředky pro zvýšení přirozené lidské inteligence.

Vinge dále píše: Pokud však k technické singularitě může dojít, stane se tak. Dokonce i kdyby všechny vlády světa chápaly "hrozbu" a bály se jí jako čert kříže, vývoj by dále směřoval k tomuto cíli. V beletrii se objevily příběhy o zákonech, které zakazovaly konstrukci "stroje k obrazu lidské mysli" (Herbert, F.: Duna ). Konkurenční převaha - ekonomická, vojenská, dokonce i umělecká - každého pokroku v automatizaci je vskutku tak přesvědčivá, že přijímání zákonů či uvalení cla, které by takové věci znemožňovaly, pouze zajistí, že cíle dosáhne dříve někdo jiný.

Podle autora není alternativa. Jenže je se čeho bát?

Vernor Vinge předpokládá, že dojde k Singularitě a následnému vzniku umělé nadinteligence kolem roku 2023 - vychází z extrapolace možností současného hardwaru. To Dani Eder (Boeing AI Center ) určuje datum Singularity z velikosti lidské populace. - ta za posledních asi 10 000 let má charakter hyperbolické rostoucí křivky. Asi od roku 1600 našeho letopočtu tato křivka začíná velice strmě stoupat, přičemž její asymptota se nachází přibližně v roce 2035 našeho letopočtu. Tento rok je tedy podle Edera velmi významný - v něm se stane lidstvo nekonečným v čase nebo nastane neodbytný zlom - možná Singularita. Do třetice Eliezer S. Yudkowsky - vědec aktivně se účastnící práce v Singularity Institute for Artificial Intelligence, toto datum Singularity také spočítal kolem roku 2035.

Nevím, nedůvěřuji takovýmto výpočtům a nějak ani nevěřím ve vznik nadinteligence - a ke všemu živé...

V klidu a míru

Miliony počítačů s miliardami informací jsou jen miliony počítačů a i po jejich propojení těžko vznikne něco živého, myslícího něco nadlidského. Vědci v budoucnu chystají simulace mozků zvířat a pak i lidského - vytvoří tak "computerovou bytost"? Simulace je simulace a ne vznik života. Ovšem pokud by se simulace nějak zvrtla nebo sítě ozářeny technickým zázrakem oživly, tak proč by ten tvor měl být nadinteligentní? Ano, měl by "v mozku" všechny informace lidstva nebo téměř všechny, ale věděl by co s nimi, a co znamenají? Najednou by vzniknul - proč předpokládat, že by nepotřeboval učitele, a proč si myslet, že by si hned uvědomoval sám sebe. Narozené mimino neví, že je člověk. Navíc nadinteligence by vznikla z lidských informací, ale onen "NAD" by nebyl člověk - byl by vlastně nic, jen síť nebo super počítač, neuvěřitelně rychlý, ale inteligentní? Bez tělíčka, jak by nás honil? Zapojil by do války s lidstvem všechny bezdrátové přístroje? Všechny rakety, stíhačky... jenže proč by to dělal? Třeba by vzniklá naditeligence byla zmatená, vystrašená a potřebovala by mámu a tátu... a nechtěla by vraždit lidi... navíc opravdu velmi inteligentní lidé nebývají praktičtí, proč by měla být jiná umělá inteligence? A proč by ji mělo lidstvo zajímat? Dost odborníků se domnívá, že nadinteligence by nás vlastně ani nevnímala a my ji. Dva rozdílné, nechápající se paralelní světy, žijící vedle sebe. V klidu a míru...

Přenesu si tě

Rozvoj intelektu lidstva se může ubírat lepšími cestami. Ovšem ještě tu máme jednu možnost tvorby nadinteligence - mohla by vzniknout i tak, že do hardwaru se pomocí jiného hardwaru a softwaru "obtiskne" lidská mysl. O tzv. uploadingu - čili přenosu lidské mysli do počítačového systému, píše Hans Moravec - ředitel Mobile Robot Laboratory of Carnegie Mellon University, ve své knize Mind Children The Future of Robot and Human Intelligence (1988). Tuto technologii zde popisuje následovně: Robot o velikosti neuronu doplave až k neuronu, naskenuje ho do paměti a začne ho simulovat. Po té robot počká, až se simulace bude přesně shodovat s originálem, a jeho vstup a výstup přesměruje na tuto simulaci. Toto celé se opakuje se všemi neurony, dokud se mozek nebude skládat z takovýchto řekněme mikrorobotů simulujících neurony. Ovšem ještě pořád jsou robotci propojeni fyzickými originálními synapsemi. Začíná fáze dvě a to nahrazování původních synapsí softwarovými spojeními. V každém spojení vysílač-přijímač nejsou elektrické impulsy šířeny robotem, ale místo toho je vypočítáván výstup vysílajícího neuronu, který je potom předán na simulovaný vstup přijímacího neuronu (robota). Nakonec odpojíte roboty od neuronů.

Váš mozek je tak zálohován a pokud umřete, je tady váš umělý mozek dál. Jenže lze vytvořením zálohy vědomí vytvořit i umělou inteligenci? Bude umělý mozek dál myslet? Nebude to jen prostě něco jako externí disk?

Můžeme se ptát dál. Jestliže stvoříme dokonalý umělý mozek a přesuneme do něj vědomí člověka - bude on myslet na revoluci a vítězství svého rodu? Pokud by to byla nadinteligence, došlo by jí, že vyhlazením lidí a třeba zničením Země nic nezíská. Potřeboval by lidské otroky? To možná. Nadinteligent, by věděl, že otroci jsou mu k ničemu, že potřebuje milující opatrovníky a společníky... otroci kují pikle a znepříjemňovali by mu život...

Proč uvažovat jen o bitkách a válkách stvořených bytostí se svými tvůrci. Umělý mozek by mohl být vložen do naklonovaného či z kmenových buněk vytvořeného těla nebo prostě vytištěného na 3D tiskárně z biologického materiálu či polymerů... stála by pak proti lidem zas jen nějaká osůbka.

Kdo by to poznal?

Umělé mozky by také šly naprogramovat pozitivně a ne na zabíjení. Zasněme se o budoucnosti: Pokud by se vědcům podařilo - za mnoho a mnoho let, z genetického materiálu vytáhnout "vědomí" konkrétního i dávno zemřelého člověka a přenést ho do umělého mozku - to by bylo! Obnovený umělý Einstein by nám řekl, jestli zničil nějaké závažné a důležité výpočty a hned by začal psát... Leonardo da Vinci by se odebral do Louvru a zase a zas by štětečkem nanášel další a další vrstvičky na tvář Mony Lisy a třeba Puškin by sedl za stůl a znovu a znovu psal „Já píši vám - co mohu více? Co ještě mohu dodati? Teď vím, že máte právo sice mne pohrdáním trestati, leč ještě věřím, nešťastnice, že mne váš milosrdný soud nemůže přece zavrhnout..." za Taťánu Oněginovi. Měli by to v mozku předem naprogramované. Jenže vytvářeli by další originální díla v duchu svých matric?

No, to těžko, vždyť by to byla jen vnější podoba, i se srdcem v těle by to pořad byla umělá inteligence v bio-stroji. Kdo by to poznal?

Co bychom tímto výtvorem jako lidstvo získali? Kamarády? Otroky? Nepřátele? Velké problémy? Lidstvo, tedy hlavně Evropa, prý vymírá. Nebyla by tedy umělá inteligence pak tak za tři sta - pět set let jediná, kdo by svědčil, že někdy byla nějaká neumělá? Nebylo by tedy její vytvoření zajištěním nesmrtelnosti lidstva? Pokud by se mohla i reprodukovat.

Nebo nezíská lidstvo vytvořením umělého mozku prostě nic? Možná spíš opravdu velký problém. Ronald D. Moore - tvůrce seriálu Battlestar Galactica a jeho fanoušci ví o čem mluvím...

Zamiluje se?

Je zde ještě jedna otázka. A kdy by vlastně inteligentní stroj přestal být strojem? Pokud začne "myslet" a projde Turingovým testem? Až se začne sám obnovovat, opravovat a replikovat? Když si začne vytvářet svoji osobitou kulturu a mýty? Nebo v ten moment až pocítí nějakou emoci? Pokud ho třeba nějaká informace osobně raní nebo on sám zalže, zfalšuje data... něco šlohne... zamiluje se?

Ano, až se stroj zamiluje, stane se bytostí. Jenže, proč by dokonalý stroj dělal něco tak pošetilého? Z jakého popudu by si dobrovolně ubíral svůj drahocenný čas a věnoval ho lásky trampotám? Odpověď je jasná, protože by už nebyl stroj, ale živá myslící a cítící bytost.

Jak vše dopadne? Člověk nikdy neví... Počítače se budou neustále zmenšovat a zrychlovat, ale nějak nevěřím na Singularitu a vznik nadinteligence. Ale rozhodně se bude rozšiřovat lidská inteligence. Jak jsme na tom ve výzkumu interface člověk-stroj v současnosti?

O tom příště: On byl člověkem

stránka Vernora Vinge ZDE

Vytisknout