Věk digitální negramotnosti

Co říká "selhání" umělé inteligence o stavu společnosti

21. 4. 2016 / Bohumil Kartous

Nedávno médii proběhla taková malá senzace. Microsoft vyvinul umělou inteligenci, dal jí jméno Tay (v urbánním slovníku dnešní angličtiny výraz pro neodolatelnou holku) a vypustil ji na Twitter, aby se naučila jazyk a uvažování tzv. millenials, konkrétně lidí mezi 18 a 24 rokem života. Během několika hodin se tato pokročilá umělá inteligence přizpůsobila diskursu: stala se z ní totální rasistka, která by volila Donalda Trumpa, mezi USA a Mexikem postavila zeď, věří konspirační teoriím a přitakává Hitlerovi. Po velmi krátké době Microsoft experiment zastavil.

Tento pokus má nesmírně důležitou výpovědní hodnotu. Nikoliv s ohledem na rozvoj umělé inteligence, ale s ohledem na stav společnosti vržené do digitálního světa, v němž platí naprosto odlišná pravidla uvažování a jednání. S trochou nadsázky totiž můžeme konstatovat, že tato společnost, která stále ještě většinově své základní způsoby myšlení vyvinula před samotným vznikem internetu a digitální dimenze, je sama o sobě v roli umělé inteligence učící se prostou nápodobou bez kritické reflexe dovednosti orientace v neomezené informační džungli. Tato společnost je sama o sobě Tay.

Nemám pro to pochopitelně oporu v empirii, ale zkusme si představit, že by se Tay učila diskursu na českém Facebooku. V jednotlivostech by se pochopitelně její rétorika lišila, principiálně by s velkou pravděpodobností získala velmi podobnou identitu. Nevolila by Trumpa, ale Zemana. Možná by více než Hitlera adorovala nějakou jinou zkázonosnou veličinu historie. nestavěla by zeď mezi USA a Mexikem, ale rozmisťovala domobranu na českých hranicích. Uprchlíci by byli jednoduše "muslí invaze", kterou je třeba zastavit a nejlépe vyhladit. Xenofobie, rasismus, konspirace a z toho vyplývající názory by byly velmi podobné, domnívám se.

Problém, na který experiment s chatbotem Tay poukazuje, odhaluje dalekosáhlé souvislosti. Na kurzu projektu Education Republic s názvem Komunikace ve veřejném prostoru, který vedu, jsme probírali problematiku hoaxu. Podle všeho velká část digitálně aktivní populace tento termín nezná. Což o to, není třeba znát termín, když umíme rozpoznat a ověřit, že jde o manipulaci. Jenže to je ještě složitější. Z diskuse vyplynulo, že spousta lidí, často formálně vzdělaných, je ochotna na svých facebookových profilech sdílet a podporovat různá "moudra" z vysoce pochybných zdrojů, aniž by pravděpodobně dostatečně reflektovali, koho tím vlastně podporují. Je to jednoduché. Stačí šířit sémanticky neutrální sdělení, které zdánlivě odkazuje k nějakému hlubokému poznání, a získávat tak v algoritmu Facebooku vyšší míru zobrazování v profilech lidí, kteří tak činí. Můžete přitom být nějakou neonacistickou nebo jinak obskurní bojůvkou, rázem se dostanete do zorného pole lidí, kteří o tom často nemají ani tušení.

Vedle toho samozřejmě stojí problém zcela explicitního vyjadřování tupých, nenávistných stereotypů, které mohou být dílem způsobeny frustrací, dílem strachem nebo nějakou jinou bazální emocí. Digitální projekce je vzhledem ke svému odosobnění v komunikaci skvělým projekčním plátnem podobných výlevů, které by ve fyzické komunikaci našly cestu ven jedině v uzavřené skupině souvěrců, nebo v psychologicky "bezpečném" prostředí davu.

Ti nejméně digitálně gramotní lidé jsou ochotni věřit čistě na základě pravidla littera scripta manet, co je psáno, to je dáno. Zejména lidé, kteří byli vrženi do digitálního světa, v němž nic není méně platné, ve vyšším věku, mají evidentně problém chápat skutečnost jinak. Ale jistě, každý dělá určité pokroky, i digitálně negramotní jakousi míru gramotnosti získávají. Velmi často takovou, že se naučí vyhledávat v digitálním chaosu takové zdroje, které slouží k racionalizaci jejich postojů a pohnutek. K racionalizaci, nikoliv k verifikaci. Nikdy nebylo jednodušší podlehnout demagogii jako nyní, v digitálním věku, jenž poskytuje nepřeberné množství všemožných pokusů o legitimizaci těch největších kravin, jaké si člověk ve 21. století dokáže jen těžko reálně představit.

Experiment s Tay je velmi dobrým důkazem o tom, co se stane s běžným smrtelníkem, který má nulovou schopnost reflektovat kontext skrývající se mimo výroky samotné. Člověka, který není schopen pochopit, jaká psychosociální dynamika se skrývá za projekcí sociálních sítí a internetu vůbec. Prokazatelné zahlcení tohoto prostoru pudovými výměšky, které nacházejí své intuitivní publikum, ukazuje na silnou míru negramotnosti, se kterou se nedá účinně příliš bojovat. Rozhodně ne okamžitě a rozhodně ne ve v každém jednotlivém případě.

S digitální negramotností se totiž pojí jedna velmi svízelná komplikace: nelze ji jednoduše dokázat. Analfabeta lze jednoduše postavit před fakt, že neumí číst nebo psát. Digitálně negramotného člověka před takový fakt postavit nelze, alespoň v jeho očích. Vždy najde pro něj dostatečně věrohodný zdroj, který jemu samotnému dokazuje, že negramotný není. Past digitální negramotnosti je prostě neuvěřitelně rozsáhlá a hluboká...

Vytisknout