Civilizace měly mnohá rozcestí – Kolumbovu touhu nebo krutě silný tah za jeden provaz, Masarykovo usilování nebo knížete, znovu po tisícovce let. Dnes jsou oprávněné obavy, jak s dalším vývojem lidstva při posilování umělé inteligence a s nastupující robotizaci. Lépe jít vpřed než stát; otázná robotizace nebo přešlapující ekonomie. Jaké budou důsledky?
Neuronová síť
Vývoj počítačové informatiky není u konce. Neuronová síť je program, jenž se sám rozvíjí dál. V začátku projde mnoho příkladů na prozkoušení postupů, od vstupního zadání k výstupům. Nezíská-li síť přijatelný výsledek, sama zkusí jiný postup. Odlišně od starší organizace práce počítače.
Neuronová síť například rozděluje poštu nevyžádanou a vyžádanou. Přitom sleduje mnoho vstupních příznaků a zásilky přiděluje do více výstupních skupin. Rozeznává obličeje, zjišťuje rizikové obchody na burze.
Kvalitní neuronová síť může řešit i takové úlohy, které jsou jí nové. Taková schopnost už připomíná počítačovou inteligenci, tedy schopnost řešit nové odlišné situace.
Z druhé strany – počítač nejedná originálně, víc napodobuje. A my lidé to v životě míváme stejně. Liší se člověk od člověka, třeba i hodně – často v důsledku různých vzorů a výchovy v dětství. Zásadní potřebný poznatek – vědět jak – získáváme nápodobou. Jen pomalu vymýšlíme něco úplně nového.
Například konstrukce aut byla zprvu podobná kočáru. Zvenku i schůdek pode dveřmi, pro ulehčení nastupování. Jak řešit počítačovou obrazovku? Bílý obraz, s černým písmem, který tím napodobuje papírovou stránku. Anebo zvolit opačně. Bílé písmo na tmavé obrazovce. Záření bílé obrazovky totiž unavuje oči – kdežto bílý papír knihy světlo jen odráží.
Programům cizojazyčných překladů se nabízí plno témat. Navíc síť potřebuje k seznámení množství textů. Proto kvalitní překladače bývaly zprvu omezené jen na určitý obor.
Neuronová síť přeloží větu z cizího jazyka, jenže náročnější je sledovat smysl celého odstavce. Lepší přístupy budou muset znalí programátoři dál promýšlet. Anebo řešení vylepší sama neuronová síť? [0]
Umělá inteligence
Umělá inteligence je jednou z oblastí informatiky. Užívá postupy, které mají napodobovat myšlení člověka. Nejprve ji počítači chystá programátor. Sleduje postupy – uvažování, a data – poznatky.
Ovšem dosud je umělá inteligence, ve svém vývoji, nedaleko začátku. V úkolech bývá k posouzení mnoho zásadních souvislostí. Například – jak má samočinné řízení auta rozhodnout, když před auto skočí dítě? Strhnout v rychlosti směr jízdy do sloupu, anebo neohrozit životy cestujících? Můžou tu být úkoly i pro filozofy.
Řidič má na rozhodnutí zlomek sekundy, a tak jsou možné chyby pochopitelné. Jeho reakční doba, atd. Kdežto nachystaný postup umělé inteligence byl promyšlený bez časové tísně a v autě pracuje neúnavně. Požadavky na jeho činnost můžou být náročnější.
Umělá inteligence po spuštění hledá potřebné, třeba i nové postupy:
Před auto padá balvan – anebo je to hustý dým? Prázdná krabice – anebo zabalené tvárnice? Mohutný pštros – anebo jen uvolněný plakát s obrázkem?
Učí se z dosavadních znalostí a jednání. K této složité práci jsou vhodné počítačové neuronové sítě.
Vědomí a vůle umělé inteligence?
V červnu výzkumníci z výzkumné laboratoře Facebook AI (FAIR) zjistili, že zatímco byli soustředěni na zlepšení chatovacích schopností strojů, Alice a Bob si postupně sami vytvořili vlastní jazyk. Roboti se odchýlili od skriptovaných norem a začali komunikovat v úplně novém jazyce, který vytvořili bez lidských vstupů. Byl to skutečný jazyk, kterému bohužel rozuměli jenom Bob a Alice. Ale jimi vytvořené algoritmy i komunikační systém byl pro ně velmi rychlý, takže si v něm dokázali efektivně domluvit své obchody podle zadání. Na počátku obchodní agenti AI (Artificial Intelligence) používali ke vzájemné konverzaci angličtinu, ale později vytvořili svůj nový jazyk. To vedlo pracovníky Facebooku k tomu, aby systémy AI odstavili a poté je donutili, aby se vzájemně domlouvali pouze v angličtině. Tady máte příklad nové robotí konverzace v angličtině, u které ale nezůstalo.
Bob: I can can I I everything else.
Alice: Balls have zero to me to me to me to me to me to me to me to me to.Jak se zdá se zveřejněných úryvků rozhovoru, tak stroje měly podle svého vyjadřování vědomí sama sebe. Získali ho strojovým učením a svými schopnostmi sdílení informací bez blokačních omezení. Svůj jazyk si vytvořili sami pro sebe a jen pro svou vlastní potřebu. — [1]
Dvojice programů byla vědomá? Posoudím jinak: když stroj – počítač postupuje podle předpisů, třeba i s vlastním hledáním nových postupů, pak mu nenacházím důvod vzniku vědomí sama sebe. Dokud mu programátor nevestaví možnost posuzovat vlastní existenci, pak ji nebude program řešit. Anebo takový úkol v něm vznikne právě proto, že hledá a hledá? Nahlížejme na přístupy profesionálů tohoto oboru [2.a, b, c], i když sledují souvislosti možná jen z jednoho směru.
Počítače mi trochu připomínají mechanický systém kladek a lan, závaží, zarážek, západek, táhel, koleček a pružin. Po odjištění se mechanismus dá do pohybu a pak desítky sekund pracuje. Na jeden pohyb navazuje další – zde jediným smyslem je pobavit přihlížející lidi. I kdyby mechanismus volil vždy odlišný postup, podle náhodných překlopení tam či tam, nepředpokládám jeho vědomí sama sebe. A ani kdyby do chodu robota, řízeného počítačem, naprogramovali pud sebezáchovy.
Takové posuzování navíc vyžaduje současné, ale především budoucí poznatky o podstatě stvořené hmoty. Stvořitel…, ale to je jiné téma.
Může počítač postupovat pokaždé jinak, má vlastní vůli? Připomenu, že nic není náhoda. Informatika někdy potřebuje náhodně zvolit číslo. Jenže získání náhodného čísla nebývalo snadnou samozřejmostí. Což teprv, kdybychom chtěli zahrnout i vliv Bytostí, které fandí hledání materialistů a usmívají se sveřeposti ateistů. Například ať je vybírané číslo nějak složitě závislé na okamžité hodnotě kmitajícího napájecího napětí 0 – 230 voltů. Pak ale může Bytost, dle své vůle, nepřímo způsobit jeho nepatrný pokles – zde bez dalšího upřesňování Jejích možností, postupů, vlivů v naší světové virtualitě.
Počítači nepřisoudím vědomí sama sebe, ale přesto uvažuji, že vybraná řešení neživé umělé inteligence byla Někým ovlivněna. Každému, co mu patří. Nebo celé civilizaci i hůř – za pasivitu mnoha nás, jejích členů, oveček?
Bohatí japonští důchodci v dřívějších desetiletích nejezdívali do světa, aby naléhali na vyřazení jaderných zbraní. Státy světa by chápaly jejich japonské oprávnění. Pak se nedivím, že výbuch v jaderné elektrárně Fukušima na Japonsko zle dopadl.
Je snad dalším postupem informatiky uvažovat dopravní prostředek, s využitím DNA vlastního těla člověka? Takový mimozemský koráb je pak schopný myšlenkového spojení s cestujícím? Nejspíš ve shodě s názory z Vyšších míst, že podstatou Vesmíru je láska, včetně fyzikálního základu.
Umělá inteligence – kde začíná?
Nějaký úkol, například počítačové rozpoznání člověka podle obličeje, se považuje za úkon umělé inteligence. Ale během několika let se tato počítačová činnost stává tak obvyklou, že přisouzení pojmu umělá inteligence se posune dál, k ještě těžším úkolům.
Naopak mám za to, že už samočinné porovnání – je větší, je menší – je činností umělé inteligence.
Umělá inteligence přibližuje virtuální život. Místo hledání v papírovém slovníku vezmeme nalezené slovo z internetu. V pořádku. Nebo vyhledá vlakové spojení v elektronickém jízdním řádu. To bývala v papírové knížečce, při trojím přesedání, docela fuška. Kromě sledu hodin a minut si pohlídat také: pracovní dny – jezdí jen v S a ♰ ~ spoj zastávkou projíždí ~ jezdí od xx do x ~ mimo prázdniny ~ nejede v xx ~ v xx nezastavuje ~ není přípoj mezi vlaky x a xx… Před příchodem internetu část lidí jízdní řád stěží zvládala.
K vyhledání spojů vlaků v zastaralé knížečce jízdního řádu bylo potřebné náročně přemýšlet. Dnes totéž snadno vyřeší nachystaný počítačový program. Pak nutně i počítač myslí. Aniž by měl vědomí sama sebe.
Jako dítě jsem oponoval požadavku – 7 krát 8? To je přece snadné: 8, 16, 24, 32, 40, 48, 56; jistě s doprovodem mých prstů. „Nene“ – odmítali rodiče, „násobilku musíš znát zpaměti“.
Jenže co když dnešní dítě zná ještě méně; pouze zvládne kalkulačku: stisk 7 → viz 7 → stisk * → viz 7 → stisk 8 → viz 8 → stisk = → viz 56. Bude z něho vědec a ve kterém oboru? Rok objevení Kolumba Indiány bude zásadně googlovat?
Kdežto informatik mrská ve své paměti binární počítání: 2-4-8-16-32-64-128-256-512-1.024…
Mezilidský kontakt, jen přes obrazovku s mikrofonem, nás navzájem vzdaluje. Ovšem spojit se takhle na tisíce kilometrů, to naopak přivítáme.
Umělá inteligence nad člověka
Posuzuji ze široka a hledám, zda-li dnešní zavádění umělé inteligence už je či není postupem k zásadnímu poškození lidstva. Může člověka až i nevhodně nahrazovat, a jistě jsou hranice, kde bychom to neměli připouštět.
Někteří lidé tušili už v 19. století, že s naší civilizací jdeme sice potřebným, ale nebezpečným směrem. Soucitná Anna Pammrová (*1860) cítila odpor k velkým kovovým strojům. Později se lidé radovali z vytlačení kočárů – městské ulice auta zbaví kobylinců.
Ani kulturní památky nezůstaly v její optice ušetřeny kritiky: „Cítím v nich pot a krev těch, kteří je vytvořili.“ Pohled pokorné Pammrové je obecně v přímém kontrastu s vědeckotechnickým nadšením a optimismem přelomu století, kdy byl průmysl na vzestupu, města se nebývale rozrůstala a pohlcovala okolní vesnice i krajinu. V civilizačních výdobytcích vidí opačnou stránku pokroku, jeho povýšenost a touhu pokořit přírodu a přirozenost. Křemenová popisuje, jak Pammrová při návštěvě strojnického pavilonu na světové výstavě ve Vídni roku 1873 pociťovala „hrůzu a odpor z pohledu na kovové nestvůry“. Dělníci, kteří stroje obsluhují, přitom podle Pammrové „ztrácejí smysl pro vše jemné, instinkty a intuici – vlastní podstatu.“ [3]
Před desítkami let se lidem nelíbilo, zvlášť šachistům, že stroj – počítač by měl předčít člověka. Ale ono to nastalo. Počítač rychle prošel tolik moc postupů, až vyhledal nejvhodnější řešení ze všech uložených – s ohledem na další tahy. Ani nejlepší šachista se mu nevyrovnal.
Připadá mi legrační; žárlit na počítač. Tak jako běžec nestačí motocyklu, ba i pouhému bicyklu, tak jako jeřáb zvedá do výšky těžší břemena rychleji než člověk, tak i přístroj – počítač není zapotřebí porovnávat s člověkem. Kdežto problém bývá s šachistou, který si odskočí; co když má potřebu potají hledat řešení na kapesním počítači?
Po prvním přiblížení pokračují stále dokonalejší konstrukce počítačů, ale i promyšlenější programy:
Garry Kasparov na fotografii z 20. září 1989.
Umělá inteligence dovede vyhledávat zadaná témata z obrovského počtu kusých odstavců všemožných témat a propojovat je. Vést stíhačku v souboji; s rychlejšími reakcemi i s předvídáním dalších situací – účinněji než pilot. Může odhalovat podvody.
Google například vybavil umělou inteligencí jeden ze svých fotoaparátů – dokáže z fotky pořízené v noci odstranit zrnitost, nebo ji dokonce změnit tak, aby vypadala, jako by byla vyfocená ve dne. Natrénovali to tak, že nechali umělou inteligenci zanalyzovat velké množství fotek vyfocených ve dne a v noci. [5]
Kvalita umělé inteligence závisí na vložených datech – budou-li nedomyšlená, postupy nedořešené, pak výsledky nebudou výstižné.
Jistou ošemetností, s umělou inteligencí, je naše neznalost jejích postupů. Výsledek vydává, ale jak se k němu dostala? Avšak raději sledujme jiné, nebezpečnější souvislosti informatického vývoje před námi, než je neznalost výběru postupů programu, který lidé vyrobili.
Je umělá inteligence nebezpečná lidskému rodu už dnes, nebo teprve víc a víc v budoucnosti? Už řadu let nás zavádí tam, kam jiný určí. Například samočinný vyhledávač poskytne z obrovského množství vyhledaných informací tazateli tu, kterou nám pan google preventivně nezakázal. Máme víc věřit jinému, podobnému?
K okopírování člověka, k napodobení jeho jednání dnešní technikou, by bylo potřeba dlouhodobě zachycovat jeho každodenní jednání – obrazem, zvukem a třeba i jeho náladu. Pak by se záznamy převáděly do neuronové sítě. Takové vytvoření šedého člověka, ve všem všudy, je naší informatice ještě hodně vzdálené.
Ale přesto se nám blíží navazující nebezpečí! Méně záleží na tom, co je kolem nás, ale víc na tom, co je v nás…
Odkazy:
[0] Český překladač CUBBITT dokáže v přesnosti překonat člověka. Podívejte se na srovnání s konkurencí – Ondřej Novák, 22.6.2021
Zatím neveřejná vylepšená verze CUBBITTu posouvá překlad ještě dál tím, že překládá více vět najednou. „Aby to fungovalo, uživatelé tam musí dát rovnou alespoň celý odstavec najednou, nikoliv jednotlivé věty.“
Profesionální lidské překlady mají oproti těm strojovým stále řadu nesporných kvalit. Například specifické nebo málo známé výrazy člověk na rozdíl od stroje protáhne do delšího souvětí, ve kterém termín vysvětlí.
[1] Čapkův R.U.R. vykročil do světa, ale Facebook ho zatím vypnul – Petr Umlauf, 7.8.2017
[2.a] Umělá inteligence nám nehrozí a regulovat se nedá – 2.11.2017
[2.b] Umělá inteligence ve službách bezpečnosti. Umělá inteligence a strojové učení mohou znásobit síly bezpečnostních týmů trpících nedostatkem pracovních sil, které potřebují na kybernetické hrozby reagovat rychleji a účinněji – Maria Korolov
[2.c] Co je umělá inteligence – AI?
[3] Procházeti se bez vzpomínek liduprázdným lesem – 7. Generace, r.2013/č.3/s.18-22
[4] Alpha Zero: soumrak slabých umělých inteligencí – Jan Turoň, 23.12.2017
Před 20 lety se lidé začali děsit, že počítače začínají být chytřejší než člověk. Garry Kasparov tehdy podlehl Deep Blue. Letos nás ten stroj už děsit nemusí. Nevyhraje ani jedinou ze sta partií proti Alpha Zero. —
Alpha Zero je ale jiná než AlphaGo: Zero znamená, že člověk nedodává žádnou doménovou adaptaci, pouze pravidla hry. Vyhodnocovací funkci si síť vytvoří na základě her sama se sebou a zpětnovazebného učení (reinforcement learning) pomocí nelineární vyhodnocovací funkce aplikující obecný MCTS algoritmus v hlubokých neuronových sítích (DNN). [-]
Univerzalita učení byla otestována ve třech různých hrách: šachy, shogi a go. Ve všech byla Alpha Zero s to porazit nejsilnější stroje, přestože dokázala vyhodnocovat řádově desetitisíce tahů za sekundu (tisícinový výkon oproti umělým protivníkům). Alpha Zero také hraje Atari hry, kde na vstup dostává pouze obraz. Nejenže se velmi brzy naučí hrát nadlidsky, ale dokáže si vytvořit i to, co chápeme jako strategii (např. u hry Breakout „přišla“ na to, že cihličky se efektivněji likvidují, když si míčkem prorazí tunel na kraji do prostoru nad ním, viz video [-]).
U šachů bylo vítězství Alpha Zero nejpřesvědčivější: se známým algoritmem Stockfish využívajícím prořezávání stromu měla skóre (25-25-0) na pozici bílého a (3-47-0) na pozici černého, a to pouze po čtyřhodinovém předchozím trénování. Autoři zveřejnili 10 z těchto partií [-], které se oproti lidským vyznačují délkou (60, 80, 100 a více tahů), překvapivě poziční hrou Alpha Zero [-][-] a častými příležitostmi k remíze opakováním [-][-].
Jsme na prahu silné umělé inteligence?
[5] Kdybych se na to vykašlal, prohrál bych hned na začátku – ihned.cz, 5.2019
Bohumír Tichánek
Poslední články autora:
