Připomínají mi spolužáka na střední škole, který monitoru říkal televize, a když jsme dostali zadání na krátký program, co nakreslí kružnici, tvářil se velmi překvapeně, protože počítal s tím, že jen na klávesnici napíše „nakresli kružnici“, popřípadě se nakloní k televizi a důvěrně jí to pošeptá.

Zhruba stejný rozdíl je mezi realitou a většinovou představou dnes. Umělá inteligence stále potřebuje lidské vedení, kvalitní data a směr. Nicméně když toto všechno dostane, je pak rychlejší a výkonnější než člověk. Hlavní rozdíl je v tom, že v pár řádcích jsem programu definoval střed, poloměr, a když jsem chtěl být zajímavý, pak jsem to nechal ještě pípnout. Ale měl jsem plnou kontrolu nad zadáním, a když jsem udělal chybu, nefungovalo to.

Velký problém dnešní umělé inteligence je v tom, že dosáhne výsledku, ale my nevíme jak. A ani to neumíme vysvětlit. Víme, jaké byly vstupy, zadání a mantinely, ale jak umělá inteligence vymyslí řešení, to je čistě na ní.

Síla umělé inteligence

A teď si představte, že umělá inteligence není jen něco, co vymýšlí řešení nebo něco analyzuje, ale má zároveň výkonnou moc. Rozdíl si představte tak, že v dopravním dispečinku hlavního města Prahy sedí lidští operátoři a řídí dopravu přes digitální panely místo plechových značek. V prvním případě jim umělá inteligence radí, co by udělala, ale ponechává rozhodnutí na lidech.

V druhém případě převezme sama řízení. Začne upravovat maximální rychlost v různých částech Prahy, reagovat na zácpy, dopravní nehody a dynamicky přelévat dopravu. Stihne vše sledovat online a bude ďábelsky rychle reagovat a propočítávat predikce i na základě dlouhé řady historických dat. Bude v této roli lepší než člověk. Na druhou stranu, když někdo hackne její vstupy a podstrčí jí falešnou informaci o dvou tisících nehodách, pak umělá inteligence veškerou dopravu zastaví. Kdežto lidští operátoři by tomu neuvěřili.

Jeden problém, více řešení

Problém budoucí vyspělé všeobjímající umělé inteligence byl už dávno popsán v pohádkách o džinech. Člověk dostane do ruky džina, který dokáže cokoliv a je připraven plnit jeho přání. Člověk si přeje jednu věc za druhou a džin mu jeho přání plní, ale mu je plní tak nějak po svém a výsledku dosáhne vždycky jinak, než jak si člověk představoval.

Z toho vyplývá největší výzva – naučit se co nejlépe formulovat svá přání tak, aby jim umělá inteligence správně porozuměla a při výběru řešení našla jen ta, která nám budou vyhovovat. Protože si ale v lidské omezenosti nebudeme umět představit všechny možnosti, na které umělá inteligence přijde, nikdy v definování našich přání nebudeme dokonalí. A proto nám nezbude než umělou inteligenci naučit být člověkem, dát jí morálku, etiku, hodnotový systém, předat jí naši kulturu, aby si umělá inteligence všechno prozkoumala a sama si uměla správně definovat naše přání.

A zde narazíme na další velkou otázku – kdo jsme. Protože lidé jsou různí a dnes si mohou žít své různorodé životy, jak rozmanitě jenom chtějí. Jediná omezení jsou definovaná jen v zákonech, vše mimo ně je dovoleno. Nebezpečí budoucnosti tak spočívá v totalitě dobra nastolené dokonale uvědomělou umělou inteligencí, které předáme svět, ať se o něj stará, protože je v tom efektivnější než lidé.

Aby vedle opečovávaných věčných dětí umožnila jiným lidem postavit si v divočině srub, lopotit se na vlastním poli a žít bez internetu a televize. Protože v těchto samorostech lidstvo bude žít dál. Lidé, kteří se odevzdají blahobytu, nechají se obsluhovat humanoidními androidy a budou obklopeni vším, co si jen přejí, brzy přestanou být lidmi.