Nejpozději ode dne, kdy si široká veřejnost povšimla existence počítačů, se objevují obavy (případně naděje), že počítače budou ovládat a organizovat životy lidí. Nepomohly filmy (např. „Jáchyme, hoď ho do stroje“, „Hodíme se k sobě, miláčku?“) které naznačily pošetilost takových představ. Později se počítačové „služby“ (jakož i počítačové hrozby) zjemňovaly a nejspíš bylo nad lidské síly o všech těch údajných hrozbách natáčet komedie. Nejznámější asi bylo virové ohrožení. Pak přišla umělá inteligence. A dnes jsou to chatboti na sociálních sítích a nejnovější bubák MADCOM. Pokrokářský portál rvp.cz samozřejmě nezůstává pozadu a propaguje tyto hrozby textem technovtipálka Matta Chessena „Machines will soon program people“. Aby si dodal zdání seriózní vědy, Chessen nabízí odkaz na seriózní článek „Will Democracy Survive Big Data and Artificial Intelligence?“ v nepochybně seriózním časopise Scientific American. A aby využil získanou publicitu, komik Chessen nabízí odkaz na svůj delší text žánru technobabble s názvem „Artificial intelligence chatbots will overwhelm human speech online; the rise of MADCOMs“.
Scifisté vědí, že některá scifistická díla využívají takový jeden charakteristický postup. Do řady nesporných logických kroků se skryje (nejméně) jeden, který logický není. Který ale posune situaci do ryze fantazijní roviny, o které se nezkušený čtenář může domnívat, že je logickým vyústěním reality. Nebo aspoň scifistické „reality“. Pokusme se nalézt toto „non sequitur“ v Chessenově textu.
Strojové komunikační prostředky jsou už dnes realitou. (Klidně.) Prostředky vybavené umělou inteligencí budou brzy dominovat online informačnímu prostoru. (Visí to na významu slova „dominovat“, ale bude hůř. Pojďme dál.) Pokroky umělé inteligence radikálně zvýší efektivitu strojových komunikačních prostředků. („Radikálně zvýší“ z nula-nula-nic až kam?) Chatboti zahltí online prostor. (To jistě. Ale proti tomu se nalezne obrana.) Budou konstruovány strojové prostředky s cílem přesvědčovat, prodávat, klamat, zastrašovat, rušit, bavit, obhajovat, informovat, desinformovat a manipulovat. (Nepochybně ano. Ale schválně volím nedokonavé „konstruovány“ a nikoli dokonavé „zkonstruovány“. V některých případech totiž nikdo neví, jak by se něco takového zkonstruovalo.) Tyto stroje se budou snažit přesvědčovat, prodávat, klamat, zastrašovat, rušit, bavit, obhajovat, informovat, desinformovat a manipulovat. (Nepochybně ano. A co má být?) Budou (jako ty stroje) neuvěřitelně účinné. (TADY je ta logická mezera. Stroje budou leda neuvěřitelně neúčinné.)
Proč? Důvodů pro neúčinnost strojových manipulací je několik. Pikantně, desítky takových důvodů, včetně toho nejsilnějšího, uvádí právě Chessenem odkazovaný článek v časopise Scientific American. Důvod zní takto: „attempts to control opinions (…) are doomed to fail because of the complexity of the problem“. Jinými slovy, nebude to fungovat, protože nikdo neví, jak to zařídit.
Přidám také jeden takový důvod: Jak se budou stroje učit, jak budou zvyšovat svoji účinnost? Porovnáním svých manipulativních akcí a dosažených účinků. Budou-li účinky žádoucí, pak jsou použité manipulativní akce ty správné. Jenže stroje jsou odkázány na veřejné informace. A ty nejdůležitější účinky (nákup zboží, chování voliče) se mezi veřejné informace nedostanou. Pokud se člověk-kupec a člověk-volič nebude chovat nerozumně.
Pěkná logická díra obklopuje také Chessenovu představu, že stroje budou upravovat lidskou DNA a přepisovat lidský genom. Nechci to zde a nyní rozebírat – jenom nechci, aby některého čtenáře napadlo, že jsem to třeba přehlédnul nebo že s tím dokonce souhlasím.
Zjistí-li lidé, že o nich obchodní a státní instituce strojově shromažďují údaje, aby jim posléze podle těchto údajů například zdražovaly nebo odepíraly úvěry, případně aby je policejně šikanovaly, jistě upraví svoje chování. Navzdory tomu, co jim radí ve škole, budou vytvářet digitální stopu co možná nejnečitelnější a mlhavější. Budou zadávat klamné vyhledávací operace, budou vystupovat pod falešnými identitami a budou si se spřátelenými lidmi (v osobním kontaktu) předávat strojově nečitelná rozpoznávací znamení. Možná si dokonce pořídí své vlastní boty, které budou mazat jejich digitální stopy, online „jako“ sledovat filmy, „jako“ číst články a „jako“ se pídit po zboží, o které dotyční lidé nemají nejmenší zájem. Budou v tom neuvěřitelně účinné.
