Je na čase stroj vypnout | E15.cz

Je na čase stroj vypnout

Je na čase stroj vypnout
Isaac Asimov: Roboti nemají lidem vládnout
• 
10. dubna 2013 • 10:26
Jak vypadá šestá generace informačních systémů? My, lidé, prosíme stroje o shovívavost. To porušuje zákony robotiky, ať již beletristické nebo reálné. Jednoduše řečeno, robotiku jsme projeli.

Isaac Asimov, tvůrce pravidel robotiky, by se v hrobě obrátil, kdyby viděl, do jakého područí strojů jsme se to dostali. Okamžik, kdy jsme mohli stroje regulovat, je totiž nenávratně pryč. Pro připomenutí, prvním pravidlem robotiky bylo: „Robot nesmí ublížit člověku nebo svou nečinností dopustit, aby bylo člověku ublíženo.“ Pravidlům dalším se už ani nemusíme věnovat. Chápu, že většina z vás si řekne počítač, internet, e-mail, vyhledávací systém, vymáhací systém, justiční systém, burza cenných papírů, bankovní zúčtovací systém, to všechno nejsou roboti. Ani jedna z uvedených institucí nemá přece nožičky ani nevypadá jako my. Realita je však taková, že my jsme si ty instituce stvořili sami, aby nám sloužily. Dnes však naopak již sloužíme my jim.

Kdo si ráno dovolí nekouknout na e-mail, nekliknout kartou na docházkový systém, kdo dokáže zcela ignorovat automaticky řízené semafory, kdo dokáže ignorovat vývoj měnových kurzů řízený stroji, ignorovat výši PRIBOR, EURIBOR stvořené robotem, výši státního dluhu kalkulovanou – jak jinak – opět strojem?

Argument, že to vytvořil člověk, je pravdivý. Pojďme se však podívat na proces tvorby systému. První generace informačního systému, či programu je motivována saturací lidské potřeby – ovládnu stroj, aby mi sloužil (MS DOS). Vyznačuje se výraznou jednoduchostí v ovládání i funkcionalitě. Druhá generace systému se již hýbe směrem ke spotřebiteli: jde o to, nabídnout multifunkční stroj, aby co nejvíc lidí mohlo z ovládnutí stroje čerpat výhody (WINDOWS). Jak se však systém výrazně zvětšuje, bytní a tím se zároveň komplikuje jeho ovládání, to znamená, že se stává pro spotřebitele náročným. Řešení nabízí třetí generace systému, která již definuje profil budoucího spotřebitele: takový systém již není pro všechny, nýbrž pouze pro ty, kteří splňují jeho kritéria (WINDOWS, WINDOWS SERVER, XBOX). Zjednodušeně řečeno, systém si přirozeně vybírá, kdo – a do jaké míry – ho bude ovládat.

Čtvrtá generace systémů si již vytvořila vlastní smysl v rámci stroje (skoro „komunikační nástroj – e-mail“ skoro „sociální síť“, skoro „vyhledávací systém“), kterému se člověk přizpůsobí již beze snahy, či jenom základního pochopení původního smyslu stroje, naopak si svůj smysl do systému vkládá. Jinak řečeno, komnunikace již probíhá ve zcela opačném duchu než v první generaci.

Co znamená e-mail?

Například e-mailová komunikace se snaží jevit jako plnohodnotná forma komunikace, jež beze zbytku nahrazuje písemnou formu. Na místě je však otázka: co skutečně taková elektronická pošta saturuje? Když jsme byli děti a psali jsme dopis, snažili jsme se abstrahovat pocity a dojmy, zachytit to důležité. Očekávali jsme napjatě odpověď, opět dopis. Čtenář cítil, co píšeme, vnímal hodnoty, které do něj vkládáme. E-mail zcela nesprávně saturuje neexistující potřebu komunikovat rychleji, ale nijak nesaturuje potřebu komunikovat kvalitněji a hlouběji. Jednoduše řečeno, zabíjí cit a napětí z komunikace. Podobný omyl samozřejmě najdeme bohužel ve všech informačních systémech.

My jsme si ty instituce stvořili sami, aby nám sloužily. Dnes však naopak již sloužíme my jim.

Pojďme dál. Pátá generace systémů již definuje lidské potřeby. To znamená, že na začátku nestojí člověk, ale stroj, jehož potřebám se přizpůsobuje člověk. Příkladem jsou datové schránky, Facebook nebo Google search. U datové schránky systém přišel na to, že není možné doručit takové množství elektronické agendy do listové schránky, proto vytvořil neomezenou schránku elektronickou – a na dlouhou dobu má vystaráno.

U Facebooku je situace jiná. Zdání „sociální sítě“ zde slouží jako nástroj budování jinak neexistujících vztahů s vesměs neznámými lidmi, se kterými sdílíme svoji jinak zcela vyprahlou komunikační přítomnost.

U Google search je situace opět jiná. Zdání nalezeného na první straně vytváří další zdání, že nic jiného ani důležitějšího není. Jako bychom přenechali Googlu důvěru v knihovnici, rodiče, babičku, kteří nás znají léta letoucí.

Všechny tyto iluze se již formují do šesté generace systémů, které začínají ovládat naší přítomnost a my je pouze rezignovaně přijímáme. V této šesté generaci systémů se již naše povinnosti, nikoliv potřeby, promítají do informačních systémů, jimž přenecháváme konečné lidské právo rozhodovat o našich životech.

Příkladem jsou sofistikované elektronické systémy nahrazující rozhodovací a kontrolní pravomoci jedněch lidí nad jinými lidmi. Soudní systém na vydávání elektronických platebních rozkazů nebo systém na vydávání elektronických správních rozhodnutí implementovaných VZP, Magistrátu Hl. m. Prahy apod. Porušení právní povinnosti již vyhodnocuje stroj a nechává na nás, abychom se bránili. Předpoklad porušení povinnosti se obrací. Teď my prokazujeme, že jsme přece nic neporušili, a prosíme stroj o shovívavost.

Filmový robot nakažený virem. V takovém stavu dokáže člověku ublížit.Filmový robot nakažený virem. V takovém stavu dokáže člověku ublížit.Autor:
Filmový robot nakažený virem. V takovém stavu dokáže člověku ublížit.

Uvedu příklad s reálným základem: VZP vymáhá úroky z prodlení za pozdní úhrady pojistného zcela automatizovaně prostřednictvím elektronických správních rozhodnutí doručovaných do datových schránek. Má na to právo. Přece jsme se zpozdili s placením pojistného. Nezaplatíme, neodvoláme se a systém vyhodnotí, že je potřeba podat elektronický návrh na exekuci. Exekutor již nezkoumá podklady ke správnímu rozhodnutí. Exekuční příkaz vyvěsí na elektronické úřední desce, což se považuje za řádné doručení. Následně v elektronické aukci provede exekuci na naši nemovitost. Toto je přítomnost. Toto je porušení prvního zákona robotiky. Je na čase tento stroj vypnout.

Vypadá to smutně, ale proč to píšu? Protože si myslím, že jsme projeli regulaci informačních systémů zcela zásadním způsobem. Je nutné vrátit téma informačních systémů do legislativy a zakázat jakékoliv informační systémy, které nahrazují rozhodovací a kontrolní pravomoc člověka rozhodovat o druhých lidech. Je absolutní nutností regulovat systémy nahrazující velké množství lidské práce tak, abychom nevytvořili pouze tupé údržbáře informačních systémů. Je třeba vzít život do vlastních rukou.

Autor: Mgr. Jozef Haládik je majitelem společnosti eKolektor a AK Haládik & Partners
 
>
Newsletter
Využijte služby
zasílání zpráv do vaší
e-mailové schránky!