Ať se výrobci robotů inspirují v letectví a zavedou etické černé skříňky, nabádají vědci | E15.cz

Ať se výrobci robotů inspirují v letectví a zavedou etické černé skříňky, nabádají vědci

22. července 2017 • 19:02

Stejně jako každé letadlo nahrává letová data do černé skříňky, tak by měl i každý robot vybavený umělou inteligencí běžně zaznamenávat „myšlenky“, na jejichž základě učinil rozhodnutí. Takzvané etické černé skříňky by měly jednak pomoci při vyšetřování nehod, zároveň by měly usnadňovat komunikaci robotů s jejich uživateli.

Roboti zasahují do veřejného prostoru stále častěji, ovlivňují životy lidí a mají potenciál být pro člověka nebezpečím. Proto je podle vědců zapotřebí zavést taková bezpečnostní opatření, která po případném incidentu pomohu rozklíčovat, co robot vlastně udělal a na základě jakých dat se k tomu rozhodl.

I na takovém závěru se shodli vědci na v pořadí osmnácté konferenci o autonomních robotických systémech na University of Surrey. „Doufáme, že budou incidenty jen raritou, nevyhnutelně ale musí přijít,“ prohlásil Alan Winfield, profesor etiky v robotice z University of the West of England.

„Vážné nehody se budou muset vyšetřit, ale co se bude dít, až zjistíme, že nemáme žádná interní data, žádný záznam o tom, co robot v čase incidentu dělal? Bude více či méně nemožné říci, co se stalo,“ vysvětluje Winfield.

Lidský mozek dokáže vytvářet až jedenáctirozměrné struktury

Proto vědci navrhují, aby etické černé skříňky zaznamenávaly například pohyby, informace z kamery, mikrofonu a dálkoměru, robotem učiněná rozhodnutí a důvody k nim vedoucí.

Etické černé skříňky by měly být do robotů instalovány se stejnou samozřejmostí, s jakou jsme na ně zvyklí v letadlech, kde navíc pomáhá i zvukový záznamník, míní autoři návrhu.

„Komerční letadla jsou bezpečná ne díky kvalitnímu designu, ale díky přísným bezpečnostním procedurám a robustním, veřejnosti přístupným vyšetřovacím procesům v případě nehody,“ stojí v prohlášení vědců.

V rozhovoru pro E15 řekl Vladimír Mařík, ředitel Českého institutu informatiky, robotiky a kybernetiky, že stupeň inteligence robotů by měl odpovídat míře zabezpečení autonomního systému.

„Když budeme mít velmi vyspělého robota bez dostatečně inteligentních zábran, tak je pro nás nebezpečný. Vedlo by to k tomu, že by se nám stroje vymkly z kontroly. Zabezpečení budou velmi drahá, proto je musí nařizovat zákon,“ myslí si.

Mařík: Pozor lidstvo, abys s inteligentními roboty nezašlo příliš daleko

„Budeme-li trochu fantazírovat a zamyslíme se nad roboty s vlastním vědomím, kteří by si uvědomovali i své mechanické kamarády, tak ti by si začali říkat – my jsme něco jiného, možná něco víc – nikdo z lidí tohle dvousetkilové závaží neuzvedne. Tady mohou nastat jisté tlaky, stroje by se mohly samy odborově organizovat a jít do stávky,“ dodává.

Etické černé skříňky by však nesloužily jen vyšetřovatelům nehod. Roboti, kteří jsou konstruovaní například jako asistenti seniorům, by mohli jednoduchou řečí vysvětlit svým postarším uživatelům, jaká rozhodnutí činí a proč. Senioři by se tak mohli v soužití s technologiemi cítit lépe.

Podívejte se na představení nejrůznějších robotů na CeBit 2017:

1080p 720p 480p 360p 240p
CeBit 2017

Autor: lie
 
>
Newsletter
Využijte služby
zasílání zpráv do vaší
e-mailové schránky!