Umělá inteligence & právo

Umělá inteligence & právo

Linda Kolaříková, Filip Horák

Vzor citace:

KOLAŘÍKOVÁ, L., HORÁK, F. Umělá inteligence & právo. Praha: Wolters Kluwer ČR, 2020, s. 216.

© JUDr. Linda Kolaříková, Mgr. Filip Horák, 2020

Právní stav publikace je ke dni 10. března 2020

ISBN 978-80-7598-783-9 (brož.)

ISBN 978-80-7598-784-6 (e-pub)

ISBN 978-80-7598-785-3 (mobi)

www.wolterskluwer.cz

O autorech

Linda Kolaříková

Advokátka, absolventka Právnické fakulty Univerzity Karlovy a Univerzity v dánském Aarhusu. Ve své praxi se zaměřuje především na nové technologie, poskytování finančních služeb a ochranu spotřebitele. Věnuje se taktéž rozsáhlým projektům týkajících se implementace nové legislativy do procesů a dokumentace obchodních společností a finančních institucí a taktéž jejich compliance. Její práce „Odpovědnost (za) robota aneb právo umělé inteligence“ zvítězila v kategorii Talent roku 2017 vyhlašované v rámci soutěže Právník roku.

Filip Horák

Advokát, absolvent Právnické fakulty Masarykovy univerzity a doktorand na Právnické fakultě Univerzity Karlovy. Specializuje se zejména na oblast finančního práva a práva informačních technologií. Věnuje se právním otázkám vznikajícím v důsledku spojování regulace a technologického rozvoje, v praxi tak asistuje klientům se všemi aspekty ochrany osobních údajů nebo duševního vlastnictví, má za sebou (a snad i před sebou) řadu unikátních projektů v oblasti bankovnictví, pojišťovnictví i kapitálového trhu.

Seznam zkratek použitých předpisů^1

antidiskriminační zákon

zákon č. 198/2009 Sb., o rovném zacházení a o právních prostředcích ochrany před diskriminací a o změně některých zákonů (antidiskriminační zákon)

autorský zákon

zákon č. 121/2000 Sb., o právu autorském, o právech souvisejících s právem autorským a o změně některých zákonů (autorský zákon)

Bernská úmluva

Vyhláška č. 133/1980 Sb., vyhláška ministra zahraničních věcí o Bernské úmluvě o ochraně literárních a uměleckých děl ze dne 9. září 1889, doplněné v Paříži dne 4. května 1896, revidované v Berlíně dne 13. listopadu 1908, doplněné v Bernu dne 20. března 1914 a revidované v Římě dne 2. června 1928, v Bruselu dne 26. června 1948, ve Stockholmu dne 14. července 1967 a v Paříži dne 24. července 1971

CLOUD Act

H. R. 4943 – CLOUD Act, Claryfying Lawful Overseas Use of Data Act

EÚOLP

Evropská úmluva o ochraně lidských práv a základních svobod z roku 1950, ČSR ratifikována 18. března 1992 a publikována pod č. 209/1992 Sb.

Evropská patentová úmluva / Úmluva o udělování evropských patentů

Úmluva o udělování evropských patentů revidovaná aktem revidujícím článek 63 EPÚ ze 17. prosince 1991 a Revizním aktem EPÚ z 29. listopadu 2000

Evropská směrnice č. 95/46/ES o ochraně fyzických osob v souvislosti se zpracováním osobních údajů a o volném pohybu těchto údajů

Směrnice Evropského parlamentu a Rady 95/46/ES ze dne 24. října 1995 o ochraně fyzických osob v souvislosti se zpracováním osobních údajů a o volném pohybu těchto údajů

GDPR

Nařízení Evropského parlamentu a Rady (EU) č. 2016/679 ze dne 27. dubna 2016 o ochraně fyzických osob v souvislosti se zpracováním osobních údajů a o volném pohybu těchto údajů a o zrušení směrnice 95/46/ES (obecné nařízení o ochraně osobních údajů)

Listina

usnesení č. 2/1993 Sb., o vyhlášení Listiny základních práv a svobod jako součásti ústavního pořádku České republiky

Listina základních práv EU

Listina základních práv Evropské unie 2012/C 326/02

Mezinárodní pakt o hospodářských, sociálních a kulturních právech

Mezinárodní pakt o hospodářských, sociálních a kulturních právech, New York, 19. prosince 1966, vyhláška č. 120/1976 Sb., vyhláška ministra zahraničních věcí o Mezinárodním paktu o občanských a politických právech a Mezinárodním paktu o hospodářských, sociálních a kulturních právech

Mezinárodní pakt o občanských a politických právech

Mezinárodní pakt o občanských a politických právech, New York, 19. prosince 1966, vyhláška č. 120/1976 Sb., vyhláška ministra zahraničních věcí o Mezinárodním paktu o občanských a politických právech a Mezinárodním paktu o hospodářských, sociálních a kulturních právech

Nařízení ePrivacy

Návrh Nařízení Evropského parlamentu a Rady o respektování soukromého života a ochraně osobních údajů v elektronických komunikacích a o zrušení směrnice 2002/58/ES (nařízení o soukromí a elektronických komunikacích)

NetzDG

Gesetz zur Verbesserung der Rechtsdurchsetzung in sozialen Netzwerken, Netzwerkdurchsetzungsgesetz vom 1. September 2017 (BGBI I S. 3352), [německý zákon ke zlepšení prosazování práva v prostředí sociálních sítí]

Novela StVG

novela německého zákona o pozemních komunikacích [Das Straßenverkehrsgesetz (StVG)], ze dne 16. června 2017

obč. zák. / občanský zákoník

zákon č. 89/2012 Sb., občanský zákoník

Směrnice ePrivacy

Směrnice Evropského parlamentu a Rady 2002/58/ES ze dne 12. července 2002 o zpracování osobních údajů a ochraně soukromí v odvětví elektronických komunikací (Směrnice o soukromí a elektronických komunikacích)

Směrnice o odpovědnosti za vadné výrobky

Směrnice Rady 85/374/EHS ze dne 25. července 1985 o sbližování právních a správních předpisů členských států týkajících se odpovědnosti za vadné výrobky

Směrnice 95

Směrnice Evropského parlamentu a Rady 95/46/ES ze dne 24. října 1995 o ochraně fyzických osob v souvislosti se zpracováním osobních údajů o volném pohybu těchto údajů

Smlouva o EU

Smlouva o Evropské unii – Maastrichtská smlouva ze dne 7. února 1992

Smlouva o fungování EU

Konsolidované znění Smlouvy o Evropské unii a Smlouvy o fungování Evropské unie 2012/C 326/01

trestní řád

zákon č. 141/1961 Sb., o trestním řízení soudním (trestní řád)

tr. zákoník / trestní zákoník

zákon č. 40/2009 Sb., trestní zákoník

UETA / Uniform Electronic Transactions Act (1999)

Uniform Electronic Transactions Act (Americký zákon z roku 1999)

Ústava

Ústavní zákon č. 1/1993 Sb.

Všeobecná deklarace lidských práv

Všeobecná deklarace lidských práv (Valné shromáždění Organizace spojených národů) ze dne 10. prosince 1948

zák. č. 40/1964 Sb. / zákon č. 40/1964 Sb.

zákon č. 40/1964 Sb., občanský zákoník

zák. o AML / zákon o AML

zákon č. 253/2008 Sb., o některých opatřeních proti legalizaci výnosů z trestné činnosti a financování terorismu

zák. o kybernetické bezpečnosti / zákon o kybernetické bezpečnosti

zákon č. 181/2014 Sb., o kybernetické bezpečnosti a o změně souvisejících zákonů

zák. o ochraně os. údajů / zákon o ochraně osobních údajů

zákon č. 101/2000 Sb., o ochraně osobních údajů a o změně některých zákonů

zákon o ochraně osobních údajů / Assembly Bill No. 375

Assembly Bill No. 375 CHAPTER 55, An act to add Title 1.81.5 (commencing with Section 1798.100) to Part 4 of Division 3 of the Civil Code, relating to privacy (kalifornský zákon o ochraně osobních údajů)

zák. o ochraně spotřebitele / zákon o ochraně spotřebitele

zákon č. 634/1992 Sb., o ochraně spotřebitele

zák. o silničním provozu / zákon o silničním provozu

zákon č. 361/2000 Sb., o provozu na pozemních komunikacích a o změnách některých zákonů

zák. o zpracování os. údajů / zákon o zpracování osobních údajů

zákon č. 110/2019 Sb., o zpracování osobních údajů

zák. práce / zákoník práce

zákon č. 262/2006 Sb., zákoník práce

zákon řešící odpovědnost a pojištění autonomních vozidel

Vehicle Technology and Aviation Bill 2016-17

zákon umožňující komerční využití určitých typů menších vozidel

kalifornský zákon California Vehicle Code (CVC) novelizovaný dne 16. prosince 2019

ZNSIS

zákon č. 480/2004 Sb., o některých službách informační společnosti

Seznam zkratek

AD

autonomní doprava

AI

umělá inteligence (Artificial Intelligence)

AML

opatření proti praní špinavých peněz (Anti money laundering)

AV

autonomní vozidlo (Autonomous vehicle)

AV ČR

Akademie věd České republiky

BEUC

Evropská organizace spotřebitelů (European Consumer Organisation)

COMPAS

AI systém používaný justicí USA (Correctional Offender Management Profiling for Alternative Sanctions)

CoNE in AI

Cost of non-europe in robotics and artificial intelligence, liability, insurance and risk management, European Parliamentary Research service, červen 2019

ČNB

Česká národní banka

ČR

Česká republika

ČSSD

Česká strana sociálně demokratická

ČVUT

České vysoké učení technické v Praze

Doporučení Evropského parlamentu k pravidlům robotiky

Usnesení Evropského parlamentu ze dne 16. února 2017 obsahující doporučení Komisi o občanskoprávních pravidlech pro robotiku [2015/2103(INL)]; Report with recommendations to the Commission on Civil Law Rules on Robotics [2015/2103(INL)]

DPIA

posouzení vlivu na ochranu osobních údajů (Data Privacy Impact Assessment)

DPO

pověřenec pro ochranu osobních údajů (Data protection officer)

EAVA on AV

A common EU approach to liability rules and insurance for connected and autonomous vehicles, European Added Value Assessment ze dne 28. února 2018

EBA

Evropský orgán pro bankovnictví (European Banking Authority)

EDPB

Evropský sbor pro ochranu osobních údajů (European Data Protection Board)

EIOPA

European Insurance and Occupational Pensions Authority

ESLP

Evropský soud pro lidská práva

ESMA

European Securities and Markets Authority

Etická pravidla pro AD

Ethics Commission automated and Connected Driving (Report), červen 2017

EU

Evropská unie

GmbH

německá obdoba společnosti s ručením omezeným (Gesellschaft mit beschränkter Haftung)

GOFAI

„stará dobrá umělá inteligence“ (Good Old Fashioned AI)

IA

inteligentní automatizace

ICO

Information Commissioner UK, dozorový úřad pro ochranu osobních údajů ve Spojeném království

IoT

Internet věcí (Internet of Things)

ISO

Mezinárodní organizace pro normalizaci (International Organization for Standardization)

ISP

Informační společnost

IT

informační technologie

JURI

výbor Evropského parlamentu pro právní záležitosti

LLC

Americká obdoba společnosti s ručením omezeným (Limited liability company)

MIT

Massachusettský Technologický Institut

ML

strojové učení (Machine learning)

MUNI

Masarykova univerzita

NDA

dohoda o mlčenlivosti (Non-disclosure agreement)

NSS

Nejvyšší správní soud ČR

NTSB

Americký úřad pro bezpečnost dopravy (National Transportation Safety Board)

NÚKIB

Národní úřad pro kybernetickou a informační bezpečnost

OCR

technologie optického rozpoznávání znaků (Optical Character Recognition)

Odpovědnost za AI dle Evropské komise

Expert Group on Liability and New Technologies, Liability for Artificial Intelligence and other emerging digital technologies, 21. listopadu 2019

OECD

Organizace pro hospodářskou spolupráci a rozvoj (Organisation for Economic Co-operation and Development)

OSN

Organizace spojených národů

PFUK

Právnická fakulta Univerzity Karlovy

PSI

data produkovaná a zveřejňovaná veřejnou správou (Public Sector Information)

SDEU

Soudní dvůr Evropské unie (od 1. prosince 2009)

SPZ

státní poznávací značka

UI

umělá inteligence

ÚOOÚ

Úřad pro ochranu osobních údajů

ÚS

Ústavní soud ČR

USA

Spojené státy americké

WIPO

Světová organizace duševního vlastnictví World Intellectual Property Organization)

WP29

Pracovní skupina dle článku 29 Směrnice 95 (Article 29 Working Party)

1  Není-li dále uvedeno jinak, jsou všechny předpisy v textu citovány ve znění pozdějších předpisů.

Poděkování

Za cenné odborné rady a podněty děkujeme především Janu Pémovi a jeho týmu z KPMG Lighthouse. Za vstřícnou a pečlivou redakční práci děkujeme redaktorce Kateřině Mlsnové z Wolters Kluwer.

11. května 2020

Úvod

Všední den

Je všední den, sedíte v letadle a míříte na služební cestu. Málem jste neodletěli, protože koupě letenky na poslední chvíli byla nejistá, přesto vám systém* nakonec vhodný let našel. Blíží se přistání. Podíváte se z okna na pobřeží pod vámi a spatříte pole obdělávaná zemědělskými stroji* i přemostěnou mořskou zátoku. Nedávno jste podstoupili operaci oční vady*, takže díky skvělému zraku zaznamenáte i drony kroužící okolo mostní konstrukce*. Objeví se letiště s řídící věží* a letadlo hladce přistane*. Zapnete a odemknete* telefon a kontrolujete emaily*, když vám přijde zpráva, že taxislužba zaznamenala váš přílet a posílá pro vás vůz*. Při odchodu z letiště si všimnete na vás mířící bezpečnostní kamery*. Během cesty do hotelu, který vám online pomohl zarezervovat chatbot*, otevřete reklamační formulář kvůli poškozenému kufru. Vyplněný k odeslání jej máte hned, jen vás krátce zdrží CAPTCHA test^1 vyžadující označení všech obrázků, na kterých jsou semafory*. Jelikož už dlouho stojíte v koloně, popadne vás vztek a napíšete na sociální síť lehce vulgární příspěvek o místní dopravě. Před odesláním se vás však systém zeptá, zda skutečně chcete napsanou zprávu zveřejnit*. V reklamních sděleních zaznamenáte zobrazené zboží*, které jste si včera prohlíželi, ale nedokázali se rozhodnout.

Na hotelové recepci je fronta, proto přistoupíte k vedle stojícímu roztomilému robotovi*, který vám z rezervačního systému* okamžitě přidělí volný pokoj. V něm v klidu projdete předvybrané* životopisy uchazečů o práci a otevřete internetové bankovnictví. Obratem vám přijde ověřující zpráva, jelikož se připojujete z atypické lokace*. Omylem naladíte kanál jakési asijské zpravodajská stanice. Chvíli trvá, než si uvědomíte, že hlasatel nejspíš není skutečný člověk*. Právě informuje o androidu*, který získal občanství. Zpráva vás natolik zaujme, že zapnete online překladač*. Po skončení videa je vám nabídnuta celá řada podobných zpráv*. V tom dorazí zpráva z vaší domácnosti, informující vás o stavu vašich spotřebičů a čistotě vzduchu i podlah*. Při zavírání kalendáře* si všimnete, že vás po návratu čeká kontrola kožních znamének u lékaře*. Na uklidnění si před spaním pustíte hudbu. Některé přehrávané písně neznáte, ale moc se vám líbí*.

Je běžný všední den roku 2020 a vy jste právě nejméně 25krát narazili na něco*,2 co se dá označit za umělou inteligenci.

Obecně ke knize

Kniha věnovaná umělé inteligenci a její právní úpravě především nutně naráží na stejné limity, jako samotná právní úprava „nových“ technologií. Jak se občas trefně říká, jde o „střelbu na pohyblivý terč“, kdy text během čím dál tím kratší doby nevyhnutelně zastará.

Samotný termín "umělé inteligence" je navíc aktuálně v kurzu, až by se dalo říct nadužívaný. Citáty, novinové titulky i úryvky z popkultury jsme proto, jak by se snad mohlo zdát, do knihy nezahrnuli pouze pro zábavu. Měly by sloužit i jako jakési memento toho, jaký vliv mohou výroky a chytlavé titulky mít na vnímání, ale i samotný vývoj umělé inteligence.3 Na druhou stranu i oblasti umělé inteligence se kromě období „boomu“ nevyhýbají ani období stagnace či poklesu zájmu označovaná jako „AI zima“ (AI winter). K několika takovým obdobím již v minulosti došlo a jsou předpovídána, podobně jako obecné ekonomické krize, i v budoucnu.4

Kniha zároveň nemá ambice podat vyčerpávající výklad technických aspektů AI, ale spíše jen přehled možných současných i budoucích právních konsekvencí technologických novinek.

1  Tzv. CAPTCHA test (zkratka pro „Completely automated public Turing test to tell computers and humans apart“) se používá pro odlišení lidí od programu na internetu.

2  Technologie označené „*“, které určitým způsobem pracují s umělou inteligencí.

3  Například akademička Alžběta Krausová dlouhodobě se věnující tématu AI se domnívá, že nárůst počtu článků o AI v posledních letech mohly způsobit i „bombastické“ výroky Elona Muska na toto téma v letech 2014 a 2015.

4  PIEKNIEWSKI, F., AI Winter Is Well On Its Way, 28. května 2018, [cit. 5. října 2019], dostupné z: https://blog.piekniewski.info/2018/05/28/ai-winter-is-well-on-its-way/.

1

VYMEZENÍ A DĚLENÍ AI

1.

Robot nad člověka?

Přes bombastické titulky o inteligentních robotech, kteří mají brzy nahradit policisty či dostávají občanství různých zemí,1 se v této knize snažíme poskytnout střízlivý pohled na problematiku umělé inteligence (dále jen „AI") a robotiky. Robotka s občanstvím Saudské Arábie či chatbot s japonským jsou jistě poutavými marketingovými akcemi, mohou však vyvolávat i znepokojivé právní otázky. Striktně vzato, pokud se na tyto stroje či systémy pokusíme „našroubovat“ statusy určené pro lidi jako občanství či trvalý pobyt, znamená to, že by snad měly být nadány veškerými s tím souvisejícími (lidskými) právy? Tato otázka je o to absurdnější, pokud jde o země, které navíc nezaručují rovný přístup například k mužům a ženám. Robot by tak teoreticky vzato mohl mít více práv než někteří lidští občané.

„Všichni jsme ubohý, směšní a nemůžeme sehnat holku. A proto si hrajeme s roboty.“2

2.

Co je vlastně AI?

Samotná AI se obecně, avšak zároveň dostatečně určitě, definuje velice těžko. Za jednu z nejzdařilejších a zároveň příjemně stručných bývá považována následující více než půlstoletí stará definice:

„Pro nynější účel problém umělé inteligence představuje vytvoření stroje chovajícího se způsobem, který bychom v případě člověka označili za inteligentní.“3

Například český odborník na AI prof. Michal Pěchouček z ČVUT ji aktuálně definuje takto:

„AI je zaprvé vědecká disciplína a zároveň soubor softwarových nebo hardwarových technologií pomáhající automatizovat, zrychlovat, zpřesňovat nebo škálovat lidské kognitivní schopnosti – vnímat, poslouchat, uvažovat a rozhodovat.“4

2.1
Obecná nebo specializovaná AI

Často se rozlišují a diskutují dva různé typy AI: obecná a zvláštní či specializovaná. Specializovaná se zaměřuje na dílčí úkoly či oblasti, avšak právě obecná AI by měla představovat „dokonalý stroj“, který ve všech ohledech nahradí či dokonce předčí člověka. Oba typy mají i různé cíle: zatímco obecná směřuje k napodobení či dokonce překonání lidské inteligence v celé její šíři, úzce zaměřená (narrow) specializovaná AI má za cíl vytvořit systém, který vyřeší konkrétní problém. Její ambicí není postihnout komplexní lidské myšlení. Možná i proto bývá její význam někdy zlehčován a bývá popisována jako pouhá „pokročilá statistika“, což ale není zcela odpovídající.5

„Zdravý rozum se nedá podchytit statisticky.“6

Zatímco specializovaná AI již v různých úrovních působí všude kolem nás (namátkou při vyhledávání na internetu, rozpoznávání obrázků či komunikaci s chatboty), obecná AI je buď hudbou budoucnosti anebo dokonce zcela nedosažitelnou metou, jejíž možné vytvoření popírá i velká část AI vývojářů.

Diskuse o možnosti dosáhnout obecné AI jsou ve své podstatě primárně filozofického rázu, případné technické řešení je až navazující. Zjednodušeně jde o otázku, zda lze lidskou inteligenci, potažmo celý život, rozdělit na malé částice a převést do digitální podoby.

Zastánci této možnosti, jako například vynálezce odpovědný za technologický vývoj Googlu Ray Kurzweil, navazují na Alana Turinga a jeho vizi univerzálního přístroje schopného veškerých možných výpočetních procesů. Generální AI je tedy podle nich fyzicky možná, a proto pravděpodobná.7 Z tohoto pohledu je vesmír ve své podstatě digitální, a tedy skrze sady symbolů lze stvořit syntetický život, jakousi obdobu lidského mozku.

Vesmír souvisí i s obavou, kterou sdílí část odborné veřejnosti, a to existencí umělého (super)inteligentního života ve vesmíru. Ač se tato hypotéza může na první pohled zdát z říše divokého science-fiction, pracuje s ní překvapivé množství renomovaných IT vědců, filozofů a astronomů. Usuzují tak mimo jiné z faktu, že naše civilizace je v poměrech vesmíru stále velice mladá.8 Pravděpodobně nejvíce zneklidňující aspekt takového scénáře je představa, že případné vědomí takové technologie by nejspíše bylo zcela odlišné od našeho. Tedy nejen že by diametrálně překonávalo veškeré lidské schopnosti, ale zároveň i způsob, jakým by přijímalo a zpracovávalo informace včetně jeho záměrů, a jeho motivace by se mohly naprosto vymykat lidskému chápání. Tato představa superinteligentní mimozemské technologie může být dle postoje hodnotitele buď zneklidňující,9 či naopak vést k závěru, že země s lidmi by pro takovouto inteligenci byla zcela nezajímavá.10

„Pane Bože, ufouni? Tím vysvětluješ všechno, co je naprosto normální, že jo? Ztratíš klíče – jsou tu ufouni. Ze zdi spadne obraz – jsou to ufouni. A když jsi vypotřeboval celou roli toaleťáku – taky jsi to svedl na mimozemšťany.“11

Oproti tomu stojí nahlížení na společnost jako na organickou sociální strukturu. Podle této teorie není možné lidské uvažování ani společnost rozdělit na jednotlivé programovatelné mikročásti, ale vždy jde o komplexní záležitost mnoha různých faktorů. Snaha o vytvoření obecné AI tak nikdy nemůže být úspěšná. Tento názor reprezentuje například americký filozof Hubert Dreyfus, který zdůrazňuje význam lidského nevědomí a nereprodukovatelnost lidských vzpomínek v celé své šíři.12

Teorie společnosti jako o živoucím organismu jde ruku v ruce s významem emocí pro osobnost člověka.

„Nejsme myslící stroje, které cítí. Jsme cítící stroje, které myslí.”13

Důvodem evolučního úspěchu lidského druhu je mimo jiné neobvykle silná spolupráce mezi jedinci.14 Jedna z teorií o vzniku řeči také pracuje s myšlenkou, že se lidská řeč vyvinula v první řadě k posilování mezilidských vazeb prostřednictvím sdílení „drbů“.15 Přijmeme-li premisu, že právě emoce jsou to, co dělá člověka člověkem, pak by musela být obecná AI buď schopná skutečně prožívat emoce, anebo by jednala čistě racionálně bez zapojení emocí. V takovém případě však může být diskutabilní její „obecnost“ a skutečně široké využití. Pro ně by měla být schopna když ne sama cítit, tak dostatečně rozpoznat a adekvátně reagovat na lidské emoce. Jak se ukazuje na dnes dostupných technologiích, je zcela něco jiného úspěšně ovládnout hru pevných pravidel typu Go či šachů, a něco jiného plnohodnotně fungovat v lidském prostředí.

Diskutovaným pojmem v této souvislosti je tzv. technologická singularita. Dosažení tohoto „bodu zlomu“ by znamenalo vytvoření AI, která by překonala schopnosti lidstva. K jeho zastáncům patří již zmíněný Ray Kurzweil. Ten jednu z cest k dosažení singularity spatřuje i v budoucím propojení technologie a lidského mozku v takzvaném hybridním myšlení.16

Kurzweilovy předpovědi v současné době znějí přeci jen dost divoce. Tajemství lidského mozku, potažmo lidského chování dosud neumí věda spolehlivě rozklíčovat. Vědci se rozcházejí i v názorech na podíl genetické výbavy a výchovy na osobnosti člověka.17 Zdá se tedy, že jde o velmi komplexní až pravděpodobně nereprodukovatelnou záležitost. I zastánci obecné AI koneckonců pochybují, zda musí být nutně nadána vědomím, což není nutným požadavkem pro sledování vlastních cílů.18

Dalším rozšířeným argumentem proti reálné možnosti vytvoření obecné AI je (navíc přesně neurčený) podíl emoční a sociální inteligence člověka na jeho celkovém úspěchu. Jelikož v případě lidské inteligence v celé její šíři nejde o jednoznačně empiricky měřitelnou záležitost, záleží na tom, zda by obecná AI měla být schopna člověku konkurovat ve všech parametrech včetně emočních a sociálních schopností, anebo zda by mělo jít o jiný (a svým způsobem užší) typ inteligence.

V tomto ohledu zní Kurzweilova představa lidského mozku připojeného k technice reálněji, než plně funkční „umělý mozek“ sám o sobě. Nelze samozřejmě vyloučit ani vývoj technologie, která bude dosahovat (a překonávat) možnosti lidského mozku na základě zcela jiných principů fungování. I v případě takových situací se ovšem nabízí dále zmíněný argument čínského pokoje.19 Pokud se AI nějakým způsobem projevuje, nelze mít jen na základě vnějšího pozorování jistotu, co vnímá a čemu skutečně hluboce rozumí. Přesto však vědci neustávají ve výzkumu a snaze replikovat jak lidské vědomí,20 tak i lidský mozek jako takový.21

„Zdá se, že jsme v procesu vytváření nového boha. To je ten pravý čas přemýšlet, zda bude (a vůbec může být) dobrý.“22

2.2
Inteligence obecně

Máme-li byť jen nastínit oblast AI a její vztah k právu, je třeba pokusit se alespoň v hrubých obrysech definovat, co vůbec je a co není inteligentní či autonomní robot a AI. I vývojáři systémů, které označujeme jako AI, se proti tomuto termínu často vymezují. Vždyť samotný pojem „inteligence“ jako takové není možné zcela uspokojivě definovat, nehledě na fakt, že, jak naznačujeme výše, inteligence existují různé druhy. Pro účely regulace je však nalezení co nejpřiléhavější definice přirozeně klíčové.

„Inteligence je schopnost přizpůsobit se změně.“23

2.3
AI a autonomní systémy v rámci této knihy

Častým zjednodušením je, že autonomní systémy například generují vlastní zdrojový kód. Je však třeba podotknout, že tvorba vlastního kódu není podstatou strojového učení. Některé (pokročilé) algoritmy nepracují na základě dat, ale například optimalizují nebo automatizují některé úkony. Optimalizace obecně stanoví tu nejlepší možnou z množství různých možností, ať už je sledovaným cílem cokoliv, a probíhá v rámci definovaných omezujících podmínek, bez kterých není možné určit cílovou, respektive optimalizovanou proměnnou.

Ačkoliv například termín „autonomní“ či „inteligentní systémy“24 považujeme ve vztahu k popisovaným technologiím za přiléhavější, pro účely zjednodušení výkladu pracujeme v této knize s termínem umělá inteligence (AI), pod nějž zahrnujeme jak výše uvedené postupy, tak i veškeré rozhodování založené na využití algoritmů (algorithm based decision making neboli ADM). O poznání méně často, než AI se objevuje pojem inteligentní automatizace (IA). Zatímco AI umí sama identifikovat vztahy mezi vstupy (daty) a má kognitivní schopnosti, IA může vykonávat jen předdefinované úkony či sadu kroků na základě pravidel, jež vytvořil člověk nebo AI. Typickým příkladem IA jsou moderní roboti využívaní na výrobních linkách.25

Byť jsme si vědomi mnohých úskalí používání termínu „AI“ včetně jeho možná až přílišné popularity v poslední době, domníváme se, že snaha nahradit jej jiným by v důsledku byla pro čtenáře spíše matoucí.

3.

Legální definice AI

3.1
Zásadní dokumenty EU směřující k definici AI

I EU se při svých snahách nalézt vhodnou legislativní úpravu AI nevyhnutelně potýká i s otázkou vymezení AI, a to hned v několika dokumentech. Následující definice tak z velké části vycházejí právě z evropských dokumentů. Nutno podotknout, že české právo, vzhledem k dosavadní absenci právní úpravy týkající se AI, dále zmiňované termíny až na výjimky^26 prozatím neobsahuje.

V březnu 2012 byl zahájen celoevropský projekt RoboLaw,27 který o dva roky později zveřejnil Pravidla regulace robotiky. V roce 2015 Výbor Evropského parlamentu pro právní záležitosti (JURI) ustanovil pracovní skupinu za účelem vypracování příslušných evropských soukromoprávních pravidel. Tato skupina skutečně vypracovala Návrh usnesení Evropského parlamentu obsahující sérii doporučení určených Komisi (Návrh doporučení k robotice).28 V návaznosti na tento návrh nechal JURI vypracovat studii týkající se evropských pravidel robotiky sepsanou akademiky (Studie pravidel robotiky).29 Studie vznesla k Návrhu doporučení k robotice několik kritických připomínek a i na jejím základě bylo Evropským parlamentem finálně přijato přepracované Usnesení obsahující doporučení týkající se občanskoprávních pravidel robotiky (Doporučení Evropského parlamentu k pravidlům robotiky).30 To vyzvalo Komisi k vypracování legislativního nástroje, který by upravil vývoj a využití AI a robotiky v horizontu příštích 10 až 15 let.31

3.2
Samotná definice AI

Britská Sněmovna lordů Spojeného království ve své zprávě převzala následující, poměrně strohou definici AI od tamní vlády:

„Technologie se schopností plnit úkoly, které by jinak vyžadovaly lidskou inteligenci, jako například zrakové vnímání, rozpoznávání řeči a její překlad”, přičemž ji doplnila o dovětek „v současnosti používané AI systémy jsou způsobilé se učit a přizpůsobit novým zkušenostem či podnětům“.32

Dokument Sdělení Komise o umělé inteligenci pro Evropu (Sdělení Komise o AI)33 z roku 2018 následně popsal AI takto:

„Co je to umělá inteligence? Za umělou inteligenci se považují systémy vykazující inteligentní chování v podobě vyhodnocování svého okolí a následného rozhodování či vykonávání kroků – s určitou mírou autonomie – k dosažení konkrétních cílů. Systémy využívající technologii umělé inteligence mohou být čistě softwarové, které působí jen ve virtuálním světě (např. hlasoví asistenti, program na analýzu snímků, vyhledávače, systémy rozpoznávání hlasu a obličeje), nebo mohou být zabudovány do technického vybavení (např. pokročilé roboty, autonomní vozidla, drony a různé formy využití internetu věcí).“

V roce 2019 byl ovšem současně s dokumentem Etické pokyny pro zajištění důvěryhodnosti UI (Ethics Guidelines for Thrustworthy AI) vypracovaným zvláštní Expertní skupinou pro účely Komise,34 zveřejněn i dokument vypořádávající se s definicí AI nazvaný Definice AI: Hlavní schopnosti a vědní obory (Definice AI Expertní skupiny).35

Dokument se nejprve obšírně vypořádává s předchozí definicí použitou pro účely Sdělení Komise o AI. Kritizováno je především samotné používání termínu „inteligence“. Dle Expertní skupiny jde v případě (obecné) inteligence o příliš neurčitý koncept. Přiléhavější je, dle jejich názoru, hovořit spíše o racionalitě, jakožto schopnosti zvolit nejvhodnější postup k dosažení určitého cíle.

Racionální systém musí dle názoru Expertní skupiny vykonávat následující aktivity:

- vnímání okolí pomocí senzorů (ať již jde například o kamery, mikrofony či třeba webové stránky);

- zpracování informací a logické myšlení (reasoning);

- rozhodování (nejedná se nutně o autonomní rozhodování, spíše o volbu v přednastavených mantinelech) vedoucí k jednání (to může být jak fyzické, např. robotický vysavač začne vysávat, tak i jen virtuální, kdy například chatbot začne komunikovat).

V případě racionálních AI systémů se jedná o velice základní verzi systémů, které reagují na (a tím mění) své prostředí, nicméně neupravují své chování. To dovede až tzv. učící se racionální systém, který následně vyhodnotí nový stav prostředí, posoudí vlastní úspěšnost a přizpůsobí své další kroky lepšímu dosažení cíle.

Dokument dále pracuje s rozdělením používaných AI technik a podoborů do dvou základních skupin:

- logické myšlení a rozhodování;

- učení.

Logické myšlení a rozhodování: takový systém musí být schopen převést data na znalosti, prvním krokem je tzv. reprezentace znalostí, skládající se z procesu získávání, zaznamenávání a ukládání znalostí do srozumitelné podoby a jejich následné využívání. Jakmile jsou znalosti takto zformovány, dalším krokem je logické myšlení zahrnující odvozování skrze symboly, plánování a rozvrhování, analýza velkého množství řešení vedoucí až k výběru a uskutečnění nejvhodnější varianty.

Učení: zahrnuje například strojové učení, neuronové sítě, hluboké učení, rozhodovací stromy a další. Některé z nich blíže rozebíráme dále v této kapitole.

Čímž se konečně dostáváme k navrhované definici AI. Definice AI Expertní skupiny zní následovně:

„Systémy umělé inteligence (AI) jsou softwarové (případně také hardwarové) lidmi vytvořené systémy, které za účelem dosažení komplexního cíle působí ve fyzické či digitální dimenzi na základě vnímání svého okolí prostřednictvím sběru dat, interpretace shromažďovaných strukturovaných či nestrukturovaných dat, logického myšlení ve vztahu k vědomostem, či zpracování informací na základě získaných dat, a volby nejvhodnějšího jednání k dosažení daného cíle. Systém AI může pracovat na základě symbolů, učit se numerické modely či přizpůsobit své chování na základě rozboru okolního prostředí a jeho ovlivnění předchozím jednáním systému.

AI jako vědecká disciplína zahrnuje několik přístupů a technik, jako strojové učení (jehož příklady jsou hluboké učení a učení posilováním), strojové logické myšlení (zahrnující plánování, rozvrhování, vyjádření znalostí a argumentace, bádání a optimalizace) a robotika (zahrnující kontrolu, vnímání, senzory a působící činitelé, stejně jako začlenění všech dalších technik do kyber-fyzických systémů).“

4.

Alternativy pojmu AI

Z výše uvedených snah o definování jednotlivých termínů souvisejících s AI je patrné, o jak obtížný úkol se jedná. Je třeba zmínit i skutečnost, že mnoho AI vývojářů se vyhrazuje proti samotnému používání termínu „umělá inteligence“, obdobně, jak dále v této knize nastiňujeme kritiku pojmu „chytrý robot“. V úvahu samozřejmě připadá nahrazení jinými termíny, kupříkladu bystrý (smart) či autonomní. Pojem „umělá inteligence“ je však dle našeho názoru přes rozporuplnost jeho definic už značně zakořeněn, tudíž svým způsobem umělá snaha o implementaci nového či alespoň neutrálního termínu bude jen stěží úspěšná.

5.

Členění AI

Podle existence pouze ve virtuálním světě či naopak zhmotnění v reálném můžeme rozlišovat AI systémy založené čistě na software a AI zakomponovanou v hardware zařízeních. Kombinace komponentů z reálného a virtuálního světa bývá označována jako kyber-fyzický systém, jehož příkladem jsou propojená a autonomní vozidla.

Techniky pracující s AI se tradičně dělí na symbolickou AI, jakožto přístup zdůrazňující význam pravidel pro manipulaci se symboly různého druhu (viz např. sémantické sítě)36 a konekcionistickou AI vycházející ze statického propojení velkého počtu jednoduchých výpočetních jednotek (např. neuronové sítě).37

Obdobné a možná přesnější dělení může být na již zmíněnou symbolickou AI (automatické uvažování, plánovaní a optimalizace), statistickou AI (strojové učení, hluboké učení, neuronové sítě) a distribuovanou AI (teorie her, multiagenti, decentralizace), přičemž efektivní se aktuálně ukazuje syntéza všech zmíněných kategorií algoritmů.38

Konekcionismus je součástí tzv. nové AI, jejímž základem jsou, vedle konekcionismu, např. fuzzy logika, dynamická teorie systémů, evoluční algoritmy, genetické algoritmy,39 zatímco symbolické přístupy jsou občas označovány jako tzv. GOFAI (Good Old Fashioned AI). Ačkoliv symbolická AI bývá někdy nahlížena jako zastaralý přístup, má stále své výhody. Možný je i hybridní systém kombinující oba zmíněné přístupy.40

Velice zjednodušeně můžeme AI dále členit na silnou a slabou. Obě mohou být teoreticky schopny úspěšně projít tzv. Turingovým testem,41 který se pro testování AI typicky používá, nicméně v případě slabé AI může jít spíše o pouhé zadané reakce, nikoliv o skutečné uvažování (v této souvislosti se používá již zmíněný argument čínského pokoje).

Zatímco dělení na silnou a slabou AI je spíše filozofickou než praktickou otázkou, praktičtější se jeví podobné dělení na již zmíněnou obecnou (general či strong), která by úspěšně napodobila lidský mozek, a zúženou či specializovanou AI. Ač se někteří vývojáři urputně snaží pracovat na obecné AI, většina odborníků je v tomto ohledu spíše skeptická a budoucí vývoj spatřují právě v AI zaměřené na konkrétní, dílčí činnosti.

5.1
Stupně vývoje AI

Můžeme narazit i na snahu o dělení AI na jednotlivé stupně vývoje.

Např. uznávaný čínský akademik Dr. Yueh-Hsuan Weng nabízí vlastní škálu stupňů AI, kterými dle něj jsou:

- akční inteligence (action intelligence);

- autonomní inteligence (autonomous intelligence) a

- inteligence vycházející z lidského uvažování (human-based intelligence), jež prozatím nebyla dosažena.

Někteří odborníci se dokonce domnívají, že dosažení nejvyššího stupně obecné AI ani není možné. Sám autor koneckonců podporuje zákaz instalování takto inteligentního software do robotů především z důvodu problematického trestání samostatně uvažujících robotů a také posunu od hodnot zaměřených na člověka k případným duálním lidsko-robotím hodnotám. Řešení bezpečnostních rizik souvisejících s robotickou sebekontrolou vidí Weng s kolegy v konceptu tzv. bezpečnostní inteligence (safety intelligence).42 Za nejvhodnější přístup sám považuje charakteristiku robotů jako bytostí tzv. třetí existence vedle biologicky žijící první existence a zcela neživoucí existence druhé.

Americký akademik Arend Hintze oproti tomu pracuje se čtyřmi stupni či vývojovými stádii AI:

- typ I AI: reagující stroje (reactive machines) - specializovaně schopné strojového učení;

- typ II AI: limitovaná paměť (limited memory) - systémy schopné vnímat okolí a na základě (omezené) paměti „činit rozhodnutí“, existujícím příkladem mohou být částečně autonomní vozy;

- typ III AI: teorie mysli (theory of mind) – budoucí systémy schopné porozumět a přizpůsobit se lidskému myšlení;

- typ IV AI: sebeuvědomění (self-awareness).43

6.

Další pojmy související s AI

6.1
Strojové učení (machine learning) a jeho druhy

Strojové učení je další z oblastí, ve které se AI v posledních letech intenzivně prosazuje. Oproti dřívějším postupům, kdy veškerá vědomost a dovednost musela být do programu vložena, cílem strojového učení je, aby se systém na základě vložených dat sám naučil, jak nejlépe dosáhnout žádoucího výsledku.

Definice AI Expertní skupiny^44 považuje za nejrozšířenější tři přístupy ke strojovému učení:

- učení s učitelem (supervised learning);

- učení bez učitele (unsupervised learning) a

- zpětnovazebné učení či učení posilováním (reinforcement learning).

Při učení s učitelem jsou pro vstupní data určeny příklady správného výstupu namísto pravidel chování. Žádoucím výsledkem pak je, aby systém na základě poskytnutých příkladů dokázal generalizovat a aplikovat správný přístup i na nezadané situace. Program určený pro čistící roboty by tak na základě množství obrázků špinavých podlah byl schopen rozpoznat dosud neviděnou špínu a zahájit úklid.

V rámci techniky učení bez učitele jsou AI poskytovány pouze vstupní data, nikoliv výstup. K tomu by měl systém dospět sám roztříděním zpracovávaných vstupních dat.

Učení posilováním probíhá samovolným rozhodováním AI systému, jehož výsledky jsou následně hodnoceny, přičemž systém je odměňován či motivován odměnou, aby dosáhl co nejlepších výsledků. Tento přístup je typicky používán v marketingu či online hodnocení.

Jedním z aktuálně nejúspěšnějších postupů strojového učení je tzv. hluboké učení (deep learning). Spočívá ve využití algoritmů především neuronových sítí (viz dále) s velkým počtem vrstev představujících data. Hloubku modelu představuje počet vrstev (často desítky až stovky) zapojených do sebe tak, že výstup jedné z nich je vstupem následující vrstvy.45

Potom například praktický rozdíl mezi hlubokým učením a strojovým učením s učitelem je následující: V prvním případě by si výše zmíněný program pro čistící roboty z množství obrázků špinavých podlah sám našel pravidla, jak od sebe rozeznat čistou od špinavé, kdežto v případě zvolení algoritmu učícího se posilováním bychom tento algoritmus museli napřed tato pravidla naučit.

Hluboké učení se dá zjednodušeně popsat jako podmnožina širšího strojového učení, to vše zahrnuté pod AI:

Pro strojové učení je kruciální dostatečné množství vstupních dat, respektive jejich dostatečná reprezentativnost. Proto s ním úzce souvisí pojmy jako „těžba dat“ (data mining) a „big data“.

Big data bývají zjednodušeně popisována jako soubory dat takové velikosti, že není možné je v rozumném čase analyzovat běžně používanými (softwarovými) postupy. Těžba či vytěžování dat spočívá v jejich analýze a získávání užitečných informací specifickými softwarovými nástroji. Detailně se však tato „velká“ data v současnosti vyznačují tzv. 5 V:

- velikostí (Volume);

- variabilitou (Variety);

- hodnotou (Value);

- věrohodností (Veracity);

- rychlostí (Velocity).46

Kvůli problémům s dostupností a ochranou osobních údajů v poslední době využívá např. Apple či Google též metodu zvanou federativní učení (federated learning). Jde o druh strojového učení využívaného např. pro učení „našeptávacích“ programů či rozpoznání řeči, který si upravuje své algoritmy podle vzorků dat umístěných na více zdrojích, aniž by je slučoval.47

Vedle nedostatku vhodných dat naráží hluboké učení i na vlastní limity. Skutečně hluboké je totiž jen ve vztahu k sofistikovanému, mnohovrstevnému přístupu ke statistickým vlastnostem. Aplikace naučených dovedností je však prozatím poměrně chabá.48

V posledních letech bývá v současnosti se strojovým učením pracováno také s vývojem umocnění pozornosti (attention augmentation). Pozornost jako taková je kognitivní schopností klíčová právě pro utváření vědomostí. Pro mnoho rozhodujících se systémů byly totiž využívány takzvané konvoluční sítě (convolutional networks), které ovšem mají svá úskalí, která by právě umocnění pozornosti mělo eliminovat.49

6.2
(Umělé) neuronové sítě

Jedním z výpočetních modelů používaných AI je umělá neuronová síť. Ty jsou inspirovány lidským mozkem. Namísto lidských neuronů jde o síť malých procesních jednotek s mnoha vzájemnými spojeními (edges). Síť pracuje se vstupními daty z několika senzorů, kterým během procesu učení (tréninkové fáze) přisuzuje různou váhu (weighs), která co nejblíže odpovídá dostupnému příkladu. Závěrem této fáze by mělo být úspěšné posouzení příkladu, se kterým se systém setká prvně.

Pro lepší výsledky umělých neuronových sítí se v poslední době používá například systém založený na určitých strukturách – kapslích (Capsule Neural Network / CapsNet).50 Ty mají umožnit lépe modelovat hierarchické vztahy napodobením biologické struktury, a tím zdokonalit především rozpoznávání obrazu.51

V přírodě si bere inspiraci i evoluční strojové učení používající pro vývoj AI přirozený výběr (Evolutionary Machine Learning).52

6.3
Algoritmus a algoritmické rozhodování

Dalším termínem běžně skloňovaným při popisování AI je algoritmus.

Lze jej definovat jako pracovní postup, který má tyto povinné vlastnosti:

- rezultativnost (vždy vydá nějaký výsledek);

- finitnost (konečnost);

- elementárnost (jednoduchost) popisu. Algoritmus je popsán konečným počtem základních instrukcí. Takových, o kterých je jasné, jak se provedou (a tedy neumožňují žádný osobitý výklad některého vykonavatele);

- determinovanost (jednoznačnost). Postup práce je jasně daný a vždy závisí pouze na popisu algoritmu a na vstupu (pracovní materiál). Na průběh algoritmu nemá žádný vliv náhoda nebo svobodná vůle vykonavatele.53

Zjednodušeně můžeme hovořit o přesném popisu pracovního postupu, jak vyřešit (výpočetní) zadání.

Algoritmické rozhodování může v obecné rovině být dvojí, zcela automatické či částečně automatické.54

6.4
Kvantová mechanika

Podobně převratnou technologii jako je AI slibuje vývoj tzv. kvantových počítačů, respektive procesorů, které by měly rapidně zrychlit výpočetní operace a tím mimo jiné významně zefektivnit strojové učení. Zatímco v běžném počítači jsou data určená bity, kvantový pracuje s kvantovými bity (qubits či quantum bits) jako základními jednotkami informací. Běžné bity uchovávají data ve dvojkové soustavě, tedy jako systém jedniček a nul, kvantové využívají principů kvantové mechaniky jako například kvantové provázání či tzv. (kvantová) superpozice. V té může quibit být zároveň v pozici jedničky i nuly. Hlavní výhodou kvantových výpočtů je exponenciální růst zpracovávaných informací. Pár quibitů tudíž ztělesňuje čtyři možné stavy, trojice osm stavů a již 300 quibitů umožňuje více kombinací, než je atomů ve vesmíru.

IBM v rámci programu „IBM Quantum Experience“ umožňuje od roku 2016 veřejnosti prostřednictvím cloudu použít kvantový procesor s pěti quibity.55 Ten byl pro akademické účely využit i v ČR.56

Na podzim 2019 rozčeřil vody Google, když uveřejnil, že dosáhl tzv. kvantové nadvlády (quantum supremacy). Prototyp jejich počítače údajně během 3 minut 20 sekund spočítal úlohu, která by nejvýkonnějšímu „běžnému“ počítači Summit (IBM) zabrala 10 000 let. Výsledky dosažené společností Google jsou však mnohými zpochybňovány. Podle konkurentů (IBM) jde o jednorázové využití, které rozhodně neznamená skutečnou kvantovou nadvládu schopnou zcela změnit zaběhlé systémy a současnou podobu výpočetní techniky. Pochybnosti navíc panují nejen ohledně využití, ale u části fyziků i o vůbec možné existenci funkčního kvantového počítače, a dokonce jej přirovnávají k perpetuu mobile.57

Důvěryhodnosti nepřidává ani tajnůstkaření Googlu, když zprávu popisující předmětný objev nejprve zveřejnil na webu NASA, aby ji obratem stáhl.58

7.

Robotika

Inteligentní robotiku se můžeme pokusit zjednodušeně definovat jako činnost AI ve fyzickém světě či ztělesněnou AI. Robot je hmotnou věcí, od níž se očekává vnímání, logické myšlení, jednání, učení a vzájemné působení s jinými systémy. Tyto vlastnosti jsou většinou integrovány do kontrolní architektury robotického systému.

Nad rámec disciplín spojených s (virtuální) AI vyžaduje robotika aplikaci strojního inženýrství a teorie.59 K úskalím spojeným s vývojem softwaru využívajícího AI se zde přidávají mechanické výzvy těchto oborů.

Příkladem takto pokročilých či dokonce inteligentních robotů jsou robotické manipulátory, řízení, autonomní vozidla včetně dronů, humanoidní roboti, robotické vysavače a další. I v tomto oboru jde vývoj prudce dopředu, a tak můžeme sledovat jak zábavné, ale v podtextu poměrně skeptické ukázky nezdarů testování robotů v reálném prostředí, tak i impozantní úspěchy pohybu robotů.60

Jakousi alternativu Turingova testu pro roboty nabízí tzv. „kávový test“. Prošel by jím dostatečně inteligentní a zároveň zručný robot, který se dokáže zorientovat v libovolné kuchyni a úspěšně připravit šálek kávy.61

7.1
Chytrý nebo autonomní robot?

Inteligentního robota definoval jihokorejský zákon o vývoji inteligentních robotů a podpoře jejich distribuce jako „mechanický přístroj, který vnímá své okolí, vyhodnocuje situace a samostatně se pohybuje“.62

Z této definice vyšlo Doporučení Evropského parlamentu k pravidlům robotiky,63 které navrhlo definovat kyber-fyzické systémy, autonomní systémy, chytré autonomní roboty a jejich subkategorie za pomoci následujících charakteristik tzv. chytrého robota:

- autonomie získaná skrze senzory a/nebo výměnou dat s okolním prostředím, obchodování s nimi a analýzou takových dat;

- samoučení ze zkušeností a interakcí (fakultativní kritérium);

- přinejmenším částečná fyzická podpora;

- přizpůsobení chování a jednání prostředí;

- absence života v biologickém slova smyslu.

Návrh této definice byl schválen i přes značné výhrady, které kritizovaly především výraz „chytrý robot“.64 Ten dle kritiků naráží na rezervovaný přístup a strach z inteligentních strojů historicky zakořeněný v evropském kulturním prostředí v kontradikci s přístupem obvyklým na dálném východě.

Autonomii se návrh v rámci dokumentu předcházejícího Doporučení Evropského parlamentu k pravidlům robotiky^65 pokusil definovat jako „schopnost rozhodovat se a realizovat rozhodnutí ve vnějším prostředí nezávisle na externí kontrole či vlivu, přičemž tato autonomie je čistě technologického charakteru a její stupeň závisí na míře sofistikovanosti robota“.66 Čím více autonomní roboti budou, tím složitější přirozeně bude určit osobu odpovědnou za jejich jednání.

8.

Data

Zásadním ve vztahu k vývoji AI je dostatečné množství dat pro učení inteligentních systémů. I toto množství roste exponenciální rychlostí. Drtivá většina dostupných dat vznikla v posledních letech.67 V souvislosti se zpracováním dat bývá často kritizován Facebook. Byť jde o kritiku z velké části oprávněnou, je třeba si uvědomit, že přístup k mnohem většímu množství dat mají i jiné společnosti. Například Tesla díky svým vozům údajně disponuje databází obrazových záznamů třikrát větší, než je databáze fotografií na celém Facebooku,68 o záznamech, které má k dispozici společnost Google ani nemluvě.

Na problematiku přístupu k datům či práce s nimi naráží i bohulibé projekty. Například vývoj AI systémů, které by byly schopny rozpoznat dětskou pornografii a tím enormně urychlit její stažení či dokonce identifikaci zúčastněných pachatelů, naráží na zákony, které jakékoliv nakládání s těmito materiály považují za nezákonné.69

Na druhou stranu využití strojového učení a z něj vyplývající analýza textu umožňuje například včasné vytipování sebevražedných zmínek na sociálních sítích.70

Alespoň částečným řešením nedostatku vhodných dat může být jejich umělé vytváření. Americký vývojář Ian Goodfellow se svým týmem vypracoval systém strojového učení nazvaný „generativní soupeřivé sítě“ (generative adversarial nets či GAN).71 V něm spolu soupeří dvě neuronové sítě, přičemž na základě tréninkového setu dat dokážou generovat data stejné statistiky uměle. Je třeba též podotknout, že moderní systémy AI jsou často schopné pracovat i s relativně malým množstvím dat, je-li jejich vzorek dostatečně reprezentativní.72

Více k využití dat, a především k požadavkům na adekvátní ochranu lidského soukromí uvádíme v samostatné kapitole dále.

9.

Věc a výrobek ve vztahu k software a k AI

Chceme-li precizně definovat, co přesně je AI, je třeba zároveň zvážit i její právní kvalifikaci. Analogií a zároveň problémem úzce souvisejícím s definicí AI je obdobná otázka ve vztahu k software. Není totiž dosud zcela jasné, zda se jedná o věc ve smyslu široké definice občanského zákoníku,73 byť se k tomuto závěru lze přiklonit,74 a to konkrétně o tzv. jinou věc bez hmotné podstaty.75 Koneckonců již samotná definice software a její vztah k pojmu počítačový program je předmětem mnoha diskusí.76, 77

Ještě komplikovanější je vztah k definici výrobku a z něj vyplývající odpovědnosti za vady. Směrnice o sbližování právních a správních předpisů členských států týkajících se odpovědnosti za vadné výrobky (Směrnice o odpovědnosti za vadné výrobky)78 vzhledem k dataci její účinnosti nové technologie adekvátně nezohledňuje. Výrobek definuje s drobnými výjimkami jako všechny movité věci.79 Ba co víc, dostatečně nerozlišuje ani mezi výrobkem a službou.80 V současné době proto probíhá mnoho diskusí, jakým způsobem předpis přizpůsobit současnému technologickému rozvoji.

Samotnému tématu odpovědnosti za jednání AI a robotů se blíže věnujeme v samostatné kapitole, bližšímu rozboru Směrnice o odpovědnosti za vadné výrobky ve vztahu k AI pak v části týkající se evropské legislativy.

9.1
Patentovatelnost software

Na problém s právní kvalifikací software navazuje otázka jeho patentové ochrany. I zde můžeme spatřit v jiných souvislostech (především ve vztahu k potenciální diskriminaci) zmíněný diametrální rozdíl mezi přístupem v USA a v Evropě. Ačkoliv patenty počítačového programu „jako takového“ jsou dle Evropské patentové úmluvy vyloučeny,81 na druhou stranu bez dalšího uzavřít, že v evropském prostředí software patentovat nelze, je přeci jen příliš zjednodušující.82

2

ELEKTRONICKÁ OSOBA JAKO SUBJEKT PRÁVA

1

Koncept elektronické osoby

Evropský Návrh doporučení k robotice vznesl otázku, zda by roboti neměli být nadáni právní osobností jako novou kategorií osoby.83 Je pravdou, že i právnická osoba je dle fikční teorie^84 umělým konstruktem. Tento přístup nahlížení na povahu právnické osoby je však zároveň některými teoretiky odmítán.85

Studie pravidel robotiky tuto koncepci taktéž výrazně kritizovala s ohledem na praktické problémy, které by právní osobnost robota přinesla a také vzhledem k faktu, že v horizontu 10 až 15 let takový technologický vývoj očekávat spíše nelze.86 Doporučení Evropského parlamentu k pravidlům robotiky proto navrhovaný koncept částečně přepracovalo, když finálně navrhuje, že specifický právní status elektronické osoby je žádoucí v dlouhodobějším časovém horizontu a jen pro nejvíce sofistikované autonomní roboty.87

1.1
Elektronická versus právnická osoba

Je samozřejmě diskutabilní, do jaké míry je analogie s právnickými osobami skutečně přiléhavá. Avšak i právní osobnost právnických osob je překvapivě poměrně moderní záležitost, přičemž jednotně přijímané pojetí tohoto pojmu neexistuje doposud.88 Podobně jako každá právnická osoba je neodlučně spjata s fyzickými osobami v postavení společníků a/nebo členů jejích orgánů, koncept elektronické osoby by musel být podobný. A tak ač na první pohled zní myšlenka způsobilé elektronické osoby divoce, zároveň by mohl vyřešit některé – v současnosti spíše hypotetické problémy, které plně autonomní technologie přinesou.

Teorie si dokonce pohrává i s myšlenkou, zda by v současnosti bylo možné AI „implementovat“ do právnické osoby do té míry, že by se stala jejím jediným členem. Z tohoto aspektu byly v rámci jedné studie zkoumány právní řády Německa, Švýcarska, Spojeného království a USA. Právě americká LLC je autory v závěru studie považována za formu právnické osoby, které lze pro žádaný výsledek využít.89 Studie pracuje s představou samořiditelného systému poskytujícího komerční služby online anebo trvalého autonomního ústavu či nadace (perpetual autonomous foundation). Podle autorů studie je možné ovládnutí obchodní společnosti autonomním systémem na základě mechanismu, kdy jediný zakladatel LLC uzavře operační smlouvu s takovým autonomním systémem, na jejímž základě mu přenechá řízení společnosti, ze které následně vystoupí. Je ovšem otázka, zda by koncept teoreticky fungující na papíře ve skutečnosti přeci jen nenarazil. Německé právo oproti tomu nepřipouští jinou než fyzickou osobu jako člena GmbH, a tak jedinou v úvahu přicházející možností je bezčlenná společnost (Kein-MannGmbH), jejíž možné fungování je nicméně sporné již v obecné rovině, natož v kontextu AI. Zkoumané švýcarské právnické osoby naráží na podobné limity.

Německé GmbH je přirozeně poměrně blízké české společnosti s ručením omezeným. Byť je to ve studii zmíněno jen velice okrajově, za největší úskalí zkoumané situace považujeme absenci vůle. Autoři zmiňují, že zakládající dokument příslušné právnické osoby by odkazoval právě na vůli (will) nebo spíše na rozhodnutí (decisions) činěné AI. Právě v těchto dvou pojmech ovšem spatřujeme diametrální rozdíl, jak rozvádíme dále. Jak navíc autoři sami přiznávají, nevěří v obecnou AI a budoucnost spatřují v úzce zaměřené AI kooperující s lidmi. Je však namístě, jak studie také činí, upozornit na změny a adaptabilitu, kdy by případné ovládnutí právnické osoby AI hrozilo nastavením trvalého stavu, což by však vůbec nereflektovalo technický vývoj. Druhé úskalí spatřují v reálné moci programátorů, kteří by nad danou společností mohli získat fakticky značný, nicméně z právního pohledu naopak velmi omezený vliv.

České právo na rozdíl od německého, vystoupení jediného člena obchodní společnosti výslovně zakazuje. Pokud by počet členů klesl pod zákonem stanovený počet z jiného důvodu a nedošlo k nápravě, soud by přikročil k jejímu zrušení a likvidaci.90 Zkoumaný scénář by tedy v českém právním rámci dopadl neúspěchem. Osoba je dle českého práva pouze fyzická či právnická.91 Jen ty mají právní osobnost, případně svéprávnost. Jelikož statusové právo společností je kogentní, odpověď na otázku, zda může AI oficiálně „vést“ společnost, je jasná. AI tedy nemá právní osobnost a nemůže proto být ani členem právnické osoby, kterému přísluší nahrazovat její vůli.92 Pro právní jednání AI tedy není splněna náležitost subjektu.

1.2
Vlastní vůle

Složitější je však odpověď na otázku, zda může AI projevovat vůli. Přijmeme-li tři teoretické složky vůle – a to schopnost její tvorby, její projevení navenek (komunikace) a vůli účastnit se právních vztahů, tedy úmysl založit právní následky,93 nejmenší problém jistě spočívá u projevení vůle navenek. Nicméně i určitá vůle účastnit se právních vztahů je představitelná i v případě těch jednodušších algoritmů. Stěžejní se tak zdá opět otázka subjektivity.

Byť zákon jí, jak uvedeno výše, právní osobnost nepřiznává, nabízí se otázka, zda je AI prakticky schopna přijímat vlastní rozhodnutí nebo jen replikuje vůli svého tvůrce. Představíme-li si poměrně jednoduchý program, který má za úkol například online výhodně kupovat určitou komoditu, v prvotní fázi může jít o pouhou „prodlouženou ruku“ uživatele. Co ale v případě, kdy skrze strojové učení dojde ke změně zadání, které už projevuje určitou míru autonomie? Například pokud by zadání neznělo „kupuj výhodně určité produkty“, ale více neurčitě jako například „obchoduj výhodně“, kdy by program dle svého uvážení nejen nakupoval, ale i prodával. V takovém případě by navíc mohl být stále zachován i dále zmíněný požadavek na zachování zájmu člověka jako náležitost právního jednání.94

Slabinou analogie s právnickými osobami také může být budoucí masová výroba či vývoj technologií, které by splňovaly definici elektronické osoby. Byť i u právnických osob panuje trend zjednodušení a zlevňování jejich zakládání, přeci jen jde v porovnání s případným jednoduchým nákupem technologie o stále poměrně formální jednání. S tím souvisí případná povinnost certifikace a registrace AI se statusem právem uznané osoby.

Vážení čtenáři, právě jste dočetli ukázku z knihy Umělá inteligence & právo.
Pokud se Vám líbila, celou knihu si můžete zakoupit v našem e-shopu.