Český kontext: zatím jen obecná pravidla
České právo dnes nemá speciální úpravu pro odpovědnost za AI. Soudy by musely vycházet z obecných ustanovení občanského zákoníku o vadě výrobku či provozu závodu. Prokázat vadu algoritmu je ale pro pacienta nesmírně obtížné. Proto se pozornost přirozeně přesouvá na evropskou úroveň, kde se rodí komplexní právní rámec.
Evropský rámec: AI Act a vysoce rizikové systémy
Klíčovým předpisem je Nařízení o umělé inteligenci (AI Act, č. 2024/1689), které vstoupilo v platnost v srpnu 2024 a od srpna 2026 dopadne i na zdravotnictví. Právě zde jsou systémy AI považovány za vysoce rizikové, ať už jde o diagnostické algoritmy, chirurgické roboty, triáž pacientů v krizových situacích, nebo posuzování nároku na zdravotní péči.
Poskytovatelé a provozovatelé těchto systémů musí splnit řadu povinností:
- Transparentnost a vysvětlitelnost – je nutné doložit, na základě jakých dat a parametrů AI dospěla k závěru.
- Lidský dohled – AI nesmí rozhodovat autonomně, vždy musí být kontrolována zdravotnickým odborníkem.
- Záznamy a logy – každý krok systému musí být dohledatelný.
- Odborná příprava personálu – lékaři a sestry musí rozumět limitům i fungování systému.
- Kvalita dat a kybernetická bezpečnost – algoritmus nesmí pracovat s neúplnými nebo zkreslenými údaji.
Tato pravidla mají jediný cíl: zaručit, že pacient nebude vystaven nepřiměřenému riziku jen proto, že do jeho péče vstoupil algoritmus.
Zakázané praktiky: hranice, které nesmí být překročeny
AI Act zároveň stanoví oblasti, kde je použití AI zcela nepřípustné. Ve zdravotnictví jde zejména o:
- zneužívání zranitelnosti pacienta, například návrhy levnější, ale méně účinné léčby seniorům,
- social scoring při rozhodování o přístupu ke zdravotní péči podle příjmu, vzdělání či bydliště.
Na evropské úrovni se navíc diskutuje o omezení využívání rozpoznávání emocí v medicínském kontextu, kde riziko zásahu do práv pacientů výrazně převyšuje možné přínosy.
Odpovědnost za škodu: výrobce, poskytovatel, nebo lékař?
Odpovědnost za škodu způsobenou AI je stále předmětem právní nejistoty. Původně navržená směrnice o odpovědnosti za AI měla zavést vyvratitelnou domněnku příčinné souvislosti, pokud poskytovatel nezpřístupní potřebné důkazy. Návrh byl ale stažen, takže jednotný rámec chybí.
Významnou roli proto přebírá Nařízení o odpovědnosti za vadné výrobky (č. 2024/2853), platné od prosince 2024. Nově se vztahuje i na software a ukládá výrobcům povinnost zajistit, aby jejich produkty odpovídaly všem bezpečnostním standardům EU. Pokud výrobce neposkytne nezbytné důkazy, uplatní se domněnka vady výrobku. Nařízení se bude vztahovat na produkty uvedené na trh od prosince 2026 a zasáhne i oblast zdravotnických prostředků.
Pro praxi to znamená, že pokud AI nástroj použije nemocnice, odpovědnost bude záviset na okolnostech:
- pokud chyba vychází z konstrukce systému, bude odpovědný výrobce,
- pokud šlo o nesprávné použití nebo zanedbání dohledu, povede se spor proti poskytovateli zdravotní péče,
- a konečně lékař zůstává tím, kdo musí rozhodnutí AI kriticky zhodnotit.
Praktická doporučení pro zdravotnická zařízení
Nová příručka České asociace umělé inteligence rozeslaná do všech nemocnic v Česku v roce 2025 proto zdůrazňuje praktické otázky:
- jak si ověřit funkčnost systému před jeho zavedením,
- jak vést dokumentaci o použití AI v konkrétním případě,
- jak reagovat, pokud se doporučení AI liší od odborného názoru lékaře.
Důležité je, že odpovědnost zůstává vždy lidská – žádný algoritmus ji nemůže přenést.
Závěr
Umělá inteligence se stává pilířem moderní medicíny, ale zároveň vyvolává nové právní otázky. Evropská regulace prostřednictvím AI Actu a nového nařízení o odpovědnosti za vadné výrobky nastavuje jasnější mantinely. Přesto přetrvává nejistota ohledně konkrétních sporů a role jednotlivých aktérů.
Jedno je však jisté: AI nemůže fungovat bez lidského dohledu. Lékař, nemocnice i výrobce systému musí zajistit, aby byl každý krok vysvětlitelný, dohledatelný a právně podchycený. Jen tak může AI skutečně naplňovat svůj potenciál – zlepšovat péči a zachraňovat životy, aniž by ohrožovala právní jistotu pacientů.
Mgr. et Bc. Juraj Juhás, Ph.D., a Filip Mareš
Advokátní kancelář Glatzová & Co., s.r.o.
Foto: Shutterstock
