AI v práci: Kdo nese odpovědnost za chyby umělé inteligence?

Odpovědnost za chyby AI podle českého práva

Hlavní otázky, které se v praxi řeší:

• Je AI pouze nástrojem, nebo může být sama odpovědná za chybu? – Dnes právně odpovídá vždy osoba nebo subjekt, který AI používá.
• Kdo odpovídá za škodu způsobenou AI? – Pokud je AI integrovaná do pracovních procesů, odpovědnost nese zaměstnavatel. V případě chybného rozhodnutí AI v oblasti HR (např. diskriminační rozhodnutí při náboru) může nést odpovědnost jak zaměstnavatel, tak i dodavatel softwaru.
• Jak se chránit smluvně? – Firmy by měly v pracovních smlouvách a interních směrnicích jasně vymezit odpovědnost zaměstnanců za práci s AI a zajistit si krytí odpovědnosti vůči třetím stranám.

Evropská regulace AI: Co přinese AI Act?

Evropská unie připravuje nařízení AI Act, které stanoví pravidla pro využívání umělé inteligence v různých odvětvích. Klíčové body pro zaměstnavatele:

• Klasifikace AI systémů podle rizikovosti – AI používaná v pracovněprávních vztazích bude pravděpodobně spadat do kategorie „vysokého rizika“ (nábor, HR a řízení pracovníků).
• Povinnost transparentnosti – Zaměstnavatelé budou muset informovat zaměstnance, jak AI systémy fungují a jaká rozhodnutí činí.
• Odpovědnost za rozhodnutí AI – Regulace zdůrazňuje odpovědnost lidského dohledu nad rozhodováním AI.
• Povinné testování AI systémů – Firmy budou muset provádět audit svých AI nástrojů, aby minimalizovaly riziko chyb a diskriminace.

Jak by se firmy měly připravit?

Aby zaměstnavatelé předešli právním rizikům spojeným s využíváním AI, doporučujeme následující kroky:

1. Aktualizace pracovních smluv – Jasně definujte odpovědnost zaměstnanců za práci s AI a její limity.
2. Zajištění lidského dohledu – Nechte klíčová rozhodnutí ověřovat zaměstnanci, aby AI nemohla sama způsobit právní problém.
3. Interní směrnice o používání AI – Zajistěte, aby zaměstnanci věděli, jak s AI pracovat, co se smí a co ne.
4. Připravenost na AI Act – Sledujte legislativní vývoj a připravte se na nové povinnosti.

Závěr

AI přináší inovace, ale i nové právní výzvy. Firmy musí být připraveny na otázku odpovědnosti za chyby AI a zároveň se přizpůsobit chystané evropské regulaci. Nevyjasněná pravidla mohou vést k právním sporům a sankcím. Proto doporučujeme konzultovat právníky specializující se na pracovní právo a AI compliance.