Etika AI: Kdo odpovídá za rozhodnutí strojů?

Umělá inteligence (AI) dnes rozhoduje o mnoha aspektech našeho života – od schvalování úvěrů po doporučení léčby. Ale co když se AI zmýlí? Kdo za to odpovídá – vývojář, firma, nebo snad samotný algoritmus?

AI, podobně jako dítě, které jsme učili chodit, prošla dlouhou cestou od 50. let minulého století, kdy Alan Turing položil základy myšlenky strojové inteligence. Tehdy šlo spíš o filozofické úvahy – může stroj myslet? S příchodem masivních dat a strojového učení na počátku 21. století se otázky změnily. Najednou jsme museli řešit, jak zajistit, aby AI nejen fungovala, ale byla i etická. V roce 2019 Evropská komise vydala směrnice pro důvěryhodnou AI. Skutečný zlom ale přišel v srpnu 2024, kdy vstoupil v platnost AI Act – první komplexní regulace umělé inteligence na světě.

Oproti minulosti, kdy jsme se spoléhali na dobrovolné kodexy, teď máme jasná pravidla. AI systémy jsou rozděleny do čtyř kategorií podle rizika – od zakázaných praktik, jako je sociální skórování nebo manipulace, až po minimálně rizikové aplikace. Tento přístup má zajistit, že technologie slouží lidem, a ne naopak.

Kdo je vinen, když AI selže?

Představte si situaci, kdy algoritmus zamítne vaši žádost o půjčku kvůli chybě v datech. Nebo ještě hůř – autonomní auto způsobí nehodu. Kdo je na vině? Tady narážíme na problém „black box“ – mnohdy ani sami vývojáři nevědí, jak přesně AI k rozhodnutí dospěla. A právě tady začíná debata o odpovědnosti.

Na jedné straně stojí argumenty pro jasnou regulaci. Podle informací z vládních dokumentů Ministerstva průmyslu a obchodu (MPO) a evropských zdrojů je klíčové zajistit ochranu základních práv a transparentnost. Když víme, kdo za rozhodnutí AI odpovídá, posiluje to důvěru veřejnosti a umožňuje poškozeným domáhat se náhrady. Na druhé straně ale slyšíme varování. Firmy i odborníci, například z České asociace umělé inteligence (ČAUI), upozorňují, že přílišná regulace může brzdit inovace. A co víc, jak můžeme přisoudit vinu, když AI není právním subjektem a nemá žádnou „emoční inteligenci“?

AI Act: První krok, ale stačí?

V současné době jsme svědky prvního velkého testu evropské regulace. AI Act, který začal platit loni, ukládá firmám povinnosti jako zajištění lidského dohledu, označování AI výstupů nebo školení zaměstnanců v oblasti AI gramotnosti – a to od února 2025. Podle dostupných informací z MPO se tato pravidla dotýkají tisíců firem napříč EU, včetně těch českých, a přinášejí s sebou i nemalé náklady na audity a dokumentaci.

V Česku se implementace AI Actu rozbíhá pod vedením vládního zmocněnce pro AI Jana Kavalírka. Dohled nad pravidly mají orgány jako Český telekomunikační úřad (ČTÚ) nebo Úřad pro technickou normalizaci (ÚNMZ). Přinejmenším v teoretické rovině to vypadá slibně. Jenže v praxi zůstává otázka – dokáže tato pravidla skutečně vyřešit dilema odpovědnosti? Směrnice o odpovědnosti za AI, která by měla přinést jasnější odpovědi, je zatím pozastavena a očekává se až kolem roku 2028.

Dopady na nás všechny

A jak to všechno ovlivňuje nás, běžné lidi, a české firmy? Na jednu stranu máme větší ochranu – právo zpochybnit rozhodnutí AI nebo požadovat transparentnost. Na druhou stranu firmy čelí rostoucí administrativní zátěži, což může znamenat vyšší náklady a pomalejší inovace. Jak ukazují analýzy z Hospodářské komory ČR, malé a střední podniky mohou mít problém s financováním školení a zajištěním compliance.

Když se podíváme do budoucna, je jasné, že otázka odpovědnosti za AI bude aktuální dlouho. Na základě trendů, které sledují evropské instituce, lze odhadovat, že do roku 2030 dojde k dalšímu zpřesnění pravidel – třeba přijetím Směrnice o odpovědnosti za AI kolem roku 2026. Současně se očekává rozvoj takzvané vysvětlitelné AI, která by mohla prolomit problém „black boxu“. A co když jednou přijde doba, kdy AI dosáhne takové autonomie, že budeme muset zvažovat její právní subjektivitu? To je zatím hudba daleké budoucnosti, ale už teď je třeba se na ni připravovat.

My všichni – firmy, instituce i jednotlivci – stojíme na prahu nové éry. AI Act je prvním krokem k tomu, aby technologie sloužily lidem, a ne naopak.

Foto: Vytvořeno umělou inteligencí v ChatGPT

Autor: Petr Poreba