Platformy umělé inteligence (AI) se v bankovním sektoru masivněji využívají více než deset let. České banky nejsou výjimkou, jak zaznělo na pracovní snídani společnosti SAS Institute, světového lídra v oblasti umělé inteligence, strojového učení a analýzy dat, a sdružení Czech Institute of Directors. Ve větších bankách funguje až 40 různých nástrojů, které využívají principy umělé inteligence a strojového učení. Omezujícím faktorem ještě dynamičtějšího růstu AI v tomto sektoru jsou regulace.
„Jednou ze stěžejních otázek současného prudkého rozvoje umělé inteligence je vysvětlitelnost. U některých typů AI nedokážeme přesně vysvětlit, jak ke svým závěrům dospěla. Došli jsme tak do stavu, kdy se uživatelé umělé inteligence musí rozhodnout mezi potenciálně výkonnější formou AI a částečnou ztrátou kontroly nad výstupy, nebo standardními modely umělé inteligence, u které výstupy dokážeme přesně vysvětlit. Stále naléhavější otázkou tedy v oblasti AI je použití různých typů modelů v různých situacích a to, kdo má zodpovědnost za rozhodování AI,“ uvedl Luděk Šafář, CE Presales Director, SAS Institute ČR.
Pro banky je vysvětlitelnost v rozhodování umělé inteligence zcela klíčová. Musí být regulátorovi schopny v každém okamžiku vysvětlit, proč a jak se rozhodují. Regulátor chce konsistenci v rozhodování. Určitým varováním může být negativní zkušenost z USA, kde nesprávné nasazení AI vedlo v některých případech k diskriminaci při posuzování žádostí o úvěr.
Nicméně vývoj v oblasti umělé inteligence je tak rychlý a dopěl již do stádia, kdy se předpokládá, že na ni budeme delegovat rozhodnutí. Regulace, vysvětlitelnost a etická stránka v přístupu k AI budou důležité pro bankovnictví, zdravotnictví, veřejný sektor a další oblasti. Nulový význam bude mít ale pro podvodníky, kteří se budou snažit stále sofistikovanějšími způsoby za využití výkonné AI nezákonně obohatit.
Pokud budou lidé vystaveni cílenému podvodu s využitím AI, bude pro ně stále těžší poznat, s kým vlastně mluví, zda je to rodinný příslušník, kamarád nebo známý. Na konferenci proto mimo jiné zaznělo i varování, že pro průměrného občana bude toto riziko do budoucna růst. Proto nejenom banky všem doporučují maximální obezřetnost při nakládání s finančními prostředky, dodržovat bezpečnostní zásady a při jakýchkoli pochybnostech raději kontaktovat banku.
Zdroj: Benes Consulting Group
Sdílet
Hodnotit
Autor článku
