Elon Musk si možná zvykl na to, že jeho projekty balancují na hraně kontroverze. Tentokrát ale nejde o tweet nebo provokativní vyjádření – jde o technologii, která podle Evropské komise vytváří „nelegální, nepřijatelný a nechutný“ obsah. Chatbot Grok, vyvinutý Muskovou společností xAI a integrovaný do platformy X, se dostal do hledáčku bruselských regulátorů. A ti tentokrát nemíní ustoupit.
Co se vlastně stalo?
Grok, umělá inteligence spuštěná v listopadu 2023, nabízí uživatelům možnost generovat obrázky prostřednictvím funkce Grok Imagine. Problém? Nástroj umožňuje vytvářet sexualizované a deepfake snímky, včetně zobrazení nezletilých a žen v ponižujících situacích. Henna Virkkunen, technologická šéfka Evropské komise, ostře kritizovala systémové selhání platformy a zdůraznila, že jde o záměrné zanedbání bezpečnostních opatření.
Reakce Bruselu byla rychlá. Komise zaslala společnosti X žádost o podrobné informace a nařídila uchovat všechny dokumenty a data týkající se Groku až do konce roku 2026. Virkkunen jasně naznačila, že Evropa nehodlá čekat: „Nebudeme váhat použít Zákon o digitálních službách k ochraně občanů EU.“
Když bezpečnostní pojistky selžou
Společnost xAI zpočátku reagovala spíše zlehčováním. Pod tlakem regulačních orgánů z Evropy, Indie i Malajsie ale nakonec přiznala „selhání bezpečnostních pojistek“ a přislíbila nasazení přísnějších filtrů. Omezení funkce generování obrázků pouze na platící uživatele? Podle odborníků nedostatečné řešení. Brusel jasně naznačil, že placené bariéry nejsou odpovědí na systémové selhání.
Přinejmenším ne v Evropě, kde AI Act klade na poskytovatele umělé inteligence mnohem přísnější nároky než třeba v USA. Zatímco v Americe je právní situace kolem AI generovaného obsahu stále nejednoznačná, evropská legislativa staví jasné mantinely.
Zákon o digitálních službách jako hrozba
Zákon o digitálních službách (DSA) vyžaduje, aby platformy jako X aktivně řešily systémová rizika spojená se šířením nelegálního obsahu. Pokud tak neučiní, hrozí jim pokuty až do výše 6 % globálního ročního obratu. V prosinci loňského roku Komise uložila X pokutu 120 milionů eur za menší porušení transparentnosti – což vyvolalo vlnu kritiky ze strany Trumpovy administrativy.
Tentokrát jde ale o víc než o formální přestupky. Jde o to, zda technologické giganty dokážou – nebo chtějí – kontrolovat nástroje, které samy vytvořily.
Co z toho plyne?
Případ Groku ukazuje, jak rychle se může inovace změnit v regulační noční můru. Muskova xAI získala od investorů, včetně výrobce čipů Nvidia, 20 miliard dolarů. Grok měl být odpovědí na ChatGPT – rychlejší, provokativnější, s přístupem k informacím v reálném čase. Jenže ambice narazily na realitu: technologie bez dostatečných bezpečnostních mechanismů se může stát nástrojem zneužití.
Brusel nyní čeká na reakci. Musk má na výběr: buď rychle zavede změny, nebo čelí sankcím, které by mohly být citelné i pro miliardáře jeho kalibru. Otázka zní, jestli tentokrát ustoupí – nebo zda se spor vyhrotí do další kapitoly souboje mezi Silicon Valley a evropskými regulátory. Éra, kdy technologické firmy mohly experimentovat bez dozoru, se v Evropě definitivně uzavírá.
Zdroj info: Politico.eu
Autor: Petr Poreba
Foto: Vytvořeno umělou inteligencí v ChatGPT
Sdílet
Hodnotit
Autor článku
