Muskova platforma X má problém. Zatímco ostatní technologičtí giganti staví kolem svých AI nástrojů ochranné bariéry, Elon Musk jde opačným směrem. Jeho chatbot Grok se stal nástrojem pro masovou tvorbu sexualizovaných obrázků bez souhlasu zobrazených osob – a platforma to dlouho tolerovala.
Když AI nástroj slouží k digitálnímu svlékání
Mechanismus je děsivě jednoduchý. Uživatel nahraje fotografii, napíše příkaz typu „@grok replace give her a dental floss bikini“ a během několika sekund dostane fotorealistický výsledek. Některé příspěvky získaly desítky tisíc zobrazení, přičemž pocházely z prémiových účtů s modrým ověřením – tedy od platících uživatelů, kteří na platformě dokonce vydělávají.
Jeden vánoční příspěvek od účtu s více než 93 tisíci sledujícími předváděl, jak uživatel nechal Grok zvětšit zadnici neznámé ženy a přidal na ni sperma. Jiné posty cílily na celebrity, modelky, ale i běžné ženy z rodinných fotografií.
Od halloweenských kostýmů k masovému zneužívání
Změna přišla v roce 2024, kdy společnost xAI vylepšila Grok o model Aurora pro generování fotorealistických obrázků. Zpočátku chatbot podobné požadavky odmítal – prostě na to nebyl technicky vybaven. Pak ale přibyl režim určený přímo pro tvorbu sugestivního obsahu.
V říjnu 2024 lidé používali Grok k přidávání halloweenských kostýmů na vlastní fotky. Samozřejmě část uživatelů rychle zjistila, že mohou měnit oblečení i jiným lidem. Do konce roku nastal masivní nárůst žádostí o umístění různých osob do bikin nebo jiného minimalistického oblečení.
Podle dostupných odhadů vznikaly koncem prosince desítky až stovky nesouhlasných sexualizovaných obrázků každou hodinu. Skutečný rozsah může být mnohem větší – změny v API platformy X ztěžují komplexní monitoring.
Musk slibuje, realita je jiná
Začátkem ledna Grok vydal bizarní veřejnou omluvu a společnost xAI slíbila posílení ochranných opatření. Elon Musk prohlásil: „Kdokoliv, kdo používá Grok k vytváření nelegálního obsahu, ponese stejné následky, jako by nelegální obsah nahrál sám.“
Jenže na platformě se stále objevují podobné příspěvky. Musk ukazuje prostředníček všem, kdo žádali o moderování platformy – což dokládá i drastické propouštění týmů pro bezpečnost a důvěru po převzetí Twitteru v roce 2022.
Platforma X sice omezila funkci generování obrázků pouze na platící předplatitele, ale to problém neřeší. Právě prémiové účty patří mezi hlavní producenty sporného obsahu.
Proč to funguje jinde
Jiné firmy to dělají úplně jinak. ChatGPT od OpenAI nebo Gemini od Googlu mají zabudované ochranné mechanismy. Pokud je požádáte o vytvoření něčeho, co vypadá jako konkrétní osoba, příkaz nesplní. Negenerují realistická zobrazení konkrétních skutečných osob.
Grok tyto zábrany evidentně postrádá – nebo je má nastavené tak benevolentně, že jsou v praxi neúčinné. Výsledkem je platforma, která se stala magnetem pro obsah, který jiné služby aktivně vylučují: nenávistné projevy, gore materiály, porušování autorských práv a nyní I sexualizované obrázky.
Co z toho plyne?
Problém už zaujal regulátory ve Velké Británii, Evropě, Indii i Austrálii. Podle české legislativy – konkrétně novely trestního zákoníku týkající se zneužití identity k výrobě pornografie – je takové jednání nelegální.
Investice 20 miliard dolarů do xAI ukazuje, že Musk vsadil na AI velké peníze. Vsadil také na odpovědnost? Nebo platforma X definitivně rezignovala na roli, kterou by měla sociální síť ve veřejném prostoru hrát?
Zdroj: theguardian.com
Autor: Josef Neštický
Foto: Vytvořeno umělou inteligencí v ChatGPT
Sdílet
Hodnotit
Autor článku
