USA – Umělá inteligence s ChatGPT a podobnými už dávno patří do každodenního života. I sociální platforma X před několika měsíci představila KI‑chatbota „Grok“. Stále více uživatelů však tento nástroj zneužívá k vytváření sexualizovaných obrázků žen a dětí.

Spouštěčem je nová funkce chatbotu, která umožňuje upravovat obrázky.

Například když je zveřejněn běžný obrázek ženy, mohou uživatelé AI nařídit, aby zobrazovanou osobu svlékli nebo ji představili v odhalujícím oblečení – „Grok“ těmto příkazům vyhoví a vytvoří takzvané deepfake.

Dokonce i děti jsou tímto znepokojujícím „trendem“ zasaženy, jak uvádí Spiegel informuje.

V pozadí nejsou jen soukromé osoby, ale také celebrity . Mezi oběťmi manipulovaných AI‑obrázků se objevili například hvězda seriálu „Stranger Things“ Sadie Sink (23), její nezletilá kolegyně z seriálu Nell Fisher (14) nebo zpěvačka Sabrina Carpenter (26).

Ve studii organizace „AI Forensics“ vyšlo najevo, že z přibližně 50 000 veřejných dotazů na „Grok“ asi 53 % vygenerovaných obrázků zobrazovalo lidi v odhalujícím oblečení.

Většina těchto příkazů se zdá pocházet od mužů. Podle studie bylo přibližně 80 % profilů zařazeno jako mužské.

Výzkumníci také pomocí AI rozpoznávání obličejů odhadli věk osob na obrázcích. Podle odhadů dva procenta obrázků zobrazovalo osoby výrazně mladší než 18 let. Na přibližně 30 obrázcích měly být navíc malé děti.

Oběťmi těchto zobrazení jsou převážně běžní uživatelé. Pouze šest procent zkoumaných obrázků zobrazovalo celebrity.

Po několik týdnů zaplavovaly tyto obrázky platformu Elona Muska (54), zatímco společnost dlouho nic neudělala.

Mezitím přiznal účet chatbota chybu. Selhání bezpečnostních opatření je příčinou. Šíření zneužitelného materiálu je nezákonné. Na opravě pracují.

Na rozdíl od toho zakladatel Tesly zpočátku kritiku zesměšňoval. Podle BR24 opakovaně reagoval na stížnosti smíchem a emotikonami nebo dokonce sám generoval bikini obrázky.

Mezitím se Musk postavil proti generovaným fotografiím: Kdo používá Grok k nelegálním účelům, musí počítat s následky, řekl 54letý.

Ministr kultury a státní správy Wolfram Weimer (61) před několika dny vyzval Evropskou komisi, aby proti platformě zahájila právní kroky, jak Reuters informoval.

"To, co nyní na X pozorujeme, vypadá jako industrializace sexuálního obtěžování," řekl 61letý. Také francouzská vláda již zahájila vyšetřování proti platformě.