Sociálna sieť X čelí bezprecedentnému škandálu, ktorý odhaľuje temnú stránku umelej inteligencie. Nástroj Grok, za ktorým stojí Elon Musk, sa v rukách anonymných používateľov zmenil na zbraň hromadného sexuálneho obťažovania.
Obeťami sú najmä indické ženy, ktorých nevinné fotografie algoritmus na požiadanie premieňa na vulgárne deepfake snímky, čím vymazáva hranicu medzi digitálnym priestorom a skutočným násilím. Píše o tom aj portál Independent.
Keď spisovateľka Ruchi Kokcha zverejnila na začiatku roka 2026 svoje prvé selfie, chcela ním vyjadriť optimizmus a sebavedomie do nových dní. Netušila, že jej tvár sa o pár hodín neskôr stane terčom pre voyeurov, ktorí využili integrovanú umelú inteligenciu platformy na to, aby ju digitálne vyzliekli.
Pod jej príspevkom sa začali hromadiť požiadavky pre chatbota Grok, aby ju zobrazil v mikro bikinách, pričom algoritmus tieto príkazy bez váhania plnil. „Všimla som si, že pod mojím príspevkom sa objavili anonymné účty, ktoré žiadali Grok, aby moju fotku upravil a vyzliekol ma do bikín,“ opísala autorka z Dillí pre The Independent šokujúcu realitu, ktorej dnes čelia milióny žien v online priestore. Nejde pritom len o izolovaný incident.
Umelá inteligencia chrlí tisíce nahých tiel každú hodinu
Rozsah tohto problému potvrdzujú aj mrazivé štatistiky. Len počas 24 hodín na začiatku januára generoval Muskov nástroj Grok priemerne 6 700 obrázkov za hodinu, ktoré boli identifikované ako sexuálne sugestívne alebo priamo odhaľujúce. V porovnaní s inými populárnymi stránkami na tvorbu podobného obsahu ide o päťdesiatnásobne vyššiu intenzitu.
Pre mnohé obete, ako je napríklad historička Ruchika Sharma, je situácia o to horšia, že nad procesom nemajú žiadnu kontrolu. Hoci sa vo svojom odbore často stretáva s kritikou či urážkami, možnosť nechať sa virtuálne obnažiť cudzími ľuďmi považuje za absolútne prekročenie všetkých hraníc. „Naplnil ma pocit hnusu a bezmocnosti pri pomyslení na to, čo s tým vôbec môžem urobiť. Je to prepracovaný nástroj v rukách mužov po celom svete, ale v rukách indických mužov ide o absolútnu katastrofu,“ dodáva Sharma.
Reakcia majiteľa siete X však namiesto empatie priniesla skôr výsmech. Elon Musk situáciu zľahčil zverejnením obrázka hriankovača v bikinách s komentárom, že jeho umelá inteligencia dokáže obliecť do bikín čokoľvek.
Kým sa miliardár zabával na vtipoch, indické rodiny sa začali rúcať pod tlakom verejného hanobenia. Jedna z používateliek, Nandini, opísala, ako deepfake snímky jej postavy z posilňovne spôsobili také stresové vypätie, že jej rodičia skončili na nemocničnom lôžku.
Politička bije na poplach a žiada okamžité vysvetlenie
Do prípadu sa vložila aj indická poslankyňa Priyanka Chaturvedi, ktorá okamžite kontaktovala tamojšie ministerstvo elektroniky a informácií. Vo svojom liste ostro kritizovala platformu za to, že aktívne pomáha pri porušovaní práva na súkromie a neoprávnenom používaní fotografií. Podľa nej nemôže byť India len pasívnym divákom v momente, keď sa verejne a bez následkov šliape po dôstojnosti žien.
„Grok na tieto požiadavky odpovedal a umožňoval takéto správanie. Musk to predtým obhajoval prirovnaním k peru – autor rozhoduje, čo napíše – ale v týchto prípadoch o ničom nerozhodoval autor, bola to odpoveď algoritmu na zadaný podnet,“ vysvetľuje zákonodarkyňa. Jej iniciatíva viedla k tomu, že indický tím siete X dostal 72 hodín na vysvetlenie týchto závažných porušení zákona.
Pod obrovským tlakom verejnosti aj regulátorov, vrátane britského úradu pre ochranu údajov, sieť X nakoniec pristúpila k obmedzeniu funkcií. Generovanie obrázkov je teraz dostupné len pre platiacich predplatiteľov, čo má údajne zvýšiť zodpovednosť používateľov.
Odborníci na digitálne práva však tvrdia, že ide o neskorý a nedostatočný krok. Podľa nich technologickí giganti vedome odkladajú bezpečnostné mechanizmy v mene vyššieho dosahu a popularity. Kým sa zisky spoločnosti zvyšujú, ženy sa na internete uchyľujú k zúfalým pokusom o ochranu a do svojich profilov pridávajú textové zákazy pre umelú inteligenciu, ktoré však stroje často ignorujú.
