Indonézia sa stala vôbec prvou krajinou na svete, ktorá sa odhodlala k radikálnemu kroku a zablokovala prístup k chatbotovi Grok od spoločnosti Elona Muska.
Dôvodom je nekontrolované šírenie pornografického obsahu generovaného umelou inteligenciou, ktorý zneužíva tváre dospelých aj detí. Informuje o tom aj portál Independent.
Kým svetoví lídri hovoria o sexuálnom násilí v digitálnom priestore, Muskova firma reaguje na obvinenia svojským spôsobom a kritiku médií označuje za klamstvo.
Indonézska exekutíva vníma existenciu takýchto digitálnych nástrojov bez dostatočných poistiek ako priame ohrozenie ľudskej dôstojnosti a bezpečnosti svojich občanov. Ministerka pre komunikáciu a digitálne záležitosti Meutya Hafidová zdôraznila, že vytváranie sexuálnych deepfakov bez súhlasu dotknutých osôb predstavuje neprípustný zásah do základných práv.
„Vláda vníma prax nezákonných sexuálnych deepfakov ako vážne porušenie ľudských práv, dôstojnosti a bezpečnosti občanov v digitálnom priestore,“ uviedla Hafidová v oficiálnom vyhlásení. Rezort si už predvolal zástupcov sociálnej siete X, aby vysvetlili, ako je možné, že ich systém umožňuje generovanie takýchto škodlivých materiálov v krajine, ktorá má najväčšiu moslimskú populáciu na svete a uplatňuje prísne zákony proti šíreniu obscénneho obsahu.
Indonézsky zákaz však nepredstavuje ojedinelý prejav nespokojnosti, hoci je zatiaľ najprísnejší. Proti praktikám chatbota Grok sa búri aj Európa, kde sa k vlne kritiky pridalo Švédsko. Tamojší premiér Ulf Kristersson označil správanie algoritmov za formu sexuálneho násilia po tom, čo sa obeťou digitálnej manipulácie stala dokonca aj podpredsedníčka jeho vlády.
Podľa švédskeho lídra je takýto obsah nielen nevkusný, ale v civilizovanej spoločnosti úplne neakceptovateľný. „Je to druh sexualizovaného násilia. Je to nevkusné, neprijateľné a urážlivé,“ nešetril kritikou Kristersson. Podobne reaguje aj Európska komisia, ktorá nariadila sieti X uchovávať všetku dokumentáciu týkajúcu sa vývoja chatbota, kým sa neprešetrí súlad s európskymi nariadeniami o digitálnych službách.
Samotný Elon Musk sa snaží zodpovednosť preniesť na koncových používateľov a tvrdí, že ktokoľvek zneužije Grok na vytváranie nezákonného obsahu, bude čeliť rovnakým následkom, ako keby takýto materiál priamo nahral na internet. Spoločnosť xAI, ktorá za chatbotom stojí, v reakcii na globálnu vlnu odporu narýchlo obmedzila funkcie generovania a úpravy obrázkov len pre platiacich odberateľov. Ide o pokus zaplátať diery v bezpečnostných systémoch, ktoré predtým dovolili používateľom priamo žiadať o virtuálne vyzliekanie osôb na fotografiách či ich vkladanie do vulgárnych póz. Keď sa agentúra Reuters pokúsila získať oficiálne vyjadrenie od xAI, dočkala sa len automatickej odpovede v znení: „Klamstvá tradičných médií„.
