Na komunikačnej sieti Telegram sa v posledných mesiacoch rozšíril znepokojivý fenomén, ktorý odhaľuje temnú stránku využívania umelej inteligencie. Objavila sa tu sieť nástrojov, tzv. „vyzliekacích botov“, ktoré dokážu z obyčajnej fotografie ženy vygenerovať falošný nahý či dokonca explicitný obrázok.
Ide o automatizované systémy prístupné cez bežné chatové rozhranie, ktoré využívajú milióny používateľov po celom svete. Podľa magazínu Wired sa za posledné mesiace okolo týchto služieb vytvoril rozsiahly neformálny biznis, v ktorom jednotlivé kanály združujú milióny členov a zisky plynú z tokenových platieb a masovej výroby falošných záberov.
Používanie takýchto botov je mimoriadne jednoduché – stačí nahrať fotografiu, zaplatiť virtuálnou menou a v priebehu niekoľkých minút používateľ dostane výsledný obrázok. Niektoré služby dokonca umožňujú vložiť viacero fotografií tej istej osoby, čím sa zvyšuje presnosť a realistickosť výsledku. Tento technologický trend má však mimoriadne vážne etické aj psychologické dôsledky. Mnohé ženy a dievčatá sa stávajú obeťami vydierania či verejného zosmiešňovania, často bez toho, aby vedeli, že ich snímky boli zneužité. Kým sa falošné fotografie nezačnú šíriť internetom, o celej veci vôbec netušia.
Nový terč zneužívania
Odborníci na digitálne násilie upozorňujú, že ide o novú formu zneužívania, ktorá najčastejšie postihuje ženy. Telegram síce oficiálne deklaruje nulovú toleranciu voči obsahu zobrazujúcemu zneužívanie detí, no pri deepfake materiáloch, ktoré zobrazujú dospelých, neexistuje jednoznačný právny ani etický rámec. Moderovanie je navyše pomalé a reaktívne – k odstráneniu botov dochádza väčšinou až po medializácii prípadu alebo po nahlásení. Prakticky okamžite sa však objavujú nové účty s rovnakou funkcionalitou, len pod inými názvami.
Situácia na Telegrame sa stala symbolom širšieho problému. Vlády viacerých krajín sa pokúšajú reagovať sprísňovaním legislatívy, ktorá má pokrývať aj prípady vytvárania a šírenia deepfake pornografie. Objavujú sa dokonca aj civilné žaloby voči tvorcom a prevádzkovateľom týchto služieb. Napriek tomu zostáva vymáhanie práva zložité, pretože platformy ako Telegram pôsobia v medzinárodnom priestore a sú často mimo dosahu jednotlivých štátov.
Podľa denníka Pravda je tento stav ukážkou systémového zlyhania. Aj keď sa po medializácii niektoré boty odstránia, nízke prevádzkové náklady, vysoký dopyt a technická jednoduchosť zaručujú, že neustále vznikajú nové – ešte prepracovanejšie a ťažšie odhaliteľné. Pokiaľ sa legislatíva a interné pravidlá platforiem nezjednotia a nebudú prísne zakazovať tvorbu aj šírenie explicitných deepfake materiálov, spoločnosť zostane o krok pozadu. Obete tak naďalej čelia nekonečne obnovujúcemu sa systému digitálneho zneužívania, ktorý sa vyvíja rýchlejšie, než dokážu úrady a zákony reagovať.
