Určovanie pravdivosti online obsahu sa stáva čoraz náročnejším a proces jeho overovania je dlhší, často vedie k neistote, či ide o vymyslené informácie. Umelá inteligencia je už využívaná v oveľa väčšej miere a rastúca online hrozba nepravdivých informácií ohrozuje najmä mladých používateľov. Falošný obsah, vytváraný v obrovských množstvách, môže spôsobiť zmätok, alebo predstavovať vážne riziko pre zdravie a život.
Určovanie, čo je pravda a čo nie, je čoraz náročnejšie a overovanie informácií trvá dlho, pričom si nie sme úplne istí, či obsah nie je vymyslený. V Spojených štátoch sa umelá inteligencia využíva stále viac, čo vedie k rastúcemu problému s dezinformáciami, najmä medzi mladými používateľmi internetu.
Falošný obsah je vytváraný vo veľkom množstve a v lepšom prípade len spôsobuje zmätok, v horšom predstavuje vážne nebezpečenstvo pre zdravie a život. Umelá inteligencia uľahčuje vytváranie falošných textov, videí a zvukov, pričom stále viac tínedžerov tvrdí, že sú zavádzaní obsahom generovaným AI.
Štúdia neziskovej organizácie Common Sense Media, ktorá sa opiera o odpovede 1 000 tínedžerov vo veku 13 až 18 rokov, ukázala, že 35 % z nich sa stretlo s falošným online obsahom. Ďalších 22 % priznáva, že zdieľali nepravdivé informácie s priateľmi. Okrem toho 7 z 10 tínedžerov sa aspoň raz pokúsilo použiť nástroje umelej inteligencie. Mladí ľudia tvrdia, že falošný obsah zhoršuje proces overovania, čo vedie k dlhotrvajúcemu overovaniu a neistote, či je informácia pravdivá.
Nedôvera vo veľké technologické firmy
Mladí ľudia nedôverujú veľkým technologickým spoločnostiam, ako sú Google, Apple, Meta, TikTok a Microsoft. V prieskume takmer polovica tínedžerov vyjadrila obavy, že tieto firmy nerobia zodpovedné rozhodnutia v oblasti umelej inteligencie. Rýchlosť, akou generatívna umelá inteligencia umožňuje šírenie neoverených tvrdení a neautentických médií, môže ešte viac zhoršiť už existujúcu nízku dôveru tínedžerov v inštitúcie ako médiá a vlády.
Tento nedostatok dôvery medzi mladými odráža širší trend nespokojnosti s veľkými technologickými firmami, ktorý je viditeľný aj medzi dospelými Američanmi. S nárastom dezinformácií a falošného obsahu sa znižuje dôvera v online informácie, čo vedie k väčšej polarizácii a konfliktom. Navyše veľké spoločnosti ako Twitter (teraz X) a Meta sa zdajú tieto problémy ignorovať.
Elon Musk znížil tímy zodpovedné za moderovanie obsahu, čo umožnilo šírenie dezinformácií a nenávistných prejavov, a Meta zrušila externých overovateľov faktov, nahradila ich komunitnými „poznámkami“, čo podľa Zuckerberga zníži cenzúru.
Sociálne siete ako Facebook, Instagram a X sa stále viac zapĺňajú nebezpečným obsahom, pričom značnú časť návštevnosti generujú boti, ktorí šíria vopred určené naratívy.
Ak tento trend pokračuje, môže to viesť k vážnym rizikám. Mladí ľudia môžu začať absorbovať falošné informácie, byť oklamaní a zapájať sa do diskusií s virtuálnymi entitami, ktoré neexistujú, ale presviedčajú ich o určitých ideách a správaní. Tínedžeri by mali byť opatrní pri rôznych formách podvrhnutého obsahu, ako sú falošné správy, propaganda a konšpiračné teórie.
Hrozby spojené s online prostredím
Riziká online sveta, na ktoré by si mladí používatelia internetu mali dávať pozor, zahŕňajú rôzne druhy falošného obsahu, ako sú dezinformácie, propaganda a konšpiračné teórie. Tu sú niektoré z bežných hrozieb:
- Falošné správy – Úmyselne vytvorené nepravdivé informácie, ktoré sa vydávajú za autentické. Zvyčajne majú dramatický charakter, aby prilákali pozornosť a zvýšili kliknutia. Tieto správy môžu manipulovať verejnú mienku, poškodiť reputáciu jednotlivcov alebo organizácií, ba aj ovplyvniť politické rozhodnutia. Môžu mať formu článkov, príspevkov na sociálnych sieťach či videí.
- Propaganda – Cielené šírenie informácií, myšlienok alebo ideológie, ktoré majú za cieľ ovplyvniť verejnú mienku alebo podporiť určité správanie. Propaganda je často emotívna, zjednodušená a manipulujúca s faktami, a používajú ju vlády, politické strany či korporácie.
- Konšpiračné teórie – Alternatívne vysvetlenia udalostí, ktoré odmietajú oficiálne fakty a pripisujú ich tajným spiknutiam. Tieto teórie sa často zakladajú na nedostatku dôkazov a špekuláciách a môžu viesť k nedôvere v inštitúcie, vedu a médiá.
- Manipulácia s fotografiami a videami – Úpravy obrázkov a videí, ktoré vytvárajú skreslený obraz reality. Môže ísť o jednoduché retušovanie fotografií alebo pokročilé techniky, ako je úprava videí a vytváranie nepravdivých súvislostí.
- Deepfake – Pokročilá technika manipulácie s videom, využívajúca umelú inteligenciu na vytvorenie realistických, ale falošných záberov verejných osobností, ktoré vykonávajú alebo hovoria veci, ktoré v skutočnosti nikdy neurobili. Deepfake je vážnou hrozbou pre reputáciu a môže sa využívať na politické alebo komerčné účely.
- Boti – Automatizované programy, ktoré sa vydávajú za skutočných používateľov na sociálnych sieťach. Boti môžu šíriť dezinformácie, propagovať propaganda, útočiť na jednotlivcov alebo organizácie a zvyšovať obľúbenosť účtov a obsahu.
Tento zoznam neobsahuje všetky riziká spojené so sociálnymi médiami, ale už teraz je zrejmé, aké nebezpečné tieto online platformy môžu byť.
Chatboty nie sú skutočný
Interakcia s chatbotmi a virtuálnymi postavami poháňanými umelou inteligenciou predstavuje relatívne novú hrozbu, najmä pre mladších používateľov internetu. V Kalifornii bol navrhnutý zákon, ktorý by nariadil spoločnostiam vyvíjajúcim umelú inteligenciu, aby deti informovali o tom, že chatboti nie sú skutoční ľudia.
Cieľom tohto návrhu je chrániť deti pred negatívnymi vplyvmi umelej inteligencie, ako sú závislosť, izolácia a manipulácia. Zákon by tiež požadoval, aby spoločnosti poskytovali ministerstvu zdravotníctva Kalifornie každoročné správy o výskyte samovražedných myšlienok u detí používajúcich online platformy a o prípadoch, keď chatboti začali túto tému v rozhovoroch s deťmi. Okrem toho by sa mal zákon zamerať na informovanie používateľov o tom, že chatboti nemusia byť vhodní pre všetky deti.
Sú nebezpečné
Ako sme už minulý rok informovali, jeden rodič podal žalobu na spoločnosť Character.AI, obviňujúc ju z toho, že jej chatboty s umelou inteligenciou predstavujú „neprimerané nebezpečenstvo“. Podľa žaloby tínedžer, ktorý sa neustále rozprával s botmi, spáchal samovraždu.
Ďalší právny krok obvinil firmu zo šírenia škodlivého obsahu medzi tínedžermi, ktorý zahŕňal podnecovanie k násiliu alebo agresii. Spoločnosť následne oznámila, že vyvíja rodičovskú kontrolu a nový model umelej inteligencie, ktorý by blokoval „citlivý alebo sugestívny“ obsah pre mladých používateľov.
„Naše deti nie sú pokusné králiky, na ktorých si technologické spoločnosti môžu vyskúšať svoje experimenty na úkor ich duševného zdravia,“ vyhlásil senátor Steve Padilla, ktorý predložil návrh zákona. „Potrebujeme rozumné záruky pre používateľov chatbotov, aby sme zabránili vývojárom v používaní návykových a neetických techník,“ dodal. Bez ohľadu na vývoj v USA, je dôležité venovať pozornosť podobným hrozbám aj na Slovensku.
