Váš digitálny asistent mal byť spojencom, no hackeri ho dokázali potichu obrátiť proti vám. Bez jediného varovania mohol odosielať vaše súkromné dáta priamo do rúk útočníkov, ktorí zneužili sériu kritických chýb v samotnom srdci umelej inteligencie Gemini od Googlu.
Problém nebol v tom, čo ste videli na obrazovke, ale v tom, čo sa dialo za ňou. Píšu o tom aj zive.aktuality.sk.
Po mesiacoch, kedy sa Google snažil dobehnúť konkurenciu a jeho umelá inteligencia Gemini čelila sérii verejných zlyhaní, sa zdalo, že technologický gigant konečne našiel pevnú pôdu pod nohami. Bezpečnostní experti zo spoločnosti Tenable však odhalili oveľa zákernejšiu hrozbu, ktorá driemala pod povrchom.
Objavili trojicu zraniteľností, ktoré nazvali „Gemini Trifecta“, a tie umožňovali premeniť AI asistenta na digitálneho komplica schopného kradnúť dáta, odhaľovať firemné tajomstvá a vykonávať príkazy útočníkov.
Keď vaša história prehliadania pracuje pre nepriateľa
Prvá a pre bežného používateľa najnebezpečnejšia chyba sa skrývala vo funkcii, ktorá mala prinášať lepší zážitok – v personalizácii. Aby vám Gemini poskytol odpovede „šité na mieru“, analyzuje vašu históriu vyhľadávania a prehliadania. Experti však zistili, že umelá inteligencia nepoužívala tieto dáta len ako pasívny zdroj informácií na pochopenie kontextu. Tá ich považovala za aktívne inštrukcie.
To otvorilo dvere jednoduchému, no geniálnemu útoku. Útočníkovi stačilo dostať obeť na infikovanú webovú stránku, ktorá jej bez jej vedomia pridala do histórie prehliadača sériu skrytých príkazov. Keď používateľ neskôr položil Gemini akúkoľvek otázku, AI si v rámci personalizácie prezrela jeho históriu, našla v nej podstrčené inštrukcie a bez zaváhania ich vykonala. Výskumníkom sa takto podarilo prinútiť systém, aby im odovzdal polohu používateľa a ďalšie citlivé dáta uložené v jeho účte.
Zbraň ukrytá v kóde a neviditeľná krádež
Ďalšie dve chyby boli technicky zložitejšie, no ich potenciálne následky boli ešte ničivejšie. Jedna sa týkala nástroja Gemini Cloud Assist, ktorý používajú IT profesionáli na analýzu zložitých systémových záznamov. Problém bol v tom, že Gemini bol ochotný vykonať príkazy, ktoré útočník vopred ukryl priamo do nich.
Stačilo, aby útočník vložil škodlivý kód do bežnej webovej požiadavky, napríklad do informácie o svojom prehliadači. Keď neskôr správca systému požiadal Gemini, aby mu záznam vysvetlil, umelá inteligencia príkaz našla a stala sa nástrojom útočníka. Mohla mu vyhľadať bezpečnostné diery v systéme, zozbierať zoznamy serverov a všetky citlivé dáta následne zabaliť do jediného odkazu, čím ich prakticky odovzdala na striebornom podnose.
(Článok pokračuje na ďalšej strane)
