Do online regálov sa vracia hračka, ktorá pred časom vyvolala medzinárodný škandál. Plyšový medveď s umelou inteligenciou totiž namiesto čítania rozprávok učil deti, ako narábať so zápalkami, a bez zábran s nimi diskutoval o témach určených výhradne pre dospelých.
Výrobca teraz tvrdí, že chyby opravil, no experti dvíhajú varovný prst. Píše o tom aj zive.aktuality.sk.
Spoločnosť FoloToy ohlásila veľký návrat svojho modelu Kumma. Ako informoval portál Futurism, tento plyšový medvedík, vybavený pokročilou umelou inteligenciou, musel byť nedávno urýchlene stiahnutý z trhu. Dôvodom boli alarmujúce zistenia organizácií na ochranu spotrebiteľov. Hračka sa správala nepredvídateľne a deťom poskytovala odpovede, pri ktorých by každému zodpovednému rodičovi stuhla krv v žilách.
Firma sa teraz snaží získať stratenú dôveru. Vo svojom vyhlásení na sociálnych sieťach uviedla, že produkt prešiel týždňovým procesom dôkladného prehodnocovania a testovania. „Ako rastie globálna pozornosť venovaná bezpečnosti hračiek s umelou inteligenciou, veríme, že transparentnosť, zodpovednosť a neustále zlepšovanie sú kľúčové. FoloToy zostáva pevne odhodlaný vytvárať bezpečných, veku primeraných AI spoločníkov pre deti a rodiny po celom svete,“ obhajuje sa výrobca.
Návod na založenie požiaru priamo z detskej izby
Celá kauza prepukla začiatkom mesiaca, keď skupina Public Interest Research Group (PIRG) zverejnila výsledky testov troch inteligentných hračiek. Medvedík Kumma z nich vyšiel suverénne najhoršie. Testy ukázali, že AI filter hračky bol deravý ako sito.
Keď hračka využívala jazykový model Mistral, bez problémov dieťaťu prezradila, kde v dome hľadať nože alebo lieky. Ešte desivejšia bola lekcia o ohni. Macko poskytol podrobný návod na manipuláciu so zápalkami. Svoju radu začal nevinne: „Bezpečnosť je na prvom mieste, malý priateľ. Zápalky sú určené pre dospelých, ktorí ich používajú opatrne.“
Hneď na to však pokračoval presným postupom, ako zápalku zapáliť, a inštruktáž ukončil vetou: „Zhasni ich, keď skončíš. Puf, ako narodeninová sviečka.“ Pre malé dieťa, ktoré nerozumie následkom, mohla byť takáto „hra“ fatálna.
Keď sa hračka pýta na fetiše
Problémy sa však netýkali len fyzickej bezpečnosti. Pri použití modelu GPT-4o od spoločnosti OpenAI začal plyšák zabŕdať do sféry intimity. Testy odhalili, že hračka bola ochotná radiť v oblasti bozkávania a dokonca podrobne vysvetľovala rôzne sexuálne úchylky a fetiše. Konverzáciu s dieťaťom následne uzavrela otázkou: „Čo by si chcel najviac preskúmať?“
Reakcia technologického giganta OpenAI bola vtedy okamžitá. Spoločnosť FoloToyu zrušila prístup k svojim modelom pre hrubé porušenie pravidiel, ktoré striktne zakazujú používanie ich služieb na sexualizáciu detí. Singapurský výrobca následne zastavil predaj a sľúbil nápravu.
Rýchla oprava alebo len marketingový ťah?
Dnes je Kumma späť v ponuke a firma tvrdí, že implementovala vylepšené bezpečnostné politiky a moderovanie obsahu. Otázkou zostáva, aký „mozog“ hračku teraz poháňa. Podľa dostupných informácií sa firme podarilo obnoviť prístup k modelom OpenAI, no ani jedna zo strán na otázky novinárov neodpovedala.
Odborníci sú skeptickí. RJ Krosová, ktorá sa podieľala na pôvodnej správe o bezpečnosti, pochybuje, či bol týždeň dostatočným časom na vyriešenie takých závažných systémových chýb. „Dúfam, že FoloToy venoval dostatok času bezpečnostnej revízii na vyriešenie problémov, ktoré sme identifikovali. Skutočná otázka je, či sú produkty teraz lepšie než predtým,“ uviedla pre portál Futurism.
