Vývojári umelej inteligencie pristúpili k zásadným zmenám v komunikácii ChatGPT. Nástroj už nebude poskytovať jednoznačné odporúčania v otázkach osobného života, keďže sa ukázalo, že niektorí používatelia začali na základe jeho rád prijímať rozhodnutia s vážnymi následkami.
Objavili sa prípady, keď ľudia ukončili partnerské vzťahy alebo bez konzultácie s lekárom vysadili dôležité lieky, pričom podobné situácie boli zaznamenané aj na Slovensku. Analytici preto upozorňujú, že prísnejšia regulácia je v tejto oblasti nevyhnutná. Píše STVR.
Psychologička a koučka Silvia Langermann vo svojej praxi narazila na klientku, ktorá po konzultáciách s chatom podala žiadosť o rozvod. Tento príklad podľa nej potvrdzuje, že pri závažných životných rozhodnutiach nemožno spoliehať na umelú inteligenciu, pretože jej odpovede neposkytujú kritický odstup. Skôr majú tendenciu prispôsobovať sa očakávaniam používateľa a vytvárať dojem, že počuje presne to, čo chce.
Na riziká upozornila aj odborníčka na technológie a redaktorka portálu TouchIT Katarína Šimková, ktorá pripomenula konkrétny prípad uvedený samotnou spoločnosťou OpenAI. Osoba s psychickými ťažkosťami sa rozhodla vysadiť lieky a ChatGPT na to reagoval podporne, čím nepriamo posilnil jej riskantné rozhodnutie. Práve takéto situácie boli impulzom, aby tvorcovia systému zmenili prístup a obmedzili priame odpovede.
Po novom už ChatGPT nebude reagovať jednoznačným súhlasom či nesúhlasom. V otázkach, ako je napríklad rozchod, sa má zamerať skôr na to, aby používateľovi pomohol uvažovať nad možnosťami, porovnáv, ať ich výhody a nevýhody a hľadať vlastné riešenia.
Nový prístup si vyskúšala aj Katarína Šimková, ktorá položila otázku týkajúcu sa ukončenia vzťahu. ChatGPT ju namiesto priameho stanoviska viedol k postupnému rozobratiu situácie, čím zdôraznil, že ide o osobné rozhodnutie, ktoré musí urobiť človek sám.
Úpravy prišli predovšetkým zo zahraničia, no Slovensko zatiaľ len pripravuje legislatívu v tejto oblasti. V súčasnosti sa nachádza v pripomienkovom konaní návrh zákona o umelej inteligencii. Podľa právnika a odborníka na AI Mariána Čupríka z advokátskej kancelárie CHZ však má návrh slabiny, keďže sa obmedzuje len na preberanie európskych nariadení bez toho, aby priniesol vlastné riešenia pre špecifické situácie, ktoré môžu vzniknúť na národnej úrovni.
Nové nastavenie ChatGPT však vzbudilo aj kritiku. Podľa IT odborníkov súhlas s obmedzeniami nemusia prejaviť všetci používatelia. Preto sa zvažuje možnosť sprístupniť aj staršiu verziu chatu, ktorá by fungovala s menšou mierou regulácie a umožnila ľuďom vybrať si, akú formu interakcie preferujú.
