V Austrálii došlo k vážnemu prípadu otravy po tom, čo muž nahradil bežnú kuchynskú soľ chemikáliou, ktorú mu odporučil chatbot. Incident vyvolal varovania lekárov, aby ľudia nepovažovali umelú inteligenciu za spoľahlivý zdroj zdravotných rád a vždy sa obracali na odborníkov.
Chatboty sa stali súčasťou bežného života – od plánovania dovoleniek po písanie e-mailov. Mnohí ich používajú ako rýchly zdroj informácií, no experti upozorňujú, že v oblasti zdravotníctva ide o riskantný priestor, ktorý môže viesť k vážnym následkom, uviedol portál indy100.com. Obeťou nebezpečného odporúčania sa stal muž, ktorý sa snažil znížiť príjem soli a zlepšiť svoje zdravie. Podľa lekárskej správy publikovanej v časopise Annals of Internal Medicine mu chatbot navrhol, aby kuchynskú soľ (chlorid sodný) nahradil bromidom sodným. Bez toho, aby si informáciu overil u lekára, si chemikáliu objednal online a tri mesiace ju pravidelne konzumoval.
Bromid sodný však nie je potravina – ide o prostriedok používaný pri dezinfekcii vody, likvidácii rias, baktérií či mäkkýšov. Táto zásadná informácia v odpovedi chatbota chýbala. Po niekoľkých mesiacoch užívania sa u muža objavili paranoidné myšlienky a presvedčenie, že sa ho snaží otráviť sused.
Podľa lekárov sa jeho stav počas prvých hodín hospitalizácie rýchlo zhoršoval – objavili sa halucinácie a paranoja, čo vyústilo až do nedobrovoľného psychiatrického zadržania, keď sa pokúsil ujsť. Po nasadení liekov sa pacient upokojil a dokázal opísať, ako k situácii došlo vrátane toho, že impulz prišiel z konverzácie s chatbotom.
Vyšetrenia preukázali extrémne vysokú hladinu bromidov v krvi – namiesto bežných menej ako 10 mg/l mal pacient až 1 700 mg/l. Lekári konštatovali, že ide o prípad bromizmu, zriedkavého, ale závažného stavu spôsobeného hromadením bromidov v tele.
Odborníci v zverejnenej štúdii upozornili, že systémy umelej inteligencie môžu obsahovať vedecké nepresnosti, nedokážu kriticky vyhodnotiť vlastné odpovede a môžu neúmyselne šíriť nepravdivé alebo neúplné informácie. Incident podľa nich jasne ukazuje, že aj keď môže byť AI užitočným pomocníkom, v oblasti medicíny by nikdy nemala nahrádzať rady kvalifikovaných zdravotníkov.
