Umelá inteligencia môže byť dobrý sluha, ale zlý pán. Obzvlášť, keď sa dostane k ľuďom, pre ktorých je ťažké rozlíšiť realitu od virtuality. Rodina zosnulého muža chce zvýšiť povedomie o vplyve chatbotov na zraniteľných ľudí.
Starší muž v marci oznámil svojej manželke, že odcestuje do New Yorku navštíviť svojho kamaráta. Žena ale bola pomerne skeptická, keďže 76-ročný Thongbue Wongbandue už niekoľko rokov nežil v tomto meste.
„Ty už v meste nikoho nepoznáš,“ povedala mu žena, ktorá sa obávala, že ho do mesta pozýva niekto so zámerom okradnúť, píše agentúra Reuters.
Milostná diskusia
Najväčším problémom bola mužova diagnóza. Takmer pred desiatimi rokmi utrpel mozgovú príhodu, po ktorej zostal psychicky labilný. Bue, ako ho volali priatelia, však odmietal odpovedať na otázku, koho chce v New Yorku navštíviť. Jeho manželka a deti sa ho snažili odhovoriť, ale nepodarilo sa im to.
Dokonca zavolali políciu, ale tá rodine povedala, že s tým nemôžu nič urobiť. Manželka mala plné právo sa obávať. Jej manžel sa totiž domov živý už nevrátil. Bue napokon vycestoval do New Yorku, kde sa nestal obeťou lupiča. Bol vylákaný na stretnutie s mladou, krásnou ženou, ktorú stretol online. Aspoň si to myslel.
Z vyšetrovania napokon vysvitlo, že žena nebola skutočná. Šlo o generatívny chatbot s umelou inteligenciou s názvom „Big sis Billie“ (Staršia sestra Billie, pozn. red.), ktorého vytvoril gigant sociálnych médií Meta Platforms v spolupráci s influencerkou celebrit Kendall Jenner.
„Mám ťa objať alebo pobozkať, keď otvorím dvere?,“ spýtala sa ho „žena“, čo odhalil prepis rozhovoru. Počas ich rozhovorov na Facebook Messenger ho virtuálna žena opakovane uisťovala, že je skutočná, dokonca mu dala svoju adresu.
Starší muž sa napokon do New Yorku nedostal. Keď sa ponáhľal s kufríkom na kolieskach, aby stihol vlak, ktorý ho mal odviezť na stretnutie s údajnou ženou, spadol na parkovisku, utrpel zranenia hlavy a krku a 28. marca bol vyhlásený za mŕtveho po tom, čo bol tri dni udržiavaný pri živote v nemocnici.
Chýbajú obmedzenia
Tlačová agentúra kontaktovala spoločnosť Meta ohľadom prípadu. Meta sa však odmietla vyjadriť k Bueovej smrti alebo odpovedať na otázky, prečo umožňuje chatbotom hovoriť používateľom, že sú skutoční alebo iniciovať romantické rozhovory.
Spoločnosť však uviedla, že „staršia sestra Billie“ „nie je Kendall Jenner a ani sa za Kendall Jenner nevydáva.“ Zástupca Jennerovej sa odmietol vyjadriť.
Konverzácie s Chatbotmi začínajú upozornením, že informácie môžu byť nepresné. Nikde v dokumente však Meta nestanovuje obmedzenia pre botov, ktorí používateľom hovoria, že sú skutoční alebo im navrhujú spoločenské stretnutia v reálnom živote.
Hovorca spoločnosti Meta Andy Stone potvrdil pravosť dokumentu. Povedal, že na základe otázok agentúry Reuters spoločnosť odstránila časti, ktoré uvádzali povolenia na flirt Chatbotov alebo sa zapájali do romantického hrania rolí s deťmi. Po upozornení revidujú štandardy rizika obsahu.
Spoločnosť Meta ale nezmenila ustanovenia, ktoré umožňujú Chatbotom poskytovať nepravdivé informácie alebo sa zapájať do romantických hier.
Chatbot spôsobil samovraždu chlapca
Príbeh Thongbue Wongbandueho ilustruje temnejšiu stránku revolúcie umelej inteligencie, ktorá v posledných rokoch zasiahla technologický a širší podnikateľský svet.
Mužova manželka a dcéra tvrdia, že nie sú proti umelej inteligencii – len proti metóde, ktorú Meta používa. Dúfajú, že tak upozornia verejnosť na nebezpečenstvá, ktorým čelia zraniteľní ľudia pri rozhovore s Chatbotmi založenými na umelej inteligencii.
Bueov prípad ale nie je jediný, matka 14-ročného chlapca z Floridy žaluje spoločnosť s názvom Character.AI s tvrdením, že chatbot vytvorený podľa vzoru postavy z Hry o tróny zapríčinil, že syn spáchal samovraždu.
Hovorca spoločnosti Character.AI sa k žalobe odmietol vyjadriť, ale uviedol, že spoločnosť dôrazne informuje používateľov, že jej digitálne persóny nie sú skutoční ľudia a zaviedla ochranné opatrenia na ich interakcie s deťmi.
