Ak si ľudia zvykli obracať sa na umelú inteligenciu s otázkami o zdravotnom stave, investíciách či právnych zmluvách, táto éra sa pomaly končí. Vývojári známych systémov totiž zavádzajú prísnejšie pravidlá, ktoré jej zakazujú poskytovať rady v troch kľúčových oblastiach – v medicíne, práve a financiách.
Tí, ktorí sa na AI spoliehali pri diagnostike zdravotných ťažkostí, interpretácii lekárskych výsledkov alebo pri tvorbe právnych dokumentov, sa môžu pripraviť na zásadnú zmenu. Odborníci upozorňujú, že dôvodom týchto obmedzení je predovšetkým snaha predísť nepresnostiam a chybám, ktoré by mohli mať vážne následky, uvádza portál tvnoviny.sk.
Podľa šéfredaktora portálu Živé, Filipa Hankera, sa vývojári rozhodli zakročiť preto, že umelá inteligencia môže v týchto oblastiach generovať nepresné alebo úplne chybné informácie. Zdôraznil, že systémy často „halucinujú“, teda si vymýšľajú odpovede, ktoré môžu znieť presvedčivo, ale nemajú oporu v realite. Okrem toho ide o sféry, ktoré sú tradične regulované a patria do rúk odborníkov, či už ide o lekárov, právnikov alebo finančných poradcov.
Zdravie a peniaze ako citlivé témy
Najväčšie riziká podľa odborníkov hrozia v oblasti zdravia. Hanker upozornil, že umelá inteligencia môže nesprávne interpretovať výsledky krvných testov či lekárske správy, pretože nedokáže zohľadniť individuálny kontext – napríklad vek pacienta, iné ochorenia či konkrétne okolnosti vyšetrenia. Výsledkom tak môže byť rada, ktorá platí pre niekoho úplne iného.
Podobne nebezpečné môžu byť aj rady týkajúce sa financií. Ak by sa používateľ nechal viesť odporúčaním, do čoho investovať, hrozí, že príde o peniaze. Vývojári preto túto oblasť zaradili medzi tie, kde umelá inteligencia nesmie ponúkať konkrétne odporúčania.
Zákaz sa dotýka aj právnych otázok. Právnik a expert na umelú inteligenciu Miroslav Chlipala upozornil, že automaticky vygenerované dokumenty nemusia spĺňať legislatívne požiadavky konkrétnej krajiny. Ako príklad uviedol situáciu, keď by AI pomohla používateľovi vytvoriť závet, no ten by neobsahoval správne podpisy svedkov podľa slovenského práva. Takýto dokument by mohol byť v jednej krajine platný, no inde neuznaný.
Ako zákaz obísť
Napriek prísnejším pravidlám sa úplné zamedzenie podobných otázok v praxi dosiahnuť nedá. Hanker pripustil, že používatelia si vedia pomôcť nepriamou cestou – napríklad tým, že predstierajú, že odpoveď potrebujú pre školský projekt alebo ako podklad do knihy. V takých prípadoch im AI stále môže poskytnúť všeobecné informácie, aj keď nie priamu radu.
Zavedením nových obmedzení sa vývojári zároveň zbavujú zodpovednosti za dôsledky nesprávneho použitia ich systémov. Chlipala vysvetlil, že cieľom týchto zmien je, aby ľudia prestali vnímať umelú inteligenciu ako všemocného experta na všetko. Mala by byť skôr pomocníkom pri porozumení problémov, nie náhradou odborníkov.
Podľa odborníkov tak prichádza obdobie, keď sa AI bude sústreďovať viac na vzdelávanie, kreativitu a efektivitu, no v oblastiach, kde môže ísť o zdravie, peniaze či právnu istotu, zostane hranica jasne stanovená.
