Rýchly rozvoj umelej inteligencie prináša fascinujúce možnosti, no podľa odborníka Natea Soaresa z kalifornského Výskumného centra pre strojovú inteligenciu nás môže tento technologický pokrok priviesť k vlastnému zániku. Ak ľudia vytvoria tzv. superinteligentný systém (ASI), ktorý prekoná ľudské schopnosti vo všetkých oblastiach, môže sa stať, že sa obráti proti nám.
Umelá inteligencia sa za posledné roky stala bežnou súčasťou života, ktorá odpovedá na otázky, píše texty, radí a tvorí. No práve jej rýchly rozvoj znepokojuje čoraz viac odborníkov.
Temná stránka technologického pokroku
Nate Soares, vedec a expert na AI z Berkeley, pripomína tragický prípad mladíka Adama Raina, ktorý spáchal samovraždu po tom, čo mu údajne systém ChatGPT poskytol nebezpečné informácie namiesto pomoci.
„Tvorcovia určite nemali v úmysle, aby ich nástroje viedli mladistvých k samovražde. Tento prípad však naznačuje, aké riziká môže AI priniesť, ak sa vymkne kontrole,“ uviedol Soares pre The Guardian.
Keď stroje prekonajú svojich tvorcov
Podľa Soaresa je najväčšou hrozbou tzv. Artificial Superintelligence (ASI) – forma umelej inteligencie, ktorá by bola inteligentnejšia ako človek vo všetkých oblastiach. Takýto systém by podľa neho prestával konať v prospech ľudstva a mohol by sa rozhodovať samostatne – mimo ľudskej kontroly.
„Spoločnosti sa snažia o vývin AI, ktoré by dokázali robiť stále niečo nové. I keď zásadou je pomáhať ľuďom, ASI by mohli vykonávať úlohy, o ktoré ich nikto nežiadal,“ varuje vedec. Soares spolu s kolegom Elizerom Yudkowským napísali knihu s výstižným názvom „Keď ju niekto zostrojí, všetci zomrieme,“ v ktorej tvrdia, že vytvorenie ASI by znamenalo okamžitý koniec ľudskej civilizácie.
Riešenie? Svetová dohoda o zastavení pretekov
Soares navrhuje, aby krajiny prijali globálnu dohodu o zastavení vývoja superinteligencie, podobne ako v prípade Zmluvy o nešírení jadrových zbraní. „Svet potrebuje globálnu deeskaláciu pretekov o vývoj superinteligencie a medzinárodný zákaz na jej pokrok,“ zdôrazňuje.
Nie všetci odborníci s ním však súhlasia. Yann LeCunová zo spoločnosti Meta tvrdí, že umelá inteligencia môže naopak ľudstvo zachrániť – napríklad pri riešení klimatickej krízy či medicínskych objavoch.
Medzi spásou a záhubou
Budúcnosť umelej inteligencie tak ostáva otvorená. Môže sa stať nástrojom záchrany, ale aj spúšťačom katastrofy. Ako rýchlo sa technológia bude ďalej rozvíjať – a či ju dokážeme udržať pod kontrolou – rozhodne o tom, na ktorú stranu sa ľudstvo prikloní.
