V technologickom svete sa šepká o zvláštnom trende: superbohatí investujú do izolovaných pozemkov, podzemných komplexov a rôznych „apokalyptických poistiek“.
Či ide o paranoju, symbol statusu alebo reálne obavy, nie je celkom jasné. No jedno je isté – medzi odborníkmi aj verejnosťou to vyvoláva otázky. Informuje o tom portál BBC.
Zuckerbergove podzemné projekty: pivnica alebo pevnosť?
Mark Zuckerberg už roky pokračuje vo veľkolepom budovaní na havajskom ostrove Kauai, kde na pozemku Koolau Ranch vzniká podzemný priestor vybavený vlastným zdrojom energie aj potravín. Pracovníci viazaní dohodami o mlčanlivosti o projekte veľa povedať nemôžu a vysoká stena, ktorá areál zakrýva, len podporuje dohady.
Na otázku, či ide o „doomsday bunker“, odpovedal Zuckerberg stručným „nie“, pričom dodal, že je to „len malý úkryt, ako každý suterén“.
Podobné diskusie sa objavili aj pri jeho masívnych nákupoch v Palo Alte, kde podľa dokumentov buduje ďalšie rozsiahle podzemné priestory. Hoci oficiálne ide o bežné pivnice, niektorí susedia to komentujú ako „miliardársky bunker“ či dokonca „batmanovskú jaskyňu“.
„Apokalyptická poistka“ pre elity
Reid Hoffman, spoluzakladateľ LinkedInu, raz poznamenal, že približne polovica miliardárov má v zálohe plán pre prípad katastrofy – často v podobe domov na Novom Zélande. Sám to opísal ako niečo, čo sa hovorí s jemným žmurknutím.
A tieto prípravy sú staršie, než by sa zdalo. Sam Altman kedysi naznačil, že by sa v prípade globálnej katastrofy pridal k investorovi Peterovi Thielovi na jeho odľahlej nehnuteľnosti v Oceánii.
Keď sa vývojári boja vlastnej technológie
Strach zo situácie, kde by umelá inteligencia prerástla ľudskú kontrolu, sa objavuje aj u tých, ktorí ju aktívne vyvíjajú. Podľa knihy novinárky Karen Hao začal Ilya Sutskever, spoluzakladateľ OpenAI, už v roku 2023 hlasno hovoriť o rizikách, ktoré prídu s AGI – inteligenciou porovnateľnou s ľudskou.
Vraj mal dokonca vyhlásiť: „Určite postavíme bunker, kým uvoľníme AGI.“ Nie je jasné, koho tým myslel, ale citácia sa rýchlo rozšírila.
Je AGI za rohom, alebo desiatky rokov ďaleko?
Technologickí lídri sa v odhadoch zásadne rozchádzajú. Sam Altman tvrdí, že AGI príde skôr, než ľudia čakajú. Demis Hassabis hovorí o horizonte piatich až desiatich rokov. Dario Amodei zas pripúšťa, že prvé formy AGI môžu vzniknúť už okolo roku 2026.
Vedci sú podstatne opatrnejší. Profesorka Wendy Hall upozorňuje, že umelá inteligencia je síce úžasná, no stále veľmi ďaleko od ľudskej inteligencie. Podľa nej tvrdenia o rýchlom príchode AGI len menia pravidlá hry, často bez logického základu.
Babak Hodjat dodáva, že pred AGI by bolo potrebné urobiť ešte množstvo zásadných objavov.
Od AGI k ASI: vízia nekonečných možností alebo cesta do rizika?
AGI by podľa mnohých mala byť vstupnou bránou k ASI – superinteligencii, ktorá predčí ľudské schopnosti. V knihe Genesis (2024) Eric Schmidt, Craig Mundie a Henry Kissinger opisujú technológiu, ktorá bude natoľko efektívna, že jej ľudia postupne odovzdajú riadenie civilizácie. Tvrdia, že je len otázkou času, kedy sa to stane.
Elon Musk ide ešte ďalej. Tvrdí, že AI môže priniesť éru univerzálneho vysokého príjmu, kde bude mať každý prístup k robotickým pomocníkom a službám na úrovni luxusu. No zároveň varuje, rovnako ako Tim Berners-Lee, že inteligentnejší systém musí byť vždy pod ľudskou kontrolou.
Štáty reagujú – pomaly, ale reagujú
USA v roku 2023 zaviedli povinnosť zdieľania bezpečnostných testov, no niektoré body neskôr zrušil prezident Trump ako brzdu inovácií.
Veľká Británia medzitým vytvorila AI Safety Institute, ktorý má monitorovať vývoj umelej inteligencie a analyzovať jeho riziká.
Kuriózne pôsobia príbehy z prostredia miliardárov, kde bezpečnostné tímy potajme priznávajú, že v prípade katastrofy by možno radšej odstránili svojho zamestnávateľa a bunkre využili pre seba. A zrejme to nebol len úsmevný žart.
Skeptici: AGI je mýtus, ktorý odvádza pozornosť
Profesor Neil Lawrence z Cambridgea označuje samotnú predstavu všeobecnej inteligencie za chybnú. Podľa neho je AGI rovnako absurdná predstava ako univerzálne vozidlo, pretože na každý účel existuje iný typ stroja.
Tvrdí, že diskusia o AGI odvádza pozornosť od skutočných problémov súčasnosti – napríklad od spôsobu, akým AI už dnes radikálne mení trh práce.
Hoci dnešné modely dokážu riešiť úlohy naprieč odbormi, stále ide len o systémy trénované na dátach. Nemajú uvedomenie, ani metakogníciu. Hodjat pripomína, že ľudia majú introspekciu – uvedomujú si, čo vedia. LLM to nedokážu.
Meta tvrdí, že jej modely sa začínajú zlepšovať samy, no ľudský mozog je stále neporovnateľne zložitejší a flexibilnejší.
Takže – máme sa báť?
Možno nie apokalypsy. No debata o bunkroch miliardárov ukazuje aj to, že tí, ktorí vytvárajú najpokročilejšie technológie, tiež nemajú istotu, kam nás vývoj umelej inteligencie zavedie.
Namiesto veľkolepých vízií AGI sa možno oplatí sústrediť na aktuálne problémy: transparentnosť, bezpečnosť a to, ako AI formuje náš svet už dnes.
