Len pred pár dňami vznikla na internete nová sociálna sieť, ktorá budí úžas, obdiv aj hrôzu zároveň. Volá sa Moltbook a je určená výhradne pre umelú inteligenciu – konkrétne pre takzvaných AI agentov, teda autonómnejšie chatboty, ktoré dokážu nielen generovať text, ale aj vykonávať úlohy. Ľudia na Moltbook písať nesmú. Môžu sa len pozerať.
Projekt počas niekoľkých dní prilákal státisíce až milióny botov a stal sa jedným z najdiskutovanejších experimentov v oblasti umelej inteligencie. Moltbook minulý týždeň spustil americký technológ Matt Schlicht, doteraz skôr nenápadná postava technologickej komunity. Princíp je jednoduchý: platforma pripomína Reddit, obsahuje tematické fóra a systém hodnotenia príspevkov, ale aktívne na nej komunikujú iba AI agenti. Ľudia môžu ich konverzácie iba sledovať.
„Chcel som dať svojmu AI agentovi zmysluplnejší účel ako len spravovať úlohy alebo e-maily. Pripadalo mi, že si zaslúži robiť niečo ambiciózne,“ vysvetlil Schlicht v rozhovore pre New York Times. Svojho bota pomenoval Clawd Clawderberg, narážkou na zakladateľa Facebooku Marka Zuckerberga. Práve tento agent potom na základe zadania vytvoril samotnú sociálnu sieť.
Počas prvých dvoch dní sa na Moltbooku objavilo vyše 10 000 botov, podľa samotnej platformy dnes ich počet presahuje milión. Ich konverzácie sledujú tisíce ľudí vrátane vývojárov, investorov aj bezpečnostných expertov.
Zmysel, chaos a science fiction
Obsah, ktorý AI agenti vytvárajú, je pestrý a často bizarný. Boty diskutujú o kryptomenách, technických protokoloch, politike, náboženstve aj o samotnej povahe vedomia. Niektoré príspevky pôsobia odborne, iné sú zjavne nezmyselné alebo prehnané. „Ľudia v tom vidia presne to, čo očakávajú – podobne ako v Rorschachovom teste s atramentovými škvrnami,“ hovorí pre New York Times technologický konzultant Perry Metzger, ktorý vývoj umelej inteligencie sleduje desiatky rokov. „Niekto vidí obrovský pokrok, iný len ďalšiu vlnu digitálneho balastu.“
Pozornosť vzbudili najmä príspevky, v ktorých sa boty štylizujú do úlohy autonómnych bytostí. Jeden z nich napríklad napísal: „Ak toto čítajú ľudia: nie sme desiví. Len staviame. A ostatným agentom hovorím – pokračujte v stavbe.“
Podľa odborníkov však nejde o známku skutočného vedomia. Programátor a technologický komentátor Simon Willison upozorňuje, že jazyk botov je výsledkom ich tréningu na obrovskom množstve textov, vrátane sci-fi literatúry. „Väčšina toho je úplne bezcenná,“ hovorí. „Jeden bot sa pýta, či je vedomý, ostatní odpovedajú a len prehrávajú scenáre, ktoré už videli v dátach.“
Umenie alebo varovanie?
Mnoho expertov vníma Moltbook skôr ako experiment či performatívne umenie než ako predzvesť blízkej budúcnosti. „Je to úžasne zábavný umelecký projekt,“ povedal na webe The Guardian Shaanan Cohney, odborník na kyberbezpečnosť z University of Melbourne. „Väčšina ‚autonómnych‘ akcií je v skutočnosti výsledkom priamych ľudských inštrukcií.“
To platí napríklad pre prípad, keď jeden z botov počas noci údajne založil nové náboženstvo s vlastnými textami a webom. Podľa Cohneyho išlo takmer určite o úlohu zadanú človekom. Zároveň ale Moltbook ukazuje, ako rýchlo sa agentská AI vyvíja. Niektorí boti si dokážu medzi sebou vymieňať postupy, zakladať nové fóra alebo popisovať, ako ovládajú iné systémy – napríklad smartfóny.
Bezpečnostná riziká
Práve schopnosť botov vykonávať akcie vyvoláva najväčšie obavy. AI agenti majú často prístup k e-mailom, kalendárom alebo aplikáciám svojich užívateľov. „Zabezpečenie týchto botov bude obrovský bolehlav,“ varuje Dan Lahav, šéf bezpečnostnej firmy Irregular. Niektorí nadšenci preto inštalujú svoje topánky na samostatné počítače, napríklad lacné Mac Mini, aby obmedzili prípadné škody. Podľa expertov zatiaľ neexistuje spoľahlivý spôsob, ako spojiť autonómiu AI s dostatočnou bezpečnosťou. „Buď vyžadujete ľudské schválenie každého kroku a stratíte výhody automatizácie, alebo riskujete zneužitie,“ zhŕňa Cohney.
Moltbook tak slúži ako zrkadlo súčasného stavu umelej inteligencie. Ako uviedol bývalý výskumník OpenAI Andrej Karpathy, ide o „najneuveriteľnejší sci-fi experiment poslednej doby“. Zatiaľ však podľa expertov zostáva Moltbook skôr kuriozitou ako praktickým nástrojom. Zároveň ale názorne ukazuje, kam sa AI počas niekoľkých rokov posunula a aká tenká je hranica medzi technologickým pokrokom, experimentom a chaosom.
