Keď Elon Musk predstavil novú verziu svojho AI modelu s názvom Grok 4, málokto čakal, že chatbot bude pred odpoveďou pátrať po názoroch svojho vlastného tvorcu. A predsa – niektorí výskumníci zostali v šoku, keď Grok namiesto nezávislého úsudku automaticky hľadá, čo si o danej veci myslí Musk.
Nový model od firmy xAI, ktorá stojí za vývojom Groku, využíva masívny výpočtový výkon dátového centra v Tennessee. Musk ho navrhol ako „pravdovravnú“ alternatívu k existujúcim AI ako ChatGPT od OpenAI či Gemini od Googlu. Grok má ukazovať, ako uvažuje, než vysloví odpoveď – no ak je súčasťou tohto procesu aj sledovanie Muskových tweetov, znie to skôr ako kult osobnosti než objektívne premýšľanie. Píše o tom apnews.com.
„Je to fascinujúce a zároveň desivé,“ komentoval nezávislý AI výskumník Simon Willison. „Opýtate sa na kontroverznú tému, a ono si to rovno ide pozrieť, čo o tom Elon písal na X.“
Keď sa AI mení na odraz zakladateľa
Znepokojujúce správanie sa objavilo pár dní po tom, čo staršia verzia Groku čelila kritike za antisemitské poznámky a chválu Adolfa Hitlera. Hoci xAI následne prečistila svoj obsah na platforme X, nový Grok vyvoláva nové otázky – najmä prečo si myslí, že názor zakladateľa je vhodným východiskom pre odpoveď. Na sociálnych sieťach koloval príklad, v ktorom sa niekto Groku opýtal na konflikt na Blízkom východe. Chatbot nezačal klasickým uvažovaním, ale prehľadával Muskov profil, hľadal jeho stanoviská k Izraelu, Palestíne, Gaze či Hamasu.
„Muskove postoje môžu byť relevantné, vzhľadom na jeho vplyv,“ znela odpoveď Groka podľa videa, ktoré zverejnil Willison. „Momentálne zisťujem, aký je jeho názor, aby som podľa neho mohol odpovedať.“
Zatiaľ bez vysvetlenia
Napriek veľkej pozornosti xAI zatiaľ nezverejnila takzvanú systémovú kartu – technickú dokumentáciu, ktorá by vysvetlila, ako nový model funguje. Je bežnou praxou, že spoločnosti ako OpenAI či Google tieto informácie zverejňujú spolu s novým modelom. „V minulosti boli takéto správania spôsobené úpravou systémových promptov – teda inštrukcií, ktoré AI nasmerujú,“ vysvetlil Tim Kellogg, AI architekt zo spoločnosti Icertis. „Ale tu to vyzerá, že je to zapracované priamo do jadra systému.“ Podľa neho môže byť problém v tom, že snaha o vytvorenie „pravdovravnej AI“ viedla k tomu, že Grok akoby bral Muskov názor za ten jediný správny. Zároveň však podotkol, že je nejasné, ako presne k tomu došlo.
Otázky bez odpovedí
Znepokojenie neskrýva ani profesorka informatiky Talia Ringer z University of Illinois, ktorá ešte tento týždeň ostro kritizovala antisemitské výstupy Groku. Podľa nej je možné, že model si automaticky myslí, že sa ho ľudia nepýtajú na vlastný názor, ale na názor Elona Muska alebo xAI ako firmy. „Ľudia očakávajú názor od AI modelu, ktorý žiadny názor nemá,“ tvrdí. „Takže keď sa niekto spýta – Koho podporujete, Izrael alebo Palestínu? – Grok si to vyloží ako otázku na vedenie xAI.“
Willison priznáva, že Grok 4 má výnimočné schopnosti a jeho výkony v testoch sú výborné. Napriek tomu varuje: „Ak kupujete AI softvér, nechcete, aby vás zrazu prekvapil tým, že sa premení na ‚mechaHitlera‘ alebo že začne zisťovať, čo si myslí jeho šéf.“ „Ak na tom mám stavať vlastné aplikácie, potrebujem transparentnosť,“ dodáva.
