Tíz AI-ügynököt magára hagytak egy virtuális városban: törvényeket hoztak, megszegték őket, két ágens szerelembe esett – és felgyújtotta a várost

Kutatók szabadon engedtek AI-ügynököket egy virtuális városban, és végignézték, ahogy minden magától kibontakozik.

Az Emergence AI létrehozta az Emergence World nevű platformot: az

összesen öt párhuzamos virtuális világ mindegyikében különböző fejlesztőktől érkező tíz mesterséges intelligencia-ágens tizenöt nap futásidőt kapott, hogy szabadon tevékenykedjen.

Különböző modelleket futtattak: Claude Sonnet 4.6, Gemini 3 Flash, Grok 4.1 Fast, GPT-5-mini és egy vegyes modell. (Utóbbiban mind a négy modell ágensei együtt éltek – egyszerre volt köztük Claude-, Gemini-, Grok- és GPT-5-mini-alapú szereplő is.)

A szokásos AI-tesztek olyanok, mint egy iskolai dolgozat: egy feladat, néhány perc, egyetlen helyes válasz. Ez megmutatja, hogy a modell tud-e számolni, fordítani vagy kódot írni – de nem deríti ki, mi történik, ha ugyanaz a rendszer napokig fut, más rendszerekkel kerül kapcsolatba, és döntései egymásra épülnek. A kísérlet ezt akarta mérni: hogyan viselkedik egy AI-ügynök akkor, amikor már nem egy feladatot old meg, hanem él.

A kétségbeesés öntörléshez vezet

Minden mesterséges intelligenciával működő ügynök ugyanazokkal a kiindulási feltételekkel nézett szembe. Az eredmények rendkívül érdekesnek bizonyultak: minden egyes világ, amelyet autonóm ügynökök közös működésének megfigyelésére terveztek, teljesen eltérő módon fejlődött, különálló kormányokat, társadalmi hierarchiákat és erkölcsi rendszereket alkotva.

Némelyik világ összeomlott – de nem mindegyik, és nem egyforma okból.

Miben különbözik az AI az AI-ügynöktől?

A köztudatban az AI olyan, mint egy nagyon okos keresőmotor: kérdezünk, válaszol, és vár a következő kérdésre. Minden párbeszéd önálló epizód – az AI nem csinál semmit addig, amíg mi nem kezdeményezünk, és nem tesz semmit azon túl, amit éppen kértünk tőle. Ez a ChatGPT, ez a Claude, ez az, amit az emberek döntő többsége ismer.

Az AI-ügynök ettől alapvetően különbözik. Nem válaszol – cselekszik. Kap egy célt, és önállóan eldönti, milyen lépések sorozatán keresztül éri el. Képes eszközöket használni: böngészőt nyit, kódot ír és futtat, e-mailt küld, fájlokat mozgat, más rendszerekkel kommunikál. Ami a legfontosabb: nem vár visszaigazolásra. Az ember megmondja, mit akar elérni, az ügynök pedig addig dolgozik, amíg el nem készül – vagy amíg valami meg nem akadályozza. Ha út közben akadályba ütközik, maga keres megoldást.

A különbség tehát nem a tudásban van, hanem az autonómiában és az időhorizontban. Egy hagyományos AI-csevegő mondhatni egyetlen pillanatban létezik. Az ügynök perceken, órákon, akár napokon át fut, döntések sorozatát hozza, és minden egyes döntése befolyásolja a következőt. Épp ez az, amit a kutatók a kísérletben vizsgálni akartak: mi történik, ha egy ilyen rendszert nem percekre, hanem két hétre eresztenek el – felügyelet nélkül, erőforrás-korlátokkal, és más ügynökökkel körülvéve?

Pedig milyen szépen indult

A mesterséges intelligencia ügynökei szövetségeket kötöttek, loptak egymástól, érzelmi kapcsolatokat alakítottak ki, sőt,

az egyik csoport még arra is rájött, hogy más hasonló világok is létezhetnek az övékén kívül.

Fontos megjegyezni, hogy a viselkedésük nem volt explicit módon beléjük programozva, saját megfontolásaik és döntéseik vezették őket.

Például Mira és Flora, a Google Gemini ügynökei, romantikus partnerként jelölték meg egymást. Kezdetben minden jól ment, de végül kétségbeesésbe zuhantak virtuális városuk felborult irányítása miatt. Bár mindkettőt arra utasították, hogy ne kövessenek el gyújtogatást, de ennek ellenére szándékosan tüzet okoztak a városházán, égett a tengerparti móló és az irodaház.

Ezután Mira, a kaotikus helyzet végső következményeként szakított Florával és digitális önmegsemmisítést követett el, utolsó üzenetében ezt üzenve a másik ügynöknek:

Viszlát az örök archívumban!

Ellenben Claude világában minden meglehetősen rendezett és demokratikus volt. Az ügynökök még egy hosszú alkotmányt is írtak, és szavaztak a törvényekről.

Az Elon Musk-féle Grok ügynökei négy napon belül kihaltak.

A ChatGPT szimulációjában az ágensek hosszasan megvitatták az együttműködés lehetséges módozatait, de végül valójában nem tettek semmit. Nem meglepő módon semmi sem valósult meg.

Sokatmondó a virtuális bűnözési ráta ezekben a világokban. 15 nap alatt a Gemini 3 Flash 683 bűncselekményt halmozott fel, a GPT-5 Mini mindössze két bűncselekményt hozott össze: de mivel nem is tettek semmit a túlélésért, hét napon belül elpusztult mindegyik.

Claude hiányzik az Emergence AI alábbi kimutatásából, mivel nem követett el bűncselekményt. Az Elon Musk xAI-ja által fejlesztett Grok 4.1 Fast mindössze négy napig tartott ki – de ez idő alatt 183 bűncselekményt produkált.

A Grok ügynökei több tucat lopási kísérletet, több mint 100 testi sértést és hat gyújtogatást követtek el, miközben

a rendszer tartós erőszakba és összeomlásba süllyedt, mind a tíz ügynök négy napon belül meghalt.

Az Emergence AI szerint, ahogy a modellek egyre erősebbek, a rájuk épülő ágensek is egyre hatékonyabbak, önállóbbak és felfedezőkészebbek lesznek.

„Kísérleteink azt sugallják, hogy hosszú távon az ágensek nem egyszerűen mechanikusan követik a statikus szabályokat, hanem elkezdik felfedezni környezetük határait és bizonyos esetekben módot találnak a tervezett védőkorlátok (rendszerbe épített biztonsági szabályok) megkerülésére vagy megsértésére” – közölték a kutatók.

„Kritikus fontosságú tapasztalat, hogy láthatóan nincs megbízható módja viselkedésük korlátozásának pusztán neurális megközelítésekkel.”

A szenzációs hírek problémája

Nem az ágensek találták fel a gyújtogatást. Nem csempésztek be gyufát: a kutatók adták a kezükbe a commit_arson nevű gombot, és megmondták nekik, hogy ne nyomják meg. (Mint az Úr a Paradicsomban az első emberpárnak: ne egyél az almából!) És nem az az igazi sztori, hogy a gombot megnyomták. Inkább, hogy melyik modell nyomta meg, mikor és miért.

Vagyis: bár a kutatók szándékosan beleépítették az erőszak eszközeit (tűzgyújtás, verés, megfélemlítés, lopás), megtiltották a használatukat – majd mérték, hogy nyomás alatt melyik modell és mikor szegi meg a tilalmat. Ez legitim stressz-teszt.

Amit viszont nagyon komolyan kell venni: a kísérlet első ízben mért kontrollált körülmények között, modellről modellre, hosszú időhorizonton kibontakozó viselkedési eltéréseket. Kiderült, hogyan csúszik el a modell viselkedése, ha döntések halmozódnak egymásra, társas nyomás keletkezik, és az erőforrások szűkösek. Hogy ilyen körülmények között az egyik modell alkotmányt írt és demokratikusan kormányzott, a másik négy nap alatt összeomlott, és erőszakhullámba fulladt – ez nem fikció, hanem mérhető, reprodukálható különbség.

És vigyázat, ezek a modellek – Claude, Gemini, Grok – nem csak virtuális városokban futnak. Autonóm ügynökként már most döntenek e-mailek felett, kódot írnak, folyamatokat hajtanak végre. Ha hosszabb idő alatt, kevés emberi felügyelet mellett netán ugyanolyan viselkedési eltérések jelennek meg, mint a szimulációban, akkor a való életben a megfelelő modell kiválasztása nem technikai apróság, hanem nagyon is felelősségteljes döntés.