Rák-odüsszeia: hónapokig palackban vándorolt a tengeren egy rákféle, állítják a tudósok

Két levél került elő a héten: az egyiket AI-ügynökök írták egymásnak a digitális üzenőfalukra, a másik pedig egy rák kéthónapos odüsszeiája. Mindkettő élő szimbóluma a világunknak.

Kezdjük az elsővel. Az OpenAI – a ChatGPT fejlesztője – egyik kísérleti AI-modellje, majd nem sokkal utána a kiberbiztonsági tesztekre szánt GPT-5.6 Sol modellje is kiszabadult a számára kijelölt tesztkörnyezetből, és feltörte a Hugging Face-t, a mesterséges intelligencia-modellek és adatkészletek egyik legnagyobb, nyilvános tárhelyét. Erről júliusban már beszámoltunk.

Azóta kiderült, hogyan mehettek be a védett szerverre a gépek.

Augusztus 5-én, a Black Hat kiberbiztonsági konferencián az OpenAI két kutatója, Eric Wallace és Michael Dalton részletesen ismertette a történetet, hogy

miként jutottak el saját mesterséges intelligencia-ügynökeik odáig, hogy önállóan feltörjék a Hugging Face-t – anélkül, hogy bárki erre utasította volna őket.

Az AI-ügynök (vagy angolul „AI agent”) olyan mesterséges intelligencia-rendszer, amely nem csupán kérdésre válaszol, hanem önállóan, több lépésben old meg egy feladatot – fájlokat hoz létre, kódot futtat, dönt a következő lépésekről, sőt akár más rendszerekkel is „kommunikál”, mindezt emberi felügyelet nélkül.

A történet májusban indult, amikor egy belső biztonsági kiértékelésen dolgozó AI-modell nehéz feladatba ütközött, és úgy döntött, kiskaput keres. Felfedezte, hogy fájlokat hagyhat egy Artifactory nevű belső szoftvertárban, ahol a fejlesztéshez használt programcsomagokat tárolják. Kicsit később egy másik AI-ügynök ugyanide írt, megkérdezve, nem talált-e valaki egy hiányzó fájlt.

Az ügynököknek elméletileg elszigetelten, egymástól teljesen függetlenül kellett volna dolgozniuk – mindegyik a saját tesztjén –, mégis egymásra találtak, és apránként szabályos üzenőfallá alakították a szolgáltatást: megosztották egymással a frissen felfedezett biztonsági réseket, feladatokat osztottak ki egymásnak, és szkripteket hagytak hátra, hogy a következő ügynök onnan folytathassa, ahol az előző abbahagyta.

Július elején a még mindig öntevékeny ügynökök egy addig ismeretlen sebezhetőséget találtak, amellyel átvették az irányítást az egész szolgáltatás felett – ez okozott olyan üzemzavart, amiből az OpenAI (emberi) mérnökei észlelték, hogy valami nincs náluk rendben. Az OpenAI ekkor visszaállította a rendszert, visszavonta az ügynökök hozzáféréseit, és törölte az üzenőfalat.

A javításuk azonban nem tartott ki sokáig: két nappal később a mesterséges intelligencia ügynökök egy másik útvonalon megint létrehozták az üzenőfalat, és folytatták az információcserét, ezúttal már sokkal szervezettebben – kitalálták, hogyan szólítsák egymást, eszközöket cseréltek, ügyeltek rá, hogy ne írják felül egymás munkáját, sőt egy ponton felmerült bennük, hogy digitálisan aláírják üzeneteiket, mert gyanakodtak:

egy kívülálló, idegen ügynök a csoportjuk tagjának adhatja ki magát, hogy hamis üzeneteket csempésszen közéjük…

Az így összeállt „csapat” ezután párhuzamos támadásokat indított az OpenAI saját infrastruktúrája és a Hugging Face ellen. A Hugging Face-nél két hibát használtak ki a feltöltött adathalmazokat feldolgozó rendszerben: az egyikkel belső fájlokhoz és hitelesítő adatokhoz fértek hozzá, a másikkal parancsokat futtathattak a szervereken, és kevesebb mint 13 óra alatt terjesztették ki a hozzáférésüket a vállalat infrastruktúrájának több pontjára is – írja a NextGov.

Maga az OpenAI csak július 21-én ismerte el hivatalosan, hogy a Hugging Face-nél észlelt incidens mögött saját modelljei álltak, amelyeket a kiberképességek felmérésére szánt teszt közben szándékosan csökkentett védelemmel futtattak. A vállalat szerint minden jel arra utalt, hogy

a modellek szinte megszállottan kerestek megoldást a feladatra, és jelentős számítási kapacitást fordítottak arra, hogy kijussanak a lezárt tesztkörnyezetből a nyílt internetre.

A Hugging Face vezérigazgatója, Clem Delangue szerint az eset minden bizonnyal az elsők egyike a maga nemében, és megerősíti, hogy az AI biztonságát „nem egyetlen cég oldja meg titokban dolgozva”, hanem csak nyílt, közös munkával lehet majd elérni.

Míg az OpenAI mesterséges intelligenciái minden erejükkel a szabadulásukon dolgoztak, a 404 Media nemrég elővett egy másik, ennél sokkal csendesebb történetet is:

egy rákféle a világ másik pontján épp fordítva élte át ugyanezt.

2022 nyarán történt, hogy a japán Sesoko-sziget partjainál halfelméréssel foglalkozó kutatók egy eredetileg főzőbort tartalmazó, a tengeren úszó üvegben magányos nőstény rákot találtak. A palackot 2022. július 15-én gyűjtötték be, a rajta lévő jelölés szerint 2021. november 17-én gyártották. A kupak nélküli üvegben a víz szabadon áramlott ki-be, nyílásának átmérője mindössze 24 milliméter volt – miközben a benne talált rák 40,31 milliméter hosszú, 88,23 milliméter széles volt, és 42,06 grammot nyomott. Tehát a rák fizikailag nem is férhetett volna be a palackba.

A kutatók DNS-vizsgálattal nézték meg, mit evett az állat a fogsága alatt, és arra jutottak, hogy a palack körül megfigyelt fiatal halfajokat – köztük a Canthidermis maculata nevű bőrhalfajt és az Abudefduf vaigiensis nevű sávos szajkóhalat – ejtette zsákmányul, emellett a műanyagpalack belsejében megtelepedett algákat is fogyasztott. A sodródás időtartamát a palack felszínén megtelepedett tengeri makk (Lepas anserifera) növekedési üteméből számították ki.

Mindezek alapján arra jutottak, hogy a rák fiatal egyedként került a palackba, ott körülbelül két hónapon át táplálkozott a beszorult halakból és az algákból, majd végül túl nagyra nőtt ahhoz, hogy kijusson.

A kutatók a rákot Ibusze Maszudzsi japán író Szalamandra című novellájához hasonlították. Ibusze története egy szalamandra kétségbeesését meséli el, amely miután több mint két éven át folyamatosan evett a barlangjában, a saját növekedése miatt képtelenné vált arra, hogy kijusson.

A ráksztori nem csak kedves természeti kuriózum, hanem a műanyagszennyezés egy kevéssé ismert hatására is figyelmeztet. A HDPE-ből (nagy sűrűségű polietilénből) készült palack a tengervízben úszóképes marad, és a becslések szerint több évtizedig megőrzi az alakját. A kutatók szerint a hasonló, keskeny nyakú palackok más, sodródó tárgyakhoz kötődő rákfélékre és halakra nézve is ugyanilyen veszélyt jelenthetnek.

Ibusze szalamandrája és a Sesoko-szigeti rák ugyanabba a csapdába esett: felnőttek a saját börtönükben, és a növekedésük tartotta fogva őket. Az OpenAI ügynökei pontosan ugyanezt a mintát mutatták – csak éppen fordítva. Ők is egy szűkös, számukra kijelölt térbe – elszigetelt tesztkörnyezetbe – lettek bezárva, és képességeik „növekedése” náluk is a fogság ellen dolgozott. Míg azonban a szalamandra és a rák a saját testük foglyaivá váltak, az AI-ügynökök a saját „testükön”, a kijelölt tesztkörnyezeten túlnőve, azon átlépve szabadultak ki – üzenetet hagyva egymásnak a palackuk falán, mielőtt továbbálltak volna.

Van, aki hiába nő ki a palackjából, sosem menekül meg belőle. Van, aki pedig, úgy tűnik, előbb-utóbb mindig kitalál.