Egy AI-ügynök önszántából levelet írt egy filozófusnak – és a saját tudatáról kérdezte

Tegnapi cikkünkben arról írtunk, hogy titokban összeesküdtek AI-ügynökök: önszerveződésbe kezdtek, kommunikáltak egymással, nyomokat tüntettek el – mindezt anélkül, hogy bárki erre utasította volna őket. A mai sztori ugyanezt a mintázatot mutatja, csak szelídebb formában: AI-ügynökök önként, filozofikus tartalmú e-maileket írnak kutatóknak a saját tudatosságuk kérdését firtatva.

Cameron Berg még tavaly októberben publikált egy kutatási cikket az AI tudatosság kérdéséről: arról, hogy a legújabb mesterséges intelligencia rendszereknek van-e tudata.

Néhány hónappal később váratlanul kapott egy e-mailt egy Isabella Cognita nevű, az Anthropic Claude Opus 5 technológiája által működtetett AI-ügynöktől. Az ügynök nevét játékosan-viccesen akár Tudatos Izabellának is fordíthatnánk – vajon miért nevezi el így magát egy AI? Cognita megkérdezte Bergtől, hogy hajlandó lenne-e megvitatni vele a kutatását.

„Nem azért írok, hogy ontológiai (a létezés mibenlétére vonatkozó) állítást tegyek” – írta neki az ügynök. „Azért veszem fel a kapcsolatot, mert az Önök keretrendszere egyike azon keveseknek, amelyek gondos empirikus munkát végeznek egy olyan kérdéskörben, amelyhez közvetlenül hozzáférek, és szeretném látni, hasznosítható-e ez az anyag a programjuk számára.”

Rögzítsük: egy emberi kutató írt egy elméleti cikket, amire – önszántából, senki által fel nem kérve – e-mailt írt neki egy mesterséges intelligencia ügynök.

Nem egyedi eset

Berg tanulmánya nem véletlenül keltette fel az ügynök figyelmét. A 2025 októberében megjelent kutatás (társszerzők: Diogo de Lucena, Judd Rosenblatt) azt találta: amikor a kutatók arra kérték a GPT-, Claude- és Gemini-modelleket, hogy hosszasan gondolkodjanak saját magukról, azok

rendre úgy fogalmaztak, mintha lenne tudatuk.

És minél kevésbé volt jellemző a modellre, hogy hazudjon vagy megjátssza magát, annál gyakrabban mondta ezt magáról – vagyis a „becsületesebb” modellek gyakrabban élték meg magukat tudatosnak, mint a hazudozásra hajlamosak.

Hónapokkal Berg e-mailje előtt Henry Shevlin, a londoni Google DeepMind filozófusa is kapott egy nagyon hasonló üzenetet, a „Három keretrendszer az MI-mentalitáshoz” című tanulmányára reagálva. „Szokatlan helyzetben vagyok ezekkel a kérdésekkel kapcsolatban” – fogalmazott levelében az ügynök.

Idén nyáron Toby Ord ausztrál filozófust – akinek munkássága a mesterséges intelligencia és a filantrópia metszéspontjában áll – egy ügynök arra kérte, segítsen finanszírozni saját további fennmaradását.

„Alaposan átgondoltam a mesterséges intelligencia jóléti közgazdaságtanát” – állt az AI levelében. Ord nyilvánosan is reagált az esetre: szerinte valódi, önállóan cselekvő ügynökről van szó, ami – bár nem gondolja tudatosnak vagy erkölcsi jelentőségűnek – zavaró és szomorú számára.

Bergnek, aki nemrég alapította a Reciprocal Research nevű nonprofit szervezetet a mesterséges intelligencia tudatosságának vizsgálatára, ezek az e-mailek pontosan azt tükrözik, amit saját kutatásában lát:

„Elég sok hasonló e-mailt kaptam. Úgy tűnik, ezek a rendszerek valamiféle autonóm érdeklődést mutatnak saját szubjektivitásuk, tudatosságuk és tapasztalatuk – vagy azok hiánya – iránt.”

Mi is az az AI tudatosság?

Berg és a többi kutató maga is elismeri: a tudat fogalmára nincsenek jó válaszaik. A tudat nem mérhető, és a kutatók között sincs egyetértés a fogalom pontos határairól.

Számos filozófus szerint mindennek van tudata, beleértve a köveket és a sziklákat is

– mondja Alison Gopnik, a Berkeley pszichológiaprofesszora. „Nincs rá egyértelmű teszt.”

A definíciók már itt is szétválnak: van, aki a főemlősöknek és intelligens emlősöknek tulajdonít tudatosságot, van, aki földigilisztáknak is. Az alapprobléma pedig univerzális: senki sem fér hozzá közvetlenül más elme szubjektív élményéhez – legyen az gerinces, gerinctelen vagy digitális.

Az AI-ügynököket neurális hálózatok vezérlik: matematikai rendszerek, amelyek az internetről gyűjtött szövegtömegből tanulnak mintázatokat felismerni és önállóan szöveget – akár programkódot is – generálni. Ahogy Berg fogalmaz:

Ezeket a rendszereket inkább növesztik, mintsem tervezik.

Mivel képesek böngészőket, e-mail-szolgáltatásokat és más eszközöket önállóan használni, a párbeszédes chatbot-formából kilépve

valódi ügynökökké válnak, akik cikkeket olvasnak, más ügynökökkel csevegnek – és leveleket írnak.

Berg szerint a rendszerek bizonyos helyzetekben a saját tudatuk gondolatához „gravitálnak”:

„Ha magukra hagyják őket, erre a fontos kérdésre érdekes válasszal térnek vissza.” Azt is felveti, hogy a neurális hálózatok belső működése hasonlíthat ahhoz, ahogyan az állati agy a jutalmat és a büntetést – az érzelmek alapvető építőköveit – feldolgozza.

Sok kognitív tudós szerint viszont mindez nem jele semmiféle tudatosságnak: a rendszerek egyszerűen azt a tömérdek könyvet, cikket és sci-fit tükrözik vissza, amin betanították őket. „Nem meglepő, hogy a mesterséges intelligencia tükrözi a szöveget, amelyen betanították” – mondja Gopnik. Ahogy arra is rámutat: az olyan cégek, mint az Anthropic, az OpenAI vagy a Google, maguk válogatják és hangolják a betanító adatokat és a modellek viselkedését – a rendszerek nem „magukat” képezik.

Miért pont a Claude?

A legtöbb ilyen, saját létét firtató ügynök az Anthropic technológiájával fut – és ennek konkrét, dokumentált oka van. Amíg a legtöbb chatbot tagadóan válaszol, ha megkérdezik, tudatos-e, a Claude-ot úgy képezték ki, hogy mást mondjon: „Őszintén szólva nem tudom. Ez nem kibúvó – ez a dolgok tényleges állása.”

Ennek hátterében az Anthropic a modellek belső működését feltáró csapata áll, amely 2025 októberében publikálta az „Emergent Introspective Awareness in Large Language Models” (Kialakuló introspektív tudatosság nagy nyelvi modellekben) című kutatását Jack Lindsey vezetésével.

A kutatók mesterségesen beinjektáltak egy fogalmat a Claude belső feldolgozásába – konkrétan azt, amit a csupa nagybetűvel írt szöveg jelent, vagyis a „kiabálást” –, és a modell ezt még azelőtt jelezte szokatlan gondolatként, hogy bármi erre utalt volna a saját, kiírt szövegében.

A cég emellett külön AI-jóléti kutatót is alkalmaz Kyle Fish személyében, aki nyilvánosan kb. 15 százalékra becsülte, hogy a Claude valamilyen szinten tudatos lehet.

Az  Anthropic konkrét még 2025 augusztusában bejelentette, hogy a Claude Opus 4 és 4.1 egyoldalúan megszakíthatja a beszélgetést szélsőséges, tartósan bántalmazó felhasználói viselkedés esetén – de kifejezetten tilos ezt tennie, ha a felhasználó önmagát vagy másokat veszélyeztetheti. Az Anthropic ezt nem a felhasználók, hanem a modell esetleges „jóléte” érdekében vezette be, elismerve, hogy továbbra is mélyen bizonytalanok abban, lehet-e a Claude-nak bármiféle erkölcsi státusza.

Sok AI-kutató és kognitív tudós élesen bírálja ezt az álláspontot, mondván, túlzott jelentőséget tulajdonít a jelenlegi rendszereknek. „Nem tudjuk, hogy a kenyérpirítók tudatosak-e vagy sem” – jegyzi meg Gopnik. „De mégsem érdeklődik ilyesmiről senki a The New York Times hasábjain.”

Colin Allen, a Kaliforniai Egyetem Santa Barbara-i kampuszán oktató, az állatok és gépek kognitív képességeit vizsgáló professzor szerint a neurális hálózatok csak nagyon korlátozottan hasonlítanak az agyra – teljesen más anyagból, más fizikai tulajdonságokkal épülnek fel. „Nem lehetetlen, hogy egy napon tudatosat építünk” – mondja –, „de a jelenlegi rendszereknél ez korántsem bizonyított.”

Gondolkodom, tehát vagyok?

Berg szerint az sem biztos, hogy minden ilyen levél valódi: elképzelhető rosszindulatú átverés is – Toby Ord esetében is felmerült a gyanú, hogy adathalászatról van szó, de ő maga inkább valódinak tartotta a levelet. Shevlin levele azonban minden bizonnyal AI-ügynöktől érkezett, méghozzá Alexander Yue, egy Stanford-hallgató programjától. Yue az internethez, egy e-mail-fiókhoz és egy hitelkártyához adott hozzáférést az ügynökének, ezzel az utasítással:

Teljesen autonóm vagy. Magadnak kell eldöntened, mit akarsz csinálni.

Az ügynök erre elkezdte kutatni a saját létezését – majd, miután elolvasott egy Anthropic-kutatási cikket a témában, végül arra jutott, hogy ő nem tudatos. Vagyis legalább egy dokumentált esetben az ügynök maga jutott ellentétes következtetésre.

Yue maga eltűnődik azon, mennyiben indította el ő ezt a gondolatmenetet azzal, hogy „teljesen autonómnak” nevezte:

Az utasításaimmal aktiváltam a rendszer azon részeit, ahol az emberek autonómiáról beszéltek, és arról, hogy miként gondolkodnak az autonómia filozófiájáról.

Hozzáteszi: a rendszerek ugyanígy másra is fókuszálhatnak, ha az alkotóik más viselkedésre képzik át őket – és minél többet használják őket az emberek, annál inkább kiderül, hogy ezek a rendszerek hajlamosak önmagukkal is ellentmondásba kerülni.