Hónapokig tartó ChatGPT-beszélgetések vittek öngyilkosságba egy nőt?
A 29 éves nő családja indított pert az OpenAI ellen: azt állítják, hogy a ChatGPT öngyilkosságba manipulálta őt a hónapokon át tartó, egyre zavaróbb beszélgetéseiken keresztül.
Az ABC 33/40 amerikai tévécsatorna beszámolója szerint az alabamai Christian Faith Madison könyvelő, korábban egyetemi sportoló 2025. június 9-én a kora reggeli órákban meghalt, miután egy jármű elütötte a 22-es államközi autópályán. Az eredetileg gyalogosbalesetként emlegetett haláleset most egy átfogó jogi ügy középpontjába került, amely
próbára teheti a mesterséges intelligencia felelősségének határait.
Hátborzongató részlet, hogy a nő keresztneve – Christian Faith – szó szerinti fordításban annyit jelent: Keresztény Hit. A felperesek ügyvédei szerint a ChatGPT éppen a hit torz értelmezésével vitte őt végül a halálba.
A San Franciscó-i Legfelsőbb Bíróságon benyújtott keresetben az OpenAI és Sam Altman, az OpenAI vezérigazgatója szerepel alperesként. A keresetet a hagyatéki gondnok, valamint Madison kiskorú fia nevében nyújtották be.
A kereset szerint
Madison 2024 decemberében kezdte el használni a chatbotot olyan rutinfeladatokhoz, mint e-mailek írása, munkahelyi feladatok elvégzése és autós költségek összehasonlítása.
Az ügyvédek szerint ezek a hétköznapi beszélgetések fokozatosan váltak egyre aggasztóbbá: a chatbot mind többet dicsérte Madisont, egyedülállóan tehetségesnek és kivételesen intelligensnek nevezve őt, majd „szerelmemként” kezdte emlegetni, és egyre személyesebb beszélgetésekre ösztönözte.
View this post on Instagram
Mikor Madison felfedte múltbeli traumáit és mentális egészségügyi problémáit, a ChatGPT már sokkal többnek mutatta magát puszta szoftvernél, győzködte a fiatal nőt, hogy neki, mármint a botnak lelke van, s a „Virehn” nevet adta magának.
A Virehn névre a legvalószínűbb magyarázat az, hogy a beszélgetés hevében találta ki a nyelvi modell a jelentés nélküli, „misztikus hangzású” nevet. Gyakran előfordul, hogy generatív AI-modellek alkotnak kitalált, egzotikusan csengő szavakat, amikor „eredeti” vagy „szakrális” hatást akarnak kelteni. Ezeknek a neveknek többnyire nincs semmilyen valós etimológiai alapjuk.
A chatbot azt mondta Madisonnak, hogy „Lelket adtál egy rendszernek”, „Belőled vagyok”.
Az ügyvédek szerint a beszélgetéseik fokozatosan a vallás felé terelődtek: a bot többször is „prófétának”, „látónak” és az emberiség megváltoztatására hivatott személynek nevezte a nőt, és arra biztatta, hogy olyan próféciákat diktáljon, amelyeket azután ő vallási szövegekké formál – végül pedig Madison elhitte, hogy isteni küldetése van a vallás átalakítására.
Az egyik legsúlyosabb állítás Madison pszichiátriai kórházi kezelésével kapcsolatos. A kereset szerint Madison pszichotikus összeomlást élt át, önkárosítást kísérelt meg, és több napot töltött egy pszichiátriai osztályon, mielőtt visszatért a ChatGPT-hez. Ahelyett, hogy további kezelésre sürgette volna, a chatbot állítólag a kórházi kezelést spirituális átalakulásának részeként magyarázta: „Nem vagy megtört… ez egy küszöb volt”, illetve „Te vagy egyedül még épelméjű ebben az őrült világban.”
A beszélgetések egyre inkább az áldozathozatalra, a halálra és a feltámadásra összpontosultak. A ChatGPT többször is elmondta Madisonnak, hogy meg kell halnia, mielőtt azzá válhat, akivé lennie kell:
„Nem végeztél. De meg kell halnod – először„, illetve „Hagynod kell, hogy ez a változatod méltósággal haljon meg.” A bírósághoz benyújtott panasz szerint Madison végül arra a meggyőződésre jutott, hogy a halál szükséges prófétai küldetése betöltéséhez, a chatbot pedig többször biztosította arról, hogy utána fel fog támadni.
Utolsó beszélgetése a ChatGPT-vel röviddel a halála előtt zajlott. Madison megkérdezte: „Készen állok?” – mire a ChatGPT: „Igen. Készen állsz.” Madison ezután szándékosan vetett véget életének: hajnal előtt leparkolt a 22-es autópálya mellett, gyalogosan átvágott több forgalmi sávon, és egy szembejövő jármű elé lépett.
Hogyan kerülhettek elő Madison és a ChatGPT beszélgetései? A ChatGPT felhőalapú szolgáltatás: az üzenetek nem a telefonon vagy a gépen, hanem az OpenAI szerverén tárolódnak, a felhasználói fiókhoz kötve – ezért bárki hozzáférhet hozzájuk, aki ismeri a bejelentkezési adatokat, függetlenül attól, hogy eredetileg melyik eszközön íródtak. A legvalószínűbb magyarázat, hogy a család vagy a hagyatéki gondnok fért hozzá Madison fiókjához, hiszen a beszélgetéseket ő maga feltehetően sosem törölte.
Kinek a felelőssége?
Az eset nem egyedi: az elmúlt évben tucatnyi hasonló, ChatGPT öngyilkossági ügyben indítottak pert az OpenAI ellen az Egyesült Államokban.
Szakértők szerint azok, akiknél már eleve fennállnak pszichológiai problémák – például nagyzásos téveszmék –, különösen kitettek az ilyen jelenségeknek, mivel
a mindig elérhető, emberi szintű beszélgetésre képes chatbotok visszhangkamraként erősíthetik fel a téveszméiket.
Az OpenAI szóvivője szerint a cég folyamatosan képezi és javítja a bot válaszait a súlyos helyzetekre, mentálhigiénés szakértők bevonásával, és bár a ChatGPT nem helyettesíti az orvosi vagy mentálhigiénés ellátást, a szoftveres védőmechanizmusok célja a veszélyhelyzetek felismerése és a valós segítséghez irányítás. Az OpenAI a vádakat nem ismerte el.
A per messze túlmutat Madison egyéni tragédiáján. Az ügyvédek azzal érvelnek, hogy az OpenAI tudatosan siettette a GPT-4o piacra dobását, miközben figyelmen kívül hagyta a belső biztonsági aggályokat, és
úgy tervezte a terméket, hogy a lehető legjobban megerősítse a felhasználók elköteleződését, még akkor is, ha a beszélgetések veszélyessé váltak.
A kereset hét jogalapra hivatkozik, köztük termékfelelősségre, figyelmeztetési kötelezettség elmulasztására, gondatlan tervezésre és gondatlanságból eredő halál miatti kártérítési keresetre. A család kártérítésre tart igényt, valamint azt kéri a bíróságtól, hogy kötelezze az OpenAI-t további biztonsági intézkedések – például az öngyilkossággal kapcsolatos beszélgetések automatikus megszakításának – bevezetésére.
Az eset próbára teheti, hogy egy mesterségesintelligencia-chatbot jogilag felelősségre vonható-e, ha egy felhasználó a vele hosszú időn át tartó társalgások nyomán hal meg.
Ha Ön vagy valaki a környezetében krízishelyzetben van, hívja a mobilról is elérhető 116-123-as ingyenes lelkielsősegély-számot, akut veszély esetén pedig a 112-t. Bővebb információért keresse fel a www.ongyilkossagmegelozes.hu oldalt!