Disznóvágás AI-módra: üzbég nő 7000 dolláros fizetésért bárkit eljátszik
Ha nem bízhatunk meg teljesen abban, amit látunk, arra kell támaszkodnunk, amit tudunk.
Shreya Datta azt hitte, megtalálta lelki társát. A 37 éves nő philadelphiai tech-főnök (ez fontos: IT-szakmából élő emberről van szó) a menő Hinge társkereső appon ismerkedett meg egy magát francia borkereskedőnek kiadó férfival, aki bemutatkozás után szinte azonnal törölte a profilját a társkeresőből, hogy – mint mondta – csak őrá figyelhessen.
Hónapokon át csevegtek WhatsAppon, szelfiket, hangulatjeleket küldtek egymásnak, néhány rövid videóhívást is folytattak, amelyekben a férfi kicsit szégyenlősen, a kutyájával pózolva jelent meg a kamera előtt. Datta napi rendszerességgel írt neki, a férfi pedig apró dolgok felől érdeklődött – evett-e aznap, hogy telt a napja –, pontosan azt adta, amire egy nemrég elvált embernek szüksége van. Az olyannyira valósnak tűnő férfi – hiszen annyiszor beszélgettek már –, meggyőzte, mennyire jó lesz kriptobefektetésbe vinni a megtakarításait és a nyugdíjpénzét. Összesen 450 ezer dollárt bukott a nő.
Úgy derült ki, hogy a videótelefonálások csak deepfake csalások voltak, hogy a nő bátyja a férfi fotóit szemlélve rájött, azok egy német fitneszinfluenszer képei. Úgy készült az élő videó, hogy valós időben rávetítették az influenszer képeit egy ismeretlen modellre, aki mozgásával, hangjával adta elő. Datta az AFP-nek azt mondta:
meghackelték az agyát.
Az üzbég Angel és a 7000 dolláros ajánlat
A WIRED hetekig figyelt tucatnyi Telegram-csatornát, ahol nyíltan zajlik az „AI arcmodell” állások toborzása. A Humanity Research Consultancy, egy emberkereskedelmi ellátási láncokat vizsgáló kutatócsoport, konkrét ajánlatot mutat be: egy magát Angelnek nevező, 24 éves üzbég nőt, aki négy nyelven beszél, egyéves tapasztalattal rendelkezik efféle AI-modellként, és havi 7000 dollárt kér a szolgáltatásaiért.
A modellkedés lényege: mikor az áldozat számos hosszú, több alkalommal folytatott csevegés során végső megerősítésként videóhívást igényel – hogy lássa valósnak vélt kedvesét, vagy megerősítést kapjon egy befektetési ajánlatra –, a csalószervezet beveti szerepjátszási képességekkel rendelkező emberét.
A deepfake-szoftver valós időben módosítja a szerepjátszó kinézetét, hogy hibátlanul illeszkedjen ahhoz a fiktív személyhez, akit az áldozat vár. Egyes cégeknél ezek a modellek napi száz videóhívást is lebonyolítanak – ez már ipari méretű, kvótákkal és teljesítményméréssel működő üzletág.
@wiredDozens of Telegram channels reviewed by WIRED include job listings for “AI face models.” The (mostly) women who land these gigs are likely being used to dupe victims out of their money. WIRED sent Telegram a list of two dozen jobs channels and recruitment channels that have advertised AI models, alongside other roles, in recent months. The company did not appear to remove any of the channels; however, a spokesperson says its policies do not allow scamming-related activity to take place. “Content that encourages or enables scams is explicitly forbidden by Telegram’s terms of service and is removed whenever discovered,” a spokesperson for Telegram says. “In cases such as this, there are legitimate reasons one might give their likeness, and so such content must be examined on a case-by-case basis.” This video features library footage throughout.♬ original sound – WIRED.COM
Mindez a disznóvágás – eredetileg „pig butchering” – néven ismert csalássorozat legújabb fejezete:
annyi az újdonság, hogy itt már élő társalgásban szedik rá a gyanútlanokat.
A disznóvágás kifejezés onnan ered, hogy a vágás előtt az állatot fel kell hizlalni: a csalók hetekig, hónapokig építik a bizalmat, mielőtt pénzt kérnének. A folyamat általában szöveges csevegéssel indul, amit úgynevezett chatoperátorok végeznek – gyakran ők maguk is emberkereskedelem áldozatai, akiket erőszakkal, hosszú műszakokban dolgoztatnak. Az AI-arcmodell csak a folyamat utolsó, legkritikusabb lépésénél lép színre: amikor élő emberi jelenlétre van szükség ahhoz, hogy az áldozat végleg meggyőződjön róla, valódi kapcsolatban van.
A modelleket olyan országokból toborozzák, mint Törökország, Oroszország, Ukrajna, Fehéroroszország és több más ázsiai ország – innen kerülnek ki azok, akik az arcukat kölcsönadják a csalásokhoz. Maguk a csalóközpontok Kambodzsában, Mianmarban és Laoszban működnek. Az áldozatok pedig megint egy egészen más földrajzi körből kerülnek ki: az amerikai hatóságok és fogyasztóvédelmi szervezetek adatai szinte kizárólag amerikai károsultakról szólnak, akik megtakarításokat, nyugdíjpénzt, olykor egész életük felhalmozott vagyonát veszítik el egyetlen kapcsolat során – az amerikai nő, Shreya Datta esete is ezt mutatja.
A jelenség persze nem csupán távoli egzotikum: Európában is évek óta ismertek hasonló esetek. Egy francia nő 830 ezer eurót veszített egy csalón, aki mesterséges intelligenciával generált fotókkal és videókkal Brad Pitt-nek adta ki magát, azt állítva, hogy a színész súlyos beteg, és sürgősen pénzre van szüksége.
Nagy-Britanniában egy cambridgeshire-i özvegy nagymama 600 ezer dollárt utalt át egy Jason Momoa színészt megszemélyesítő csalónak, szintén mesterséges intelligenciával generált videók alapján. A nagyi végül a házát is eladta, hogy előteremtse az összeget. Ezekben az esetekben nem élő videóhívásról, hanem előre elkészített deepfake-felvételekről volt szó – de technikailag ez csak egy lépésre volt attól, amit a WIRED nyomozása most feltárt: hogy a felvétel helyett élő ember üljön a képernyő túloldalán.
Van sok olyan arcmodell, aki talán tényleg nem is érti pontosan, mire fogják használni a képmását – őket csak a könnyű pénz ígérete csábítja el. Mások valószínűleg tudják, mire jelentkeznek: sokan megfelelő tapasztalattal rendelkeznek hasonló munkákból.
Amikor az elkövető nem áldozat, hanem karrierista
Tehát nem minden AI-arcmodell dolgozik kényszer alatt. 2024 októberében a hongkongi rendőrség 27 embert tartóztatott le egy négyezer négyzetméteres irodaházban működő csalóközpontban, amely deepfake-videóhívásokkal csábított áldozatokat Hongkongból, Kínából, Tajvanról, Szingapúrból és Indiából egy hamis kriptoplatformba – összesen mintegy 46 millió dollárt csalva ki tőlük.
A letartóztatott 21 férfi és 6 nő
21 és 34 év közötti, jól képzett, digitális média és technológiai szakos egyetemet végzett fiatal volt, akiket a szervezet tudatosan, helyi egyetemekről toborzott.
Teljesítménytáblát vezettek, nyelvek szerint csapatokra osztva dolgoztak, és aki a legtöbb áldozatot verte át, jutalmat kapott. Ők nem megvert, útlevelüktől megfosztott kényszermunkások, hanem tudatos, karriert választott bűnözők.
Mekkora üzlet?
A Consumer Federation of America (CFA) idei jelentése szerint az amerikaiak becsült valós vesztesége évi 119 milliárd dollár körül mozog – ez a be nem jelentett esetekkel korrigált, konzervatív becslés. Az FBI hivatalos, bejelentett adatai szerint 2024-ben 16,6 milliárd dollárt veszítettek csalások miatt, ám az ügynökség maga is elismeri, hogy ez alábecsüli a valóságot, mivel sok áldozat szégyelli bejelenteni a veszteségét. A CFA szerint a legnépszerűbb platformok a csalók számára a Meta tulajdonában lévő Facebook, Instagram és WhatsApp.
A pénzmozgás mértéke is jól mutatja a jelenség súlyát. Februárban az Észak-Karolinai Keleti Kerület ügyészsége bejelentette, hogy 61 millió dollár értékű, disznóvágásos csalásokból származó Tether-kriptovalutát foglaltak le. Ennél jóval nagyobb horderejű volt az októberi akció: az amerikai Igazságügyi Minisztérium a Prince Holding Group nevű, Kambodzsában működő bűnszövetkezettől mintegy 15 milliárd dollár értékű bitcoint (körülbelül 127 ezer érmét) foglalt le – ez minden idők legnagyobb vagyonelkobzási akciója az Egyesült Államokban. A hatóságok szerint a vállalatbirodalom zsarolásból, kínzásból és emberkereskedelemből profitál, munkásait rabszolgasorban tartva kényszeríti disznóvágásos és más csalási sémákban való részvételre. Az amerikai Pénzügyminisztérium az Egyesült Királysággal közösen 146, a csoporthoz köthető céllal szemben vezetett be szankciókat.
A csoport elnöke és vezérigazgatója, Chen Zhi hónapokig szökésben volt, de 2026. január 6-án Kambodzsában elfogták, kambodzsai állampolgárságát visszavonták, és – kínai kérésre – Kínának adták ki. Amerikai bíróság elé egyelőre nem került, ügye jelenleg is zajlik.
Mire figyeljünk?
A Telegram azt közölte a WIRED-del, hogy a csalást elősegítő tartalom kifejezetten tiltott a platformon, ugyanakkor a vállalat a lap által megnevezett közel két tucat toborzócsatorna egyikét sem távolította el, arra hivatkozva, hogy „vannak jogszerű indokok is, amiért valaki átadja a képmását”, ezért szerintük ezeket az eseteket egyedileg kell megvizsgálni.
Nem is rég egy deepfake-videót viszonylag könnyen fel lehetett ismerni: gyakran téves volt az ujjak száma, furcsa hajakat, akadozó mozgást vehettünk észre. Élő hívásban esetén az ajánlott teszt az volt, hogy kérjük meg a másik felet, forduljon oldalra, érintse meg az orrát, vagy lengesse az ujjait az arca előtt, ilyenkor a gép néha hibázott. Ma azonban az algoritmusok egyre jobbak, és mind könnyebben veszik az ilyen akadályokat is.
Ha nem bízhatunk meg teljesen abban, amit látunk, arra kell támaszkodnunk, amit tudunk. Legyünk óvatosak a kéretlen megkereséssel, különösen, ha valaki gyorsan érzelmi kapcsolatot próbál kiépíteni, vagy befektetési lehetőséget kínál. Még ha egy profil megbízhatónak tűnik is, vagy a weboldala legitimnek is látszik, érdemes időt szánni arra, hogy kicsit mélyebbre ássunk, mielőtt bármit elhinnénk – vagy még inkább, mielőtt utalnánk.