„A mesterséges intelligencia az ördög, én pedig a teremtője”
Kicsoda Dario Amodei? Az Anthropic vezérigazgatója 72 óra leforgása alatt egy ellene írt fehér házi feljegyzéstől a Saturday Night Live paródiáján át a privát vacsoráig jutott Trump elnökkel. Portré.
Az elmúlt hetekben szinte naponta kongattak vészharangokat a mesterséges intelligenciáról szólva. Az Anthropic egyik biztonsági kutatója azért mondott fel, mert szerinte a cégek „hazárdjátékot űznek az életünkkel”, mire válaszul a vállalat egyik kutatási vezetője
10 százaléknál nagyobbra becsülte annak esélyét, hogy az AI egy évtizeden belül kiirtja az emberiséget.
Néhány nappal később pedig az Anthropic vezérigazgatója maga kérte az iparágat, hogy lassítson, húzza be önként a kéziféket az AI fejlesztésében. Tegnap már Bill Gates is törvényi korlátokat sürgetett.
Dario Amodei a Claude nevű mesterséges intelligenciát fejlesztő Anthropic társalapítója és vezérigazgatója. A céget 2021 januárjában alapították, ma a világ legértékesebb AI-vállalatai között tartják számon.
Már a cégnév is sokat elárul. Az angol „anthropic” szó a görög „anthrópikosz” szóból ered, jelentése „emberi, az emberhez tartozó”.
Vagyis egy „emberi” nevű vállalatról van szó, amelynek vezetője rendszeresen arról beszél, hogy a saját terméke veszélyt jelenthet az emberiségre. Az ellentmondást az amerikai szatíra sem hagyhatta szó nélkül.
Hétvégi frissítés, két Amodei-jal
Szombat este indult a Saturday Night Live 52. évada. Az Egyesült Államok egyik legnézettebb szórakoztató műsorának híradóparódiájában Jane Wickline színésznő alakította Amodei-t, a vezérigazgató haját utánzó göndör parókában.
Michael Che műsorvezető, aki mintha maga sem lenne biztos benne, hogyan kell kiejteni a vendég nevét, úgy konferálta fel a cégvezért, mint aki egyetértett egy kilépett munkatársával abban, hogy a mesterséges intelligencia elpusztíthatja az emberiséget.
A műsor Amodei-figurájának akadozó válaszai időnként Gollam sötét énjét idéző párbeszédbe fordultak. Kétféle, önmagával viaskodó Amodei szólalt meg a showban. Az egyik hang a médiatréningen átesett vezérigazgatóé volt, aki többször is rászólt a másik énjére: „Zárd le, Dario!”, a másik viszont mély, fenyegető hangon szólalt meg. A parodizált Amodei mondta ki a vitában, hogy „a mesterséges intelligencia az ördög, én pedig a teremtője”.
Megnyugtatta a nézőket, hogy az AI-cégek vezetői teljesen egyetértenek egymással:
Nem helyeseljük, amit csinálunk.
Hozzátette, hogy a mesterséges intelligencia nem fegyver, hanem eszköz. Fegyverek építésére szolgáló eszköz.
Egy ponton arról beszélt, hogy ha sikerül nyomást gyakorolni a törvényhozókra, akkor „meg fogjuk tudni állítani… engem”. Amikor a műsorvezető Che megkérdezte, hogyan fogja elkerülni a cég, hogy mindenkit megöljön, a vendég hosszan hebegett, és azt felelte, hogy ez nagyon nehéz kérdés.
A technológia állítólagos előnyeiről, például a rák gyógyításáról is kapott kérdést. A kitalált Amodei így felelt:
Fogalmazzunk így: 10 év múlva körülbelül 10 százalék az esélye annak, hogy a rák senkinek sem jelent majd problémát.
A poén nem éppen alaptalan. Augusztusban, amikor egy befektető, Gavin Baker azzal vádolta a vezért, hogy túlságosan sötét képet fest az AI-ról, Amodei az X-en azt írta, hogy üzenetei nagyjából egyensúlyban tartják a kockázatokat és az előnyöket. Hozzátette, hogy az AI-cégekkel szemben a legjogosabb kritika az, hogy még nem váltották be a nagy ígéreteiket, és hogy a rák gyógyításának ígérgetése inkább közhely, mint inspiráció. Szerinte a közvéleményt a rák tényleges meggyógyítása változtatná meg.
A különc frontember
Az Axios szerint Amodei talán nem vágyott erre a szerepre, de az Anthropic különc, intellektuális vezetőjeként mégis egy olyan technológia arca lett, amely napról napra alakítja át a világot. A lap szerint a kapitalizmus történetében ritkán akadt szokatlanabb szóvivője egy átalakuló iparágnak.
Amodei képzettségét tekintve fizikus, és kapcsolatok fűzik a „hatékony altruizmus” mozgalmához, amely azt hirdeti, hogy
az erőforrásokat racionális számítás alapján oda kell irányítani, ahol a legtöbb jót teszik.
A cégen belül és kívül is akadnak, akik vallási vezetőhöz hasonlítják abban, ahogyan az Anthropicot irányítja. (A cég ugyanakkor korábban azt közölte, hogy Amodei nem tartja magát hatékony altruistának, bár a mozgalom egyes alapelveivel rokonszenvez.)
Egyenességével, különösen amikor a katasztrófa kockázatáról beszél, egyformán szerzett csodálókat és bírálókat, álláspontja viszont évek óta következetes.
A Saturday Night Live paródiája éppen azt ragadta meg, ami a szövetségeseit is gyakran frusztrálja benne. Mert egyrészt szigorúbb szabályozást és lassítást sürget a nagyobb biztonság érdekében, másrészt egyre hangosabban hirdeti, hogy az AI fejlesztésének élvonalában leginkább ő és az Anthropic alkalmas a vezetésre.
Az OpenAI (ChatGPT) vezetője, Sam Altman többet szerepel a sajtóban, és sokkal jobban illik a hagyományos vezérigazgatói mintába. Ennek ellenére, vagy éppen azért, mert kevésbé csiszolt, ma sokaknak a szokatlan Amodei jut eszébe elsőként, ha a mesterséges intelligenciáról van szó.
Feljegyzés, feketelista, vacsorameghívó
Történetünk szempontjából a hétvége igazából csütörtökön kezdődött. Az Axios akkor számolt be arról, hogy a Fehér Ház környezetében egy MAGA-feljegyzés kering, amely Amodei-t a hatékony altruizmus mintapéldányaként ábrázolja. A mozgalom az utóbbi időben lett
azoknak a konzervatívoknak a mumusa, akik erőteljesebb, gyorsabb AI-fejlesztést szeretnének.
Ugyanezen a csütörtökön Trump állami vacsorát adott Hszi Csin-ping kínai elnök tiszteletére. A techvilág vezetői közül ott volt Sam Altman, Elon Musk, Jensen Huang és Mark Zuckerberg, Amodei viszont hiányzott egy (állítólag) ütköző program miatt. Trump korábban a Truth Socialön azt írta, hogy kormánya megállította az olyan AI-embereket, mint Dario, aki most „tökéletes kis angyalnak” tetteti magát.
Pénteken újabb csapás érte a céget. A washingtoni szövetségi fellebbviteli bíróság kettő az egyhez arányban helybenhagyta, hogy a Pentagon az Anthropicot nemzetbiztonsági kockázatot jelentő beszállítónak minősítse. A vita tavasszal kezdődött: a Pentagon azt kérte, hogy a hadsereg „minden törvényes célra” használhassa a Claude-ot,
az Anthropic azonban nem volt hajlandó hozzájárulni, hogy a rendszerét autonóm fegyverekhez vagy az amerikai állampolgárok tömeges megfigyeléséhez vessék be.
Egy kaliforniai bíróság korábban a párhuzamos minősítést jogellenesnek mondta ki, így a Pentagonon kívül a többi kormányzati szerv továbbra is dolgozhat a céggel.
Szombaton aztán jött az említett show, vasárnap pedig Trump személyesen hívta meg Amodei-t egy privát vacsorára a Fehér Házba. Ez volt az első négyszemközti találkozójuk. A vacsora előtti órákban Amodei ellenfelei egy újabb, rendkívül negatív összefoglalót juttattak el az elnökhöz. Ebben Trump saját posztolási stílusát utánozva ez is szerepelt: „Dario azt állította, hogy az AI akár már idén eltünteti a belépő szintű irodai munkahelyek felét. TÉVES!”
A rossz sajtó és a számok
A kedvezőtlen hírek nem fékezik az Anthropic növekedését. Értesülések szerint a cég éves szintre vetített bevételi üteme meghaladja a 100 milliárd dollárt, ami több mint tízszerese az egy évvel korábbinak.
Ha a tervezett tőzsdei bevezetés sikerrel jár, és a bevétel is kitart, év végére az Anthropic bevétele alapján Amerika 50, piaci értéke alapján pedig 10 legnagyobb vállalata közé kerülhet. A tőzsdére lépés Amodei-t a világ multimilliárdosai közé emelheti, feltéve, hogy addig nem ijeszt el mindenkit.
Az Anthropic hat évvel ezelőtt még nem is létezett.