Jack Clark beszéde az IMF és a Világbank ülésén: a szingularitás elérkezett
A technológiai szingularitás azt az időpontot jelenti, amikor a mesterséges intelligencia meghaladja az emberi intelligencia szintjét, és képessé válik saját maga folyamatos, exponenciális fejlesztésére. A sci-fi forgatókönyvek szerint, ha átlépi ezt a küszöböt, az emberiség számára a technológiai fejlődés irányíthatatlanná és kiszámíthatatlanná válhat.
Jack Clark, az Anthropic, a világ egyik meghatározó AI-cégének társalapítója és közhasznúsági igazgatója október 17-én beszélt a Nemzetközi Valutaalap (IMF) és a Világbank éves közgyűlésén.
Előadásának címe „Az eseményhorizonton belül” volt, alcíme pedig, hogy „miért kell mindenkinek komolyan vennie az AI fejlődését”. Az eseményhorizont a fekete lyukak határa: ami azt átlépi, arról semmilyen jel nem jut vissza a kívül álló megfigyelőhöz.
„Itt a szingularitás”
Először a saját pályáját foglalta össze. Újságíróként kezdte, adatközpontokról írt, és az AI annyira magával ragadta, hogy 2016-ban otthagyta a szakmát, az OpenAI-hoz ment, majd néhány évvel később társalapítója lett az Anthropicnak. Elmondása szerint azóta próbálja meggyőzni a világot, hogy
az AI-rendszerek egyszer elég erősek lehetnek ahhoz, hogy átalakítsák a nemzetbiztonságot és a bolygó gazdasági pályáját, és talán képesek lesznek önmaguk megépítésére is. „Nos, ez a pillanat elérkezett” – mondta.
„Úgy gondolom, hogy idén meggyőző bizonyítékot kaptunk arra, hogy ez most elkezdődött” – fogalmazott Clark, és felidézte Vernor Vinge amerikai matematikus és sci-fi író 1993-as jóslatát is, amely szerint egy ilyen ponton a régi modelljeinket el kell dobnunk, mert
új valóság lép érvénybe.
Aztán kimondta a beszéd legtöbbet idézett mondatát: „Itt a szingularitás.”
Szerinte ennek legfontosabb következménye, hogy a következő években az egész tudomány fejlődése felgyorsul.
„Zavarba ejtő és elbizonytalanító érzés lesz, nagy gazdagságot hoz magával, és potenciálisan hatalmas veszélyeket is”
Állításait Clark több területről vett példákkal támasztotta alá.
A matematikában AI-rendszerek segítségével dolgoztak ki megoldási javaslatokat régóta nyitott problémákra, köztük a Navier–Stokes-egyenletekkel kapcsolatos millenniumi díjas problémára, a Jacobi-sejtésre és több Erdős-problémára. Clark szerint sok esetben az AI adta azt a kulcsfelismerést, amely a megoldást lehetővé tette.
A biológiában kutatók AI-jal terveztek vírusokat a semmiből, és már klinikai vizsgálatban vannak olyan gyógyszerek, amelyeket nagyrészt AI tervezett.
A robotikában az AI-rendszerek egyre inkább képesek távolról, önállóan működtetni a laboratóriumi eszközöket.
Clark kiemelte, hogy mindez ugyanarra a technológiára épül, sőt a legtöbb esetben ugyanarra az élvonalbeli modellre.
A számok is ezt mutatják. A Humanity’s Last Exam (Az emberiség utolsó vizsgája) nevű teszt kémiától a klasszikus irodalomig terjedő, szakértői szintű kérdésekből áll. „A nevet nem én választottam!” – jegyezte meg Clark. Amikor 2025 januárjában elindult, a legjobb AI-rendszer 8 százalékot, az előadás hetében a csúcstartó, az Anthropic saját modellje, a Claude Opus 5.5 már 67,7 százalékot ért el rajta.
A hivatásos matematikusok által összeállított FrontierMath 2024 novemberi indulásakor a legjobb AI-modellek 2 százalékot értek el, most 94-et.
„Amikor a tanárból diák lesz”
Clark ezután egy friss fizikai tesztre, a TheoPhysEvalra tért rá, Suvrat Raju indiai fizikus beszámolójára hivatkozva.
A teszt ötven feladatát a világ különböző pontjain dolgozó elméleti fizikusok állították össze, megoldásukat sehol nem publikálták. Raju azt írja, hogy nem ismer senkit, aki AI segítsége nélkül a feladatok jelentős részét meg tudná oldani. A kutatók úgy pontozták a modelleket, hogy a válaszaikat összevetették a feladatokat összeállító szakértők saját megoldásaival: ahol a gép mást hozott ki, azt hibának számolták.
Ebben az első körben két modell végzett az élen. Az OpenAI (a ChatGPT fejlesztője) GPT-6-Astra nevű modellje csaknem 90 százalékot ért el, közvetlenül mögötte pedig az Anthropic modellje, a Claude Opus 5.5 következett. Ezután a kutatók egyenként átnézték, hol tévedtek a gépek.
Ekkor igazán váratlan dolog történt: a modellek, különösen az Astra, rendületlenül kitartottak a saját megoldásuk mellett, és azt állították, hogy a szakértők által megadott válasz a hibás.
A szakértők visszamentek a számításaikhoz, és több esetben valóban mélyen elrejtett, apró hibákat találtak a saját munkájukban. Ahogy kijavították a megoldókulcsot, az Astra pontszáma fokozatosan emelkedett, és végül 98 százalékon állt meg: az 50 feladatból 49-et oldott meg helyesen.
„Gondoljanak bele egy pillanatra” – kérte Clark a hallgatóságot. A világ tudományos szakértői olyan feladatokból építettek tesztet, amelyek megoldását az AI nem olvashatta sehol, és
az AI magas pontszámot ért el, sőt magát a tesztet is jobbá tette, mert hibát talált az emberek munkájában.
Clark ezt a filmekből ismerős jelenethez hasonlította, amely többnyire a történet kétharmadánál jön el, amikor a fiatal főhős bebizonyítja mesterének, hogy készen áll az önálló életre. „Amikor a tanárból diák lesz. Ez történik most.”
„Egy van belőlem”
Clark a beszédben „szakmai képesítéseként” azt sorolta fel, hogy ő ember, egy van belőle, és csaknem negyven évébe telt, hogy összegyűjtse a beszédéhez szükséges tapasztalatokat. Mit jelentene, ha ő egyszerre több száz vagy több ezer példányban futhatna? Ha új változatai azonnal létrejöhetnének, nem negyven év alatt? Ha másolatokat készíthetne magáról, és azok az ő felügyelete alatt dolgoznának?
Szerinte a következő években a gazdaság jelentős részében ez lesz a helyzet. Az elmúlt fél évszázadban a legtöbb országban csökkent a kutatás termelékenysége, miközben a kutatók száma gyorsan nőtt: a jó ötleteket egyre nehezebb megtalálni.
Egy új kutatógeneráció kiképzése egy adott területen tíz-tizenöt év célzott oktatásba és dollármilliókba kerül, az AI-rendszerek viszont azonnal, tetszőleges számban létrehozhatók, ha van elég számítási kapacitás.
Clark szerint ezért a bolygó minden emberi tudósa fontosabbá válik, és sokkal többre lesz képes, mert több száz vagy több ezer hozzá hasonlóan gondolkodó virtuális szakértőt állíthat rá bármely őt érdeklő problémára.
„Tudom, ez nagyon képtelenül hangzik”
Ezután a gazdaságra tért át, amely a teremben ülő közgazdászokat, bankárokat és döntéshozókat a legközvetlenebbül érintette.
Az Anthropic különböző gazdasági forgatókönyveket modellezett aszerint, hogyan fejlődik tovább a technológia. Ha a modellek a feladatok széles körét képesek önállóan elvégezni, és gyorsan elterjednek a gazdaságban, akkor Clark szavaival ilyen szingularitásszerű feltételek mellett az amerikai GDP 2030-ra elérheti a 44,4 billió dollárt. A Reuters tudósítása szerint hozzátette: „Tudom, ez nagyon meghökkentően hangzik.”
(A jelenlegi, valamivel 30 billió dollár feletti amerikai GDP-hez képest ez csaknem 50 százalékos növekedés négy év alatt – a szerk.)
Ez a legszélsőségesebb változat a cég modellezőeszközének három forgatókönyve közül.
A Startup Fortune összefoglalója szerint, ha az AI az internethez hasonló ütemben terjed, 2030-ra 34,1 billió dolláros amerikai GDP jön ki, ami 1,6 százalékkal haladja meg az AI nélküli alapforgatókönyvet, de ha az úgynevezett tudásmunka felét önállóan végzi el, akkor már 36,3 billió, 8,3 százalékkal több. A 44,4 billió dolláros változat azzal számol, hogy az AI szinte minden tudásmunkában felülmúlja az embert, ez több mint 30 százalékkal magasabb az alapszintnél.
A lap emlékeztet arra, hogy ezeket a számokat maga az Anthropic sem előrejelzésnek, hanem feltételezésekre épülő modellnek tekinti. Hozzáteszi azt is, hogy Clark nem semleges szereplő: egy olyan cég társalapítója és egyik vezetője, amelynek a kormányok támogatására és a befektetők bizalmára egyaránt szüksége van. A tőzsdei hátteret a Reuters is megemlíti: Clark beszéde idején az Anthropic novemberre várt tőzsdei bevezetésre készült, amely akár 2 billió dollárra értékelheti a céget.
Clark szerint ekkora gazdasági bővülés csak úgy jöhet létre, ha új iparágak és találmányok születnek. Ezeket pedig éppen azok az AI-rendszerek hozhatják létre, amelyek már önálló tudományos kutatásra is képesek.
Elismerte, hogy az AI-nak erősen kitett területeken, például a telefonos ügyfélszolgálatoknál, már most munkahelyek szűnnek meg miatta. Más területeken, például a tudományos kutatásban viszont szerinte növeli a foglalkoztatást, és nagy kérdés, hány új munkahelyet teremtenek a teljesen új iparágak.
„Egymilliárd virtuális tudós”
Elmondta, hogy az elmúlt tíz évben bejárta a világ kormányait azzal az egyszerű üzenettel, hogy a legjobb, amit tehetnek, ha elegendő áramtermelő kapacitást és adatközpontot építenek:
„Nem sok döntéshozó hallgatott ránk.”
Ma az adatközpontok kapacitása az Egyesült Államokban, Kínában és egyre inkább a Közel-Keleten összpontosul, az ellátási láncokért pedig akkora a verseny, hogy emelkednek az árak.
„A következő szakasz a fizikai világba való kiterjedés lesz”
Az AI-rendszerek egyre inkább robotokat irányítanak és tudományos kísérleteket végeznek. Clark szerint ehhez sokkal több tudományos eszközre és robotra lesz szükség, különben nagyon hamar kifogyunk a kapacitásból.
Az UNESCO becslése szerint nagyjából tízmillió tudós dolgozik a világon, és már nekik is kevés a laboratórium, a gyógyszertesztelésre alkalmas biológiai labor és a nagy kutatóberendezés.
„Mi történik, ha tízmillió tudós helyett egymilliárd virtuális tudósunk lesz, akiket a mi tízmillió tudósunk irányít? Vagy tízmilliárd? Ez a világ tart felénk. Fel kell készülnünk rá.”
Clark ezt a fejlődő országok esélyének is nevezte.
Azok, amelyek nyersanyagot szállítanak az AI és a tudomány ellátási láncába, fejlődési szakaszokat ugorhatnak át: kutatóbázisokat építhetnek, amelyek emberi és AI-kutatókkal párosítva saját tudományos közösséget teremthetnek. Arra is figyelmeztetett, hogy ha a felfedezésekből bőség lesz, a szűk keresztmetszet máshová kerül: egy lavinányi új gyógyszerjelölt kevés hasznot hoz, ha csak egy maréknyit lehet közülük kipróbálni.
„Éjszakai Forma–1-es futam, talán fék nélkül”
A haszon mellett Clark a kockázatokról is beszélt. Ha az AI-t tudományra használjuk, azzal a tudománnyal való visszaéléseknek is utat nyitunk, köztük a biológiai és kiberfegyvereknek. A biológiai kutatásban szerinte a legszigorúbb emberi felügyeletre és átláthatóságra van szükség. Magának az AI-kutatásnak az automatizálásánál pedig rendkívül óvatosan kell haladni, „különben elveszíthetjük az irányítást a technológia felett”, és ehhez valószínűleg szabályok is kellenek.
Azt mondta, hogy az AI egyelőre még emberi irányítás alatt áll, de a biztosítékok bevezetésére nyitva álló idő egyre rövidebb: már csak „néhány év” maradt.
Hasonlóan fogalmazott egy nappal korábban is, az IMF egyik paneljén, ahol Krisztalina Georgieva IMF-vezérigazgató versenyautókhoz hasonlította az AI-fejlesztést, és arról beszélt, hogy védőkorlátot kell állítani, hogy ha egy autó kirepül, ne öljön meg senkit.
Clark erre azt felelte: „Szerintem rosszabb a helyzet annál, amit ön leír. Szerintem ez egy éjszakai Forma–1-es futam, talán fék nélküli autókkal.” Hozzátette: „A játékokat, amelyeket a gyerekeimnek veszek, szigorúbban szabályozzák, mint azt a szó szerinti szuperintelligenciát, amelyen a munkahelyemen dolgozom.”
„Csak néhány évünk van”
A beszéd zárásában a saját kamaszkorát idézte fel. Akkor sokat olvasott a világról, és félt: azt hitte, a népességnövekedés, a klímaváltozás és a nyersanyagok kimerítése az emberiség összeomlásához vezet, mert a népesség gyorsabban nő, mint amennyit a Föld el tud tartani.
Aztán látta, ahogy a napelemek sokkal gyorsabban váltak olcsóvá, mint bárki várta, és ahogy az emberi test jobb megértése gyógymódot hozott olyan betegségekre, amelyekbe korábban sokan belehaltak, köztük az ő családtagjai közül is néhányan.
„Azért dolgozom az AI-on, mert ez a legfontosabb technológia, amelyet fajunk valaha létrehozott.”
Ahhoz, hogy átjussunk a szingularitáson, Clark szerint közösen kell szokatlan és komoly szabályokat alkotni erre a technológiára és az azt fejlesztő cégekre, és gyakorolni kell az emberek talán legnehezebb és legnemesebb tulajdonságát, az önmérsékletet. Meg kell építeni az infrastruktúrát, de magának a technológiának a fejlesztésében lassan és megfontoltan kell haladni, ütemezve vagy más módon kontrollálva azt.
Végül Carl Sagant idézte, aki a Halványkék Pötty (Pale Blue Dot) című könyvében azt írta, hogy azok az emberek, akik egyszer talán elérik a csillagokat, a miénkhez nagyon hasonló faj tagjai lesznek, csak több erősséggel és kevesebb gyengeséggel, magabiztosabbak, előrelátóbbak, rátermettebbek és körültekintőbbek.
„Ezt teszi szükségessé az AI.
Sagan úgy gondolta, több százezer évünk van arra, hogy jobb és bölcsebb néppé váljunk. Nekünk ehelyett csak néhány évünk van. Hiszem, hogy képesek vagyunk rá. De csak akkor sikerülhet, ha az AI-t annyira komolyan vesszük, amennyire megérdemli.”