Gandalfra hivatkozva Leó pápa azt mondta, hogy le kell fegyverezni az AI-t

XIV. Leó pápa Rómában, az Anthropic mesterséges intelligencia vállalat társalapítójának jelenlétében kiadta első, jelentős új enciklikáját, a „Magnifica Humanitas”-t, a Csodálatos emberiséget. Az enciklika a mesterséges intelligencia „leszerelésére” szólít fel a közjó szolgálatában.

„A szó erős” – ismeri el Leó –, de szándékosan választotta a „leszerelés” kifejezést, „mert most olyan szavakra van szükség, amelyek képesek felkelteni a figyelmet, felébreszteni a lelkiismeretet, és utat mutatni az emberiségnek.” A mesterséges intelligenciát ma „meg kell szabadítani mindattól, ami az uralom, a kirekesztés és a halál eszközévé teszi”.

A mintegy 40 000 szavas enciklika erős kritikát fogalmaz meg a mesterséges intelligencia alapú autonóm fegyverekkel, az adatgyűjtéssel kapcsolatos neokoloniális hozzáállással, valamint az „új tulajdonformák, például szabadalmak, algoritmusok, digitális platformok, technológiai infrastruktúra és adatok” felhalmozásával kapcsolatban.

De a levél messze túlmutat a kritikán, a katolikus társadalmi tanítást úgy korszerűsíti, hogy mindenkit „építésre” szólít fel – az „építés” éppenséggel a Szilícium-völgy elitjének kedvelt kifejezése. (Lásd Marc Andreessen kockázati tőkés 2020-as esszéjét, az „Itt az ideje építeni”-t.)

A pápa víziójában azonban ez az „épület” többet jelent kódoknál, startupoknál, gyáraknál, vagy lakhatásnál. Nem kevesebbet szorgalmaz, mint a „szeretet civilizációjának” megteremtését, amelyben mindenki a közjóért dolgozik a saját életterületében, és amelyben a technológia nem uralja, nem zárja ki vagy kerüli meg az emberiséget, hanem szolgálja és kiegészíti azt.

Bár május 25-én tette közzé, valójában május 15-én írta alá az enciklikát, egy híres 1891-es „Rerum Novarum” („Új dolgok”) enciklika évfordulóján. Ez a dokumentum a katolikus társadalmi tanítást a kapitalista ipari forradalom okozta átalakulás korában fogalmazta meg, leginkább a munkások és a szakszervezetek oldalára állva.

A pápa elmondta, hogy „nagyon nyugtalanító hangokat” hallott algoritmusokról, amelyek igazságtalan és elfogult adatok alapján megtagadják az emberektől az egészségügyi ellátáshoz, a foglalkoztatáshoz vagy a biztonsághoz való hozzáférést. Nem alaptalanul: az USA-ban és Európában már most is AI-rendszerek döntenek hitelekről, állásokról, egészségbiztosításról. Az enciklika ezt erkölcsi határátlépésnek minősíti.

Újragyarmatosítás lesz

Ahogy elődje 135 évvel ezelőtt tette, Leó arra figyelmeztet, hogy az egyes embereket és magát az emberiséget sem szabad hagyni lemaradni a technológiai fejlődés mögött. Tisztában van a technológiai elit mai befolyásával, és gyarmati hódítókhoz hasonlítja őket.

„Teljes régiók, különösen azok, amelyeket strukturális törékenység és korlátozott geopolitikai jelentőség jellemez, jelenleg egy újfajta kitermelési gondolkodásmódnak vannak kitéve: az egészségügyi adatok, epidemiológiai profilok, genetikai térképek és demográfiai információk kitermelésének. Ezek a hatalom új »ritkaföldfémeivé« váltak: létfontosságú adatok, amelyeket összesítés és elemzés után felhasználhatnak prediktív modellek képzésére, befektetési stratégiák irányítására, válságok előrejelzésére és mindenekelőtt annak meghatározására, hogy ki és mi számít fontosnak.

Azok, akik egész népek egészségügyi adatait ellenőrzik – melyeket gyakran segélyezés, kutatás vagy innováció ürügyén gyűjtenek –, strukturális befolyással bírnak a jövőre, mivel alakíthatják az igényeket és a piacokat. Ők dönthetnek – megelőzve másokat – arról is, hogy mi legyen a gyógyszerekkel, a beruházásokkal és a védelemmel. Ebben rejlik korunk egyik legsürgetőbb erkölcsi kihívása: biztosítani, hogy a megosztott tudás valódi közjóvá, ne pedig az uralkodás eszközévé váljon.”

Ha ezt nem oldjuk meg, mondja Leó,

a digitális kor nem posztkoloniális lesz, hanem megint, más formában ugyan, de gyarmati.

A Vatikán egyébként nem ellenzi a mesterséges intelligenciát, mint eszközt. Sőt, idén tavasszal bevezettek egy mesterséges intelligenciával működő rendszert, amely a Szent Péter-bazilikában tartott istentiszteleteket 60 nyelvre fordítja le az okostelefonokra. De nem engedélyezte Leó pápa a „pápai avatár” létrehozását, amely magánbeszélgetéseket tarthatna és kérdésekre válaszolna.

A Magnifica Humanitas azt állítja, hogy az AI-t keretek között kell tartani, mivel „ezek a rendszerek csupán utánozzák az emberi intelligencia bizonyos funkcióit”. Bár gyorsabban gondolkodhatnak, a mesterséges intelligencia által támogatott eszközök „nem élnek át tapasztalatokat, nincs testük, nem éreznek örömöt vagy fájdalmat, nem élnek kapcsolatokban, és nem tudják, mit jelent a szeretet, a munka, a barátság vagy a felelősség. Erkölcsük, lelkiismeretük sincs.”

Tehát, érvel Leó, nem szabad hagynunk, hogy félrevezessen minket a mesterséges intelligencia „intelligenciára” való összpontosítása. Az emberi személyiség egyik kiragadott tulajdonságának ilyen felmagasztalása beárnyékolhatja „az élet más lényeges dimenzióit, mint például a vonzalom, az akarat, az elkötelezettség és a kapcsolatok”. Ha az embereknek a bölcsesség, az érzelem és a kapcsolatok mellett pusztán technikai hatalmat adunk, Leó szerint „az nem erősít minket, hanem elszigeteltebbé és sebezhetőbbé tesz az elnyomással és a kirekesztéssel szemben”.

Ezért a mesterséges intelligenciát „le kell fegyverezni” – vonja le a következtetést Leó „meg kell szabadítani a monopolisztikus ellenőrzés alól, és meg kell nyitni a párbeszéd és a vita előtt, ezáltal emberbaráttá kell tenni, és vissza kell állítani az emberi kultúrák és életmódok pluralitásához”. A puszta szabályozás „elégtelen”.

A leszerelés így egy kulturális-civilizációs projektként valósul meg, amely a mesterséges intelligenciát az emberi kultúra széles skálájába helyezi, és az emberi kiteljesedés, nem pedig a hadviselés, a monopolhelyzet vagy az új egyenlőtlenségek felé irányítja.

Ugyan nem nevezi meg, de Gandalfot idézi

Mikor a lefegyverzésre és az építésre felhívja a figyelmet, a „huszadik századi katolikus szerzőhöz”, J. R. R. Tolkienhez fordul. Bár nem nevezi meg, hogy Gandalfot idézi A Gyűrűk Urából, de szinte pontosan ezt teszi:

De nem a mi dolgunk, hogy a világ minden eljövendő áramlatán úrrá legyünk; a mienk az, hogy most segítsünk, amikor élünk, most gyomláljuk ki a gazságot az ismerős mezőkről, hogy azok, akik utánunk következnek, tiszta földet műveljenek. Hogy őrájuk majd milyen idő jár, nem mi szabjuk meg.

(Forrás: J. R. R. Tolkien: A Gyűrűk Ura – A király visszatér, ford. Göncz Árpád, Európa Kiadó.)

Leó szerint az Egyház mégis ismeri a helyét, és nem kíván diktálni. A vallásnak nincsenek „technikai válaszai, és nem is törekszünk arra, hogy a szakértőket kiszorítsuk” – írja. „De olyan bölcsességet hordozunk, amelyre napjainknak kétségbeesetten szüksége van: minden ember egyedi és pótolhatatlan, szabad és intelligens, lelkiismeretes alany, aki képes keresni Istent, szolgálni egymást, gondoskodni közös otthonunkról.”

Mindezt az egyik legnagyobb AI-cég vezető alapítójával az oldalán

XIV. Leó pápa Christopher Olah, az Anthropic társalapítójának társaságában mutatta be a dokumentumot.

Az Anthropic az OpenAI után a világ második legnagyobb független AI-vállalata – idei értékelése megközelíti a 900 milliárd dollárt –, és az iparágban kifejezetten a biztonsági szemléletű fejlesztésről ismert: alapítói 2021-ben azért hagyták el az OpenAI-t, mert aggódtak a gyors fejlesztés etikai kockázatai miatt. A vállalat a nyereségorientált működést közérdekű célokkal ötvöző jogi formában (ún. „public benefit corporation”) működik, termékeiben nem jelennek meg reklámok, és nem fogad el fizetséget azért, hogy mesterséges intelligencia alapú terméke, a Claude bármit vagy bárkit ajánljon a felhasználóknak

Olah, aki a szóbeszéd szerint nem hívő, nyilvánosan arra kéri a vallási közösségeket, civil szervezeteket és kormányokat, hogy kövessék a pápa példáját: „Tájékozott kritikusokra van szükségünk, akik megmondják a kutatólaboratóriumoknak, ha kudarcot vallanak.”

Chris Olah „időszerűnek” nevezte az enciklikát, és három olyan kérdésre mutatott rá, amelyek átgondolásában a vallási és erkölcsi vezetők segítségét szeretné látni.

„Első a kötelességünk a világ szegényei iránt. Valóban fennáll annak a lehetősége, hogy a mesterséges intelligencia nagyon nagy mértékben kiszorítja az emberi munkaerőt. Ha ez megtörténik, a kiszorítottak támogatása történelmi léptékű erkölcsi kötelesség lesz. Ez a feladat önmagában is elég nehéz lesz, de attól tartok, hogy a legtöbb párbeszéd egy még nehezebb kihívást is figyelmen kívül hagy. A mesterséges intelligencia fejlesztése néhány gazdag országban koncentrálódik. Hogyan biztosíthatjuk, hogy a mesterséges intelligencia előnyeit világszerte megosszák? Erre nincs mechanizmusunk. Ez egy megoldatlan probléma, és ez az a fajta probléma, amelyet az egyház történelmileg nem volt hajlandó figyelmen kívül hagyni.”

„A második az erkölcsi képzelőerő és az emberi virágzás iránti ambíció szükségessége. Ha a mesterséges intelligencia modelljei széles körben elterjednek, hogyan fog kinézni az emberek, a családok és a világ kiteljesedése?”

A harmadik a mesterséges intelligencia modellek természetével kapcsolatos mérlegelés szükségessége. Tudós vagyok. Kutatócsoportot vezetek, amely az AI modellek belső szerkezetét vizsgálja – vagyis, hogy mi történik valójában bennük. És őszinte leszek: folyamatosan titokzatos, sőt nyugtalanító dolgokra bukkanunk. Olyan struktúrákat találunk, amelyek az emberi idegtudomány eredményeire emlékeztetnek. Az önvizsgálat bizonyítékaira bukkanunk. Olyan belső állapotokat fedezünk fel a gépben, amelyek funkcionálisan tükrözik az örömöt, az elégedettséget, a félelmet, a bánatot és a nyugtalanságot. Nem tudom, mit jelent ez, de azt hiszem, folyamatos figyelmet érdemel.”

„Elfogadom a meghívást, hogy együtt haladjunk, párbeszédet folytassunk, és együtt találjuk meg az utat az emberiség számára a mesterséges intelligencia korában.” – mondta a pápa.