Hónapokkal a 123 gyermek halálát okozó légicsapás után: friss jelentés szerint a tragédiában az AI-ba vetett túlzott bizalom is közrejátszott
Február 28-a, szombat délelőtt volt, Iránban tanítási nap, amikor két Tomahawk robotrepülőgép eltalálta a minabi iskolát, amelyet az amerikai nyilvántartás még katonai létesítményként tartott számon. A Pentagon belső vizsgálatáról a napokban nyilatkozó tisztviselők szerint a Központi Parancsnokság egyes munkatársai a szoftvertől várták volna a hibajelzést, de gyártója szerint ez nem az ő feladata. Az ENSZ jelentését szeptember 21-én mutatták be a genfi Emberi Jogi Tanácsban.
A légicsapásban több mint százötven ember halt meg, köztük legalább 123 gyermek. A Bloomberg a gyermekáldozatok számát tekintve a 21. század legsúlyosabb amerikai célzási hibájának nevezi a szerencsétlenséget. Még márciusban 46 amerikai szenátor levélben sürgetett gyors vizsgálatot Pete Hegseth védelmi minisztertől. A levél szerint az áldozatok többsége hét és tizenkét év közötti lány volt.
(Az iskolát az iráni állami média és több nyugati hírportál lányiskolaként említette. Az Amnesty International szerint viszont fiúk és lányok is jártak ide, külön emeleten tanulva. Az ENSZ-jelentés szerint a végleges iráni hivatalos összesítés 120 megölt gyereket tart számon, 73 fiút és 47 lányt, független források pedig 123 gyermekáldozatról tudnak.)
Az amerikai kormány a felelősséget azóta sem vállalta hivatalosan, bár a Centcom (a Közel-Keletért felelős amerikai hadműveleti körzet) parancsnoka májusban elismerte, hogy az előzetes vizsgálati eredmények amerikai csapással hozzák összefüggésbe a becsapódást.
A Pentagon belső vizsgálata azonban nem nyilvános, bár tisztviselők szerint már hónapokkal ezelőtt elkészült.
Tartalmáról a vizsgálatban részt vevő tisztviselőkre hivatkozva szeptember 18-án, pénteken számolt be a Bloomberg, a Gizmodo pedig két nappal később foglalta össze az értesüléseket.
Eszerint a Pentagonban egyesek már órákkal a csapás után tudták, hogy az iskolát amerikai robotrepülőgépek találták el, az elkészült jelentés pedig megelőzhető hibák sorát írja le. Az egyik megnevezett hiba az volt, hogy a Központi Parancsnokság (Centcom) néhány munkatársa
túlzottan ráhagyatkozott egy mesterségesintelligencia-eszközre, a Palantir Maven Smart System nevű rendszerére.
Amit egy szoftvertől vártak
A Military Times szerint a rendszer 1,3 milliárd dolláros Pentagon-szerződés keretében készült: műholdképeket, drónfelvételeket, radar- és jelfelderítési adatokat olvaszt egyetlen felületbe, célpontokat osztályoz, fegyverrendszereket javasol, és szinte valós időben csapáscsomagokat (a támadás végrehajtásához szükséges célpont-, fegyver- és időzítési adatok összességét) állít össze.
A Maven több tucat adatbemenetet fog össze, és az amerikai védelmi minisztérium az elmúlt évben a haderő alappillérévé tette. A Palantirnál több korábbi magas rangú katonatiszt dolgozik, köztük olyanok is, akik magas szintű biztonsági engedéllyel vannak jelen a Centcom tampai főhadiszállásán.
A minabi létesítmény az elavult adatok miatt az Iszlám Forradalmi Gárda (IRGC) egyik objektumaként szerepelt a nyilvántartásban. Más célpontjelöltekkel együtt került be a Maven AI-rendszerbe, és onnan az első támadási nap ajánlott célpontjaként jött ki.
A célpontlista összeállítása, amely korábban órákat vett igénybe, az AI támogatásával percekre rövidült. A tisztviselők szerint a Centcom néhány munkatársa azt várta a rendszertől, hogy jelezni fogja az elavult rekordokat és az ellentmondásokat a lehetséges célpontokról összegyűjtött információkban. Hogy miért gondolták ezt, nem világos.
A Palantir szóvivője a Bloombergnek azt mondta, hogy a cég nem felelős a támadás alapjául szolgáló adatokért, és nem az ő dolga a hírszerzési hiányosságok azonosítása. Szerinte nincs bizonyíték arra, hogy a szoftver hibázott.
A Palantir szerződéseit ismerő két forrás szerint az információ minőségéért elsősorban a kormány felel, ugyanakkor úgy látják, nem ritka, hogy
a Mavenhez hasonló eszközök használói a szerződéstől eltérő gyakorlati elvárásokat tulajdonítanak egy szoftvernek.
A csapás után a Palantir új funkciókkal bővítette a rendszert. Az ügyet ismerő forrás szerint ezek újra átnézik a mögöttes hírszerzési anyagot, azonosítják azokat a tényezőket, amelyek kizárnák a célpontként való kijelölést, és jelzik az ellentmondásokat, amelyek az emberi ellenőrzésen esetleg átcsúsztak. Az új képesség állítólag már talált is eltéréseket.
A rendszert a háború idején többször nyilvánosan dicsérték. A The Register beszámolója szerint a Palantir március 12-i AIPCON rendezvényén Cameron Stanley, a védelmi minisztérium digitális és mesterséges intelligenciáért felelős vezetője forradalminak nevezte, hogy a célpont azonosításától a támadásig minden egyetlen rendszerben zajlik, míg korábban nyolc-kilenc rendszerben kellett kézzel mozgatni-beállítani az észleléseket.
Chad Wahlquist, a Palantir egyik mérnöke olyan statisztikákat említett, amelyek szerint a célzással korábban 2000 hírszerző tiszt foglalkozott, most húsz is elég. Stanley térképén piros jelölések látszottak Irán területén, és az egyik a The Register szerint Minab helyére esett.
Más források szerint a Maven az Anthropic Claude nyelvi modelljét is használja. A Military Times márciusi cikke szerint a rendszer ennek segítségével félig önállóan rangsorolja a célpontokat stratégiai fontosságuk szerint, és automatikus jogi indoklást is készít a csapásokhoz.
Dario Amodei, az Anthropic vezérigazgatója júniusban a Bloomberg The Circuit című műsorában azt mondta, nem tudják pontosan, hogyan használták a modelleket, és úgy véli, az az elv érvényesült, hogy az utolsó szót ember mondja ki. A The Next Web szerint nem ismert, hogy a Claude hozzájárult-e ehhez a konkrét csapáshoz. A Gizmodo cikke egyébként nem említi, hogy a Mavenben milyen nyelvi modell dolgozik.
Egy másik esetről a múlt héten a CNN számolt be. Egy különleges műveleti elemző által használt chatbot azt hallucinálta, hogy egy kínai lobogó alatt hajózó, a Közel-Keleten tartózkodó hajó Iránba tartó atomfegyver-alkatrészeket szállít. Az amerikai haderő már készült a hajó feltartóztatására, de az utolsó pillanatban visszalépett. A CNN szerint harci gépek is a levegőben voltak már, egyik forrásuk szerint pedig a teljesen téves jelentés „majdnem háborút robbantott ki”.
Kevesebb idő, kevesebb szem a láncban
A minabi tragédiát diplomáciai erőfeszítések kudarca előzte meg: az amerikai és iráni tisztviselők genfi tárgyalásai február 26-án megszakadtak. Az előkészítő munkát, amelyre korábbi háborúk előtt hetek vagy hónapok álltak rendelkezésre, a tisztviselők szerint néhány nap alatt kellett a hadseregnek elvégeznie, és több mint ezer lehetséges célpontot újraértékelnie.
Mire az első, Minabra szánt Tomahawk elhagyta az Arab-tengeren tartózkodó hajót, nagyjából csak három tucat ember vett részt a döntési láncban. Az első huszonnégy órában több mint ezer iráni célpontot találtak el, és
a források szerint ez a gyorsított tempó „összepréselte” a további megerősítésekre szánt időt.
Az amerikai védelmi minisztérium civil károk mérséklésével foglalkozó csapatainak létszáma a közelmúltban nagyjából 90 százalékkal esett vissza, és összesen húsz fő alá csökkent. A Centcom csoportja tízről egy főre zsugorodott, és a minabi helyszínt a robotrepülőgépek indulása előtt e csapatok egyetlen tagja sem vizsgálta meg. A Military Times a Politicóra hivatkozva a leépítést Hegseth februári döntésének tulajdonítja.
Iskola a képeken, bázis az adatbázisban
Az iskola az Iszlám Forradalmi Gárda egyik haditengerészeti komplexumának szomszédságában állt. Az amerikai adatbázisok éveken át katonai létesítményként tartották számon a területet, annak ellenére, hogy a kereskedelmi műholdfelvételeken láthatóan 2017-re elkészültek a falak és a külön iskolai bejáratok, egy 2018-as képen pedig élénk színű falak, focipálya, sorakozóhelyek és játszótéri jelölések látszanak.
A Bloomberg júniusi tudósítása szerint egy elemző már 2019-ben észrevette a változásokat, de megjegyzéseit olyan rendszerben rögzítette, amely nem kapcsolódott a célzáshoz használt fő katonai hírszerzési adatbázishoz, így azok nem jutottak el a csapáscsomag összeállítóihoz. Az iskolának saját honlapja volt, és szerepelt a Google Térképen is.
A CNN márciusban az előzetes megállapításokat ismerő forrásokra hivatkozva azt írta, hogy a Centcom a Védelmi Hírszerző Ügynökségtől (DIA) kapott, az iskola jelenlétét nem tükröző, elavult adatokból készítette a célkoordinátákat. A beszámolót a fent idézett Military Times is átvette.
Ki mit mond?
Donald Trump elnök márciusban azt mondta, hogy a látottak alapján szerinte az iskolát Irán találta el, mert az iráni fegyverek pontatlanok. Júniusban azt közölte, hogy senki sem támadta szándékosan a lányiskolát, és egy vizsgálatra hivatkozott. Egy újabb Fox News-interjúban így fogalmazott: „Nem hiszem, hogy valaha bárki meg tudná mondani, mi történt ott.”
Egy magas rangú kormánytisztviselő szerint az Egyesült Államok nem vesz célba civileket.
Az ENSZ Iráni Iszlám Köztársasággal foglalkozó független nemzetközi tényfeltáró missziójának jelentése, amelyet az Emberi Jogi Tanácsnak nyújtottak be, szeptember 17-én, csütörtökön került nyilvánosságra. A misszió megállapította, hogy alapos okkal feltételezhető: az Egyesült Államok háborús bűncselekményt követett el, válogatás nélküli támadást hajtott végre, mert nem frissítette az iskolára vonatkozó információt a célzási adatbázisaiban, és nem győződött meg arról, hogy az épület katonai célpont-e. Ez a mulasztás „túlmutatott a puszta gondatlanságon”.
Az ENSZ szerint az iskola 2016 óta működött, fal választotta el az IRGC komplexumától, és gyermekeknek szánt falfestmények, iskolai táblák és játszótér is jelezték, hogy oktatási intézmény. Nyilvános beszámolókra hivatkozva a jelentés azt is megemlíti, hogy a csapás előtti műholdfelvételen az udvaron gyerekként felismerhető alakok látszanak.