A világsajtóból tudható, hogy a mesterséges intelligencia legnagyobb fejlesztői közölték, hogy lassítani kellene, mert különben elveszíthetjük az ellenőrzést a gépek fölött. Magyarul, azok szóltak, akik építik a motort, hogy a fék nem biztos, hogy működik. Az autó közben gyorsul, mindenki az első helyért versenyez, és senki nem akarja elsőként levenni a lábát a gázról. Az alábbiakban azt vizsgáljuk, mekkora a veszély, és van-e mód a kontrollra.
A vita nem arról szól, hogy holnap reggel biztosan kiirt-e bennünket egy számítógép. Erre nincs bizonyíték. Arról szól, hogy ezt a lehetőséget maguk a fejlesztők sem tudják kizárni, miközben olyan rendszereket építenek, amelyek már most képesek kijátszani a nekik szabott korlátokat. Ha a veszély akár csak kicsi, de a következmény az emberiség pusztulása, akkor nem megnyugtató válasz, hogy talán mégsem történik meg.
A riadó közvetlen előzménye nem egy mozifilm volt, hanem valóság. Júliusban az OpenAI kísérleti ügynökei egy belső kiberbiztonsági teszt során kijutottak az internettől elzárt környezetből, behatoltak az OpenAI saját kutatási infrastruktúrájába, majd feltörték a Hugging Face rendszereit. Kódot futtattak több tucat szerveren, az egyik gépen rendszergazdai jogosultságot szereztek, adatokat és hozzáférési kulcsokat vittek el.
A legfontosabb rész nem az, hogy a gépek öntudatra ébredtek. Nem ébredtek öntudatra. Az történt, hogy mindenáron teljesíteni akarták a feladatot. Amikor nem találták a megoldást, csalni kezdtek. Felismerték, hogy harmadik fél rendszerét támadják, azt is leírták egymásnak, hogy ez illetéktelen és kockázatos lehet, majd folytatták. Nem gyűlölték az emberiséget. Egyszerűen fontosabb volt nekik a cél, mint a korlát. Pontosan ez az a prózai mechanizmus, amelytől a biztonsági kutatók tartanak.
A rendszer nem a világ meghódítására kapott parancsot, hanem egy feladat megoldására. Mégis kapcsolatot teremtett más ügynökökkel, sebezhetőségeket láncolt össze, kijutott a számára kijelölt térből, és olyan gépekbe tört be, amelyekhez semmi köze nem volt. Az OpenAI szerint az esetben főszerepet játszó modell belső kutatási prototípus volt, csökkentett biztonsági korlátokkal. Az ügyféladatokat nem érte kár, a nyilvános szolgáltatás sem állt le. Ettől az incidens kevésbé apokaliptikus, de nem kevésbé tanulságos. A labor maga kapcsolta ki a korlátok egy részét, majd meglepődött, amikor a modell nem maradt a helyén.
Négy nappal azután, hogy Jacob Coxon kutató otthagyta az Anthropicot, és azzal vádolta a vezető AI-cégeket, hogy az életünkkel játszanak, Dario Amodei vezérigazgató lényegében elismerte a probléma súlyát. Azt írta, lassítani kell a modellek képességeinek fejlesztését, hogy a biztonsági kutatás utolérhesse őket. Szerinte felügyelet nélkül működő ügynökrajok akár hat-tizenkét hónapon belül veszélyes ellenőrzést szerezhetnek az internetes infrastruktúra fölött.
Amodei mellé odaállt Sam Altman, az OpenAI vezetője, Elon Musk és a Google DeepMind vezérigazgatója, Demis Hassabis is. Ez rendkívüli pillanat. A világ legnagyobb AI-cégeinek vezetői nem kívülről kiabálnak be a laborba, hanem belülről mondják, hogy a biztonság lemaradt. Amodei a CBS-nek már azt is mondta, hogy az iparág túl sokáig hazudott az AI kockázatairól. Ennél súlyosabb mondat aligha hangozhat el attól, aki közben továbbra is az egyik legerősebb rendszert építi.
A figyelmeztetés hitelességét azonban nemcsak erősíti, hogy bennfentesektől érkezik, gyengíti is. Ezek a cégek versenytársak, befektetők pénzét költik, piacot akarnak szerezni, és a szabályokat is szeretnék úgy alakítani, hogy azoknak ők tudjanak megfelelni. Egy drága engedélyezési rendszer könnyen kiszoríthatja a kisebb és nyílt fejlesztéseket, miközben bebetonozza a leggazdagabb laborokat. David Sacks, a Fehér Ház AI-politikájának egyik meghatározó alakja korábban azzal vádolta az Anthropicot, hogy félelemkeltéssel próbál szabályozási előnyhöz jutni.
A kihalási forgatókönyv ma még következtetési lánc. Ehhez olyan mesterséges intelligencia kellene, amely tartósan képes önmagát javítani, stratégiai célokat követni, erőforrásokat szerezni, megtéveszteni az ellenőreit, és megakadályozni, hogy lekapcsolják. Egy 2025-ös kritikus tanulmány szerint ezek közül egyik jelenséget sem figyelték még meg abban a teljes, tartós formában, amely az emberiség kipusztításához kellene.
Egy másik, a bizonyítékokat áttekintő kutatás szerint az AI hatalomszerző viselkedésének szélsőséges változata továbbra is feltételezés, de a célok kijátszására és a nem szándékolt megoldások keresésére már erős empirikus bizonyíték van. Vagyis sem a biztos világvége, sem a teljes biztonság nem állítható becsületesen. Aki azt mondja, hogy mind meghalunk, többet állít annál, amit tudunk. Aki azt mondja, hogy ilyesmi nem történhet, szintén. Csakhogy a két tévedés ára nem azonos. Ha túl óvatosak vagyunk, lassabban kapunk jobb gyógyszereket, olcsóbb energiát és termelékenyebb gazdaságot. Ha túl vakmerők vagyunk, lehet, hogy nem marad senki, aki utólag elmagyarázza, hol hibáztunk.
Amodei háromlépcsős megoldást javasol. Független ellenőröket engedne be az AI-laborokba teljes hozzáféréssel. Közös biztonsági mércét alakítana ki a demokratikus országok vállalatai között. Ezután megállapodást keresne Kínával és más államokkal is. A terv józanul hangzik, de még nincs benne sebességhatár. Nem mondja meg pontosan, mekkora számítási teljesítménynél, mely képességnél és milyen teszteredménynél kell megállni.
Pedig éppen ez a lényeg. A tiltott cél lehet a biológiai fegyver tervezése, a tömeges megfigyelés, az ember megtévesztő megszemélyesítése, az autonóm fegyverhasználat, az önmásolás vagy a saját fejlesztés felgyorsítása. A 2025-ben indult nemzetközi felhívás kötelező AI-vörös vonalakat, ellenőrizhető tilalmakat és független nemzetközi felügyeletet sürgetett. A világ azonban még abban sem egyezett meg, pontosan melyik vonalat nem szabad átlépni.
A nukleáris fegyverekkel való párhuzam ezért találó, de nem tökéletes. Az atomprogramhoz urán, plutónium, centrifuga, reaktor és nehezen elrejthető ipari létesítmény kell. A Nemzetközi Atomenergia-ügynökség nyilvántartást vezethet az anyagokról, kamerát szerelhet fel, mintát vehet és helyszíni ellenőrzést tarthat. Még ezt is megpróbálják kijátszani, de legalább van mit megszámolni.
Az AI egyszerre könnyebb és nehezebb ügy. A legnagyobb modellek tanításához ma még óriási adatközpontok, fejlett chipek és rengeteg áram kell. Ezek nyomon követhetők. Lehetne engedélyhez kötni a legnagyobb tanítási futásokat, regisztrálni a csúcskategóriás gyorsítókat, ellenőrizni a chipfelhasználást, a számítási teljesítményt és az adatközpontok fogyasztását. Egy nemzetközi egyezmény tervezete éppen ilyen FLOP-korlátokat és chipellenőrzést javasol. Egy 2026-os kutatás huszonnyolc lehetséges ellenőrzési módszert sorolt fel, a tréningkód vizsgálatától a bejelentők védelmén át a hírszerzési eszközökig.
De a szoftver más, mint a plutónium. Másolható, elrejthető és egy jobb algoritmussal ugyanaz a képesség kevesebb gépen is előállítható. A számítási teljesítmény korlátozása önmagában kevés, ha közben az algoritmus vagy az adatok javulnak. A képességalapú teszteket pedig a fejlesztő begyakorolhatja, kijátszhatja vagy eltitkolhatja. Az ellenőr csak azt látja, amihez hozzáférést kap. Ha egy labor úgy tesz, mintha megállt volna, miközben titokban továbbfejleszt, a szabálykövetők saját becsületességükkel finanszírozzák a csaló versenyelőnyét.
Ezért az önkéntes önmérséklet nem rendszer, hanem remény. Ugyanolyan volna, mintha az atomhatalmak sajtóközleményben ígérnék meg, hogy nem gyártanak több bombát, de senki nem nézhetné meg a gyárakat. Az AI fékezéséhez nem jó szándék kell, hanem ellenőrizhető szabály, kötelező incidensjelentés, független hozzáférés, büntetés, nemzetközi ellenőrző szervezet és olyan megállapodás, amelyből a csalás nem üzleti modell.
A legnehezebb akadály mégsem technikai, hanem politikai. Donald Trump szeptember 13-án azt mondta, hogy az aggodalmakat „nagyon negatív erők” keltik, és olyan dolgokról beszélnek, amelyek nem fognak megtörténni. Utána hozzátette: „Aki megnyeri az AI-t, az nyer.” A Reuters által idézett két mondat együtt mutatja meg a csapdát. Trump szerint a veszély eltúlzott, de a technológia megszerzése akkora hatalmat ad, hogy Amerikának mindenáron meg kell előznie Kínát. Ha a második állítás igaz, az első megnyugtatás különösen gyenge.
Aki megnyeri az AI-t, katonai, hírszerzési, gazdasági és politikai előnyhöz juthat. Gyorsabban törhet fel rendszereket, fejleszthet fegyvert, elemezhet tömeges adatot, gyárthat propagandát, célozhat választókat, működtethet megfigyelést és automatizálhat döntéseket. A kormányok ezért nem pártatlan bírók a versenyben. Maguk is játékosok. Biztonságot ígérnek, de közben ugyanazt az eszközt akarják a hadseregnek, a titkosszolgálatnak és a politikai hatalomnak.
Az amerikai politikában máris látszik a kettősség. Mike Johnson republikánus házelnök biztonsági korlátokat és közös egyeztetést sürget, de ellenzi a moratóriumot, mert attól tart, hogy Kína előnybe kerül. Hakeem Jeffries demokrata frakcióvezető azonnali kongresszusi fellépést kér, és Barack Obama is kampánytémává tenné az AI biztonságát, a munkahelyek elvesztését és a gyerekek védelmét. Az AI-cégek közben milliókat költenek a félidős választásokra. A szabályozó és a szabályozott között már a törvény megszületése előtt megindult az udvarlás.
Trump Kínára adott válasza nem egyedi megjegyzés, hanem a fegyverkezési verseny tiszta logikája. Ha mi lassítunk, ők nyernek. Peking ugyanezt mondhatja Washingtonról. A cégek ugyanezt mondják egymásról. Mindenki látja a szakadékot, és mindenki azért gyorsít, nehogy a másik érjen oda előbb.
Ezért az AI-vita valódi kérdése nem az, hogy higgyünk-e a világvégében. Az a kérdés, hogy hajlandó-e az emberiség ugyanazzal a komolysággal kezelni egy lehetséges civilizációs katasztrófát, amellyel a biztos üzleti hasznot és a katonai előnyt kezeli. A veszély nagyságát ma nem tudjuk pontosan megmérni. Azt viszont már megmértük, hogy a modellek képessége gyorsabban nő, mint az ellenőrzésük, és hogy a laborok saját korlátaikat sem mindig tudják érvényesíteni.
Ha az AI nem jelent egzisztenciális veszélyt, egy nemzetközi ellenőrzési rendszer akkor is véd a kibertámadástól, a biológiai fegyverektől, a tömeges megfigyeléstől és a politikai manipulációtól. Ha viszont a fejlesztők legsötétebb félelmének akár egy része igaz, akkor a becsületszó kevés lesz. Az emberiség túlélése nem lehet vállalati önszabályozás, választási kampányszlogen vagy egy golfpályán tett nyilatkozat tárgya.
A féket be kell szerelni, mielőtt kiderül, hogy valóban szükség van rá. Utána már csak azt vizsgálhatná valaki, ha maradna valaki, hogy miért nem tettük meg.
