A mesterséges intelligencia legnagyobb fejlesztői az ENSZ Biztonsági Tanácsában kértek segítséget ahhoz, hogy az általuk épített rendszerek emberi ellenőrzés alatt maradjanak. Sam Altman, az OpenAI és Dario Amodei, az Anthropic vezetője közös nemzetközi szabályokat sürgetett. Washington válasza közben az volt: a kockázatok miatt ne állítsák le a fejlesztést, és ne hozzanak létre új globális irányító szervezetet. A vita tétje már az, ki mondhatja ki, hogy egy technológia bevezetéséhez még nincs elég biztonsági garancia.
Altman a nyilvánosságra hozott beszédében két veszélyt különített el. Az egyik, hogy az egyre önállóbb rendszerek működését az emberek nem tudják követni vagy szükség esetén megállítani. A másik, hogy a technológia fölötti hatalom néhány vállalat vagy ország kezében összpontosul. Utóbbi esetben az MI nem kiszabadulna az emberi irányítás alól, hanem nagyon is emberi uralmat tenne nehezebben ellenőrizhetővé.
A javasolt megoldások között közös biztonsági vizsgálatok, a hibák gyors jelentése és a kormányok, szakértők, valamint az alapvető szolgáltatásokat működtető cégek közötti bizalmas információcsere szerepel. Érthetően fogalmazva: ne minden fejlesztő maga határozza meg, mi számít elfogadható kockázatnak, s egy súlyos hibából mások is tanulhassanak.
Amodei ugyancsak nemzetközi biztosítékokat sürgetett, és az egész emberiséget érintő veszélyként beszélt a rosszul kezelt fejlesztésről. Michael Kratsios, a Fehér Ház tudományos tanácsadója ezzel szemben elutasította, hogy az aggodalmak indokot adjanak a fejlesztés szüneteltetésére vagy új globális felügyeletre. Tegyük hozzá, hogy Trump óriási lehetőséget lát abban, ha megkaparinthatja az AI-t.
A legnagyobb veszély éppen az, amit Bill Gates is úgy fogalmazott meg, ha a megfelelő biztonsági garanciák nélkül rohamlépésekben fejlődő mesterséges intelligencia és a rosszindulatú, rossz szándékú és gonosz emberek találkoznak. Márpedig itt az a helyzet, éppen ők akarják ezt a hatalmat megszerezni. Bill Gates szerint a mesterséges intelligencia pillanatok alatt képes lenne egymilliárd ember halálát okozni.
Az ellentét azért lényeges, mert a versenyben minden szereplőnek oka lehet előbb piacra lépni. Egy vállalat attól tarthat, hogy a biztonsági vizsgálat ideje alatt megelőzi a riválisa, egy kormány attól, hogy lemarad egy másik nagyhatalom mögött. Ha mindenki erre hivatkozik, a közös kockázatnak nem marad gazdája.
A vállalatvezetők figyelmeztetése önmagában még nem helyettesíti az ellenőrzést. Azok a cégek, amelyek szabályokat kérnek, a szabályok kialakításában is érdekeltek. A nyilvánosság számára ezért az lesz a döntő, hogy a vállalások számonkérhetők-e, a vizsgálatok függetlenek-e, és valóban megállítható-e egy veszélyes fejlesztés.
A bizalomhoz kevés, hogy a kormányok és a cégek ugyanazon a konferencián aggódjanak.
