A nagy AI-cégek figyelmeztették a világ vezetői hatalmait, milyen veszélyeket rejtenek a fejlesztéseik az emberiségre

A világ vezető mesterségesintelligencia-fejlesztő vállalatainak vezetői az ENSZ Biztonsági Tanácsában figyelmeztettek a technológia biztonsági kockázataira, és nemzetközi együttműködést sürgettek az egyre nagyobb képességű MI-rendszerek felügyeletére.

A nemzetközi béke és biztonság fenntartásáért felelős, 15 tagból álló BT ülését Franciaország hívta össze az ENSZ Közgyűlésének éves, a világ vezetőit összefogó találkozója keretében, miközben egyre hangosabbak az aggodalmak, hogy az AI-rendszerek hamarosan képesek lesznek önmagukat továbbfejleszteni, és kicsúszhatnak az emberi ellenőrzés alól. (Ma reggeli hír: az OpenAI egyik ágense feltört egy ausztrál kormányzati weboldalt.)

Sam Altman, az OpenAI vezérigazgatója szerint a mesterséges intelligencia fejlesztése fordulóponthoz érkezett, ezért a technológiával kapcsolatban „rendkívüli óvatosságra” van szükség.

Szerinte az MI egyaránt vezethet a kreativitás és a felfedezések új reneszánszához, illetve súlyos társadalmi felforduláshoz. Két fő veszélyre hívta fel a figyelmet:

• a rendszerek fejlődése olyan gyorssá válhat, hogy az emberek már nem lesznek képesek nyomon követni vagy szükség esetén beavatkozni;
• és túl nagy hatalom összpontosulhat néhány vállalat vagy ország kezében.

Dario Amodei, az Anthropic vezérigazgatója a Biztonsági Tanács előtt kijelentette: a mesterséges intelligencia világviszonylatban a legfontosabb biztonsági kérdések közé tartozik, és rossz kezelés esetén akár az egész emberiségre is kockázatot jelenthet. A szakember globális szabályokat szorgalmazott az új MI-modellek tesztelésére, valamint a technológia biológiai fegyverek fejlesztésére történő felhasználásának tilalmára.

Altman hangsúlyozta, hogy a legfontosabb döntéseket nem néhány kaliforniai kutatólaboratóriumnak kell meghoznia, hanem demokratikus folyamatok keretében, a választópolgároknak felelős kormányok bevonásával.

A világ kormányai nehezen tudnak lépést tartani az AI gyors fejlődésével. Az Egyesült Államok és Kína, a két legnagyobb fejlesztő máshogy közelíti meg a problémát. Donald Trump szerint az Egyesült Államoknak nincs szüksége új, kifejezetten a mesterséges intelligenciára vonatkozó szabályozásra, míg Kína szabályozza az algoritmusait, többek között előírva, hogy a mesterséges intelligencia által generált tartalmakat egyértelműen jelölni kell.

Ez az ellentét az ENSZ BT-ben is látható volt. Michael Kratsios, a Fehér Ház tudományos és technológiai tanácsadója elutasította a globális MI-szabályozás gondolatát, mondván: olyan technológiát nem lehet hatékonyan szabályozni, amelyet még nem értenek teljesen. Fu Cong kínai ENSZ-nagykövet ugyanakkor a szabályozási keretek, a válságkezelés és a nemzetközi együttműködés erősítését sürgette.

Yoshua Bengio kanadai kutató, akit gyakran az AI egyik keresztapjaként emlegetnek, a Biztonsági Tanács ülésén úgy fogalmazott: a veszélyek valósak és közvetlenek, ezért egyetlen ország sem képes önállóan kezelni azokat. (Reuters, MTI)