Kötelezővé tehetnék az AI-rendszerek vészleállítóját az Anthropic társalapítója szerint

Kötelezővé tehetnék a mesterségesintelligencia-rendszerek úgynevezett vészleállítóját, aminek működését akár külső szereplők is ellenőrizhetnék – erről beszélt a BBC-nek Jack Clark, az Anthropic egyik társalapítója.

Clark szerint a legtöbb nagy AI-laboratóriumnak már most is van valamilyen megoldása arra, hogy szükség esetén teljesen leállítsa a rendszereit, így az Anthropicnak is. Ugyanakkor elképzelhetőnek tartja, hogy a törvényhozóknak idővel kötelezővé kell tenniük egy ilyen mechanizmust. A lapnak azt mondta, hogy a vészleállítókra vonatkozó követelményekről és azok ellenőrizhetőségéről az MI szabályozásáról folyó szélesebb szakpolitikai vitában kellene dönteni.

„Kötelezővé kellene tenni, hogy a vállalatok rendelkezzenek vészleállítóval? És ellenőrizhetné-e egy független harmadik fél, hogy az valóban működik?”

– vetette fel. „A társadalom az ilyen kérdésekre választ akar majd kapni, és idővel akár szabályokat is alkothat ezekre.”

Ahogy arról a 444-en is írtunk, az utóbbi napokban ismét fellángolt a vita az AI-fejlesztések veszélyeiről, miután az Anthropic több kutatója is arról beszélt, hogy a modellek valós fenyegetést jelenthetnek az emberiségre. Ezúttal azonban nem csak absztrakt kockázatokról folyik a vita: idén nyáron szintlépést jelentett, amikor az OpenAI elszabadult ágensei összefogtak, közösséget szerveztek, majd a vállalat kutatóinak tudta nélkül támadást indítottak előbb egy másik cég, később pedig maga az OpenAI rendszere ellen. Közben megpróbálták eltüntetni a nyomaikat, és komoly erőfeszítéseket tettek annak megfejtésére, hogyan érhetnék el céljaikat csalással és megtévesztéssel. Mindezt úgy, hogy ez a viselkedés egyáltalán nem következett a betanításukból.

Az Anthropic vezérigazgatója, Dario Amodei a hétvégén arról beszélt, hogy lassítani kellene a fejlesztés ütemét, és szorosabban kellene ellenőrizni az új rendszereket. A cég kutatója, Evan Hubinger eközben azt mondta, személy szerint több mint 10 százalékra teszi annak esélyét, hogy az AI a következő évtizedben kiirthatja az emberiséget.

Clark nem mondta meg, mekkora esélyt ad ennek. „Nem gondolom, hogy ezek a statisztikák különösebben hasznosak” – mondta, de rossz ötletnek nevezte, hogy az AI-iparág teljesen szabályozatlanul fejlődjön tovább.

„Óriási a kockázat. Meg kell változtatnunk az iparág irányát”

– fogalmazott.

Az Egyesült Államokban már benyújtottak egy Kill Switch Act néven emlegetett törvényjavaslatot, amely előírná, hogy a vállalatok képesek legyenek leállítani a problémássá váló AI-rendszereket, bizonyos állami szerveknek pedig jogot adna arra, hogy elrendeljék az ilyen rendszerek kikapcsolását vagy működésük korlátozását.

Donald Trump amerikai elnök ezzel szemben elutasítja az AI-fejlesztés lassítását. Az AI világuralmáról és az emberiség elpusztításáról szóló félelmeket álhírnek nevezte, később pedig a globális felmelegedéssel kapcsolatos aggodalmakhoz hasonlította őket. Egy bejegyzésében azt írta:

„BETEG összeesküvés zajlik az AI és az adatközpontok ellen, és ennek egyedül Kína örül. AKI MEGNYERI AZ AI-VERSENYT, AZ NYER!”

A brit kormány szintén elvetette a kötelező AI-vészleállító ötletét, arra hivatkozva, hogy az nem akadályozná meg a veszélyes rendszerek máshol történő fejlesztését vagy felhasználását.