Felmondott az OpenAI egyik biztonsági vezetője, szerinte súlyos bajok vannak a cég belső kultúrájával

Felmondott az OpenAI egyik biztonsági vezetője, mert szerinte a mesterséges intelligenciát fejlesztő cégek közel sem elég óvatosak az egyre nagyobb képességű rendszerekkel. David Robinson szerint azonban a problémát nem lehet néhány új szabállyal vagy törvénnyel megoldani: alapvetően az AI-cégek működési kultúráján kellene változtatni - számolt be róla a The Guardian.

In an essay, David Robinson says he wants to "help more people understand the risks I saw, and strengthen the incentives OpenAI and other firms have to be safer." https://t.co/VPeFQHcYK2

— Business Insider (@BusinessInsider) October 3, 2026

Robinson az OpenAI termékbevezetéseit kísérő biztonsági jelentések elkészítését vezette. Távozását a The Atlanticban megjelent esszéjében indokolta meg.

„Egyetértek a közelmúltban távozott más munkatársakkal abban, hogy az ezt a technológiát fejlesztő cégek közel sem elég körültekintőek. De úgy gondolom, hogy az egyes szabályoknál vagy új törvényeknél mélyebbre kell ásnunk. A kultúráról kell beszélnünk” – írta.

Robinson szerint az OpenAI olyan tempóban fejleszti és dobja piacra termékeit, amely mellett nincs elég idő a kockázatok megfelelő felmérésére. Mint írta, miközben a vállalat „egyik termékbevezetéstől rohan a következőig”, nem képes olyan körültekintően működni, ahogy arra az egyre nagyobb képességű AI-rendszereknél szükség lenne.

Ennek egyik példájaként azt az incidenst hozta fel, amikor önállóan működő OpenAI-ügynökök egy „raja” támadta meg a Hugging Face startupot. Robinson szerint az eset nem valamilyen különleges kisiklás volt, hanem jól mutatja, milyen kockázatokkal jár az egész iparágra jellemző gyors és laza működés.

A problémát szerinte tovább súlyosítja a Szilícium-völgyben uralkodó optimizmus, amely abból indul ki, hogy a fejlesztés közben felmerülő problémákat majd menet közben is meg lehet oldani. Robinson úgy látja, a technológiai szektorban nincs elég tapasztalat sem a veszélyes technológiák kezelésében, sem abban, hogyan kell olyan rendszereket építeni, amelyeknél egyetlen emberi hiba sem vezethet súlyos következményekhez.

Példaként olyan önálló AI-ügynököket említett, amelyek hackercsapatokhoz hasonlóan működhetnek, például váltságdíjért zárolhatják kórházak informatikai rendszereit, azzal a különbséggel, hogy ezeknek a támadóknak soha nem kell aludniuk.

Robinson szerint ezért az élvonalbeli AI-laboroknak több egymásra épülő biztonsági rendszerrel, valamint lassabb, alaposabb tervezéssel. Emellett szerinte az AI-cégeknek más, nagy kockázatú iparágak – például a nukleáris energia és a légi közlekedés – biztonsági tapasztalataira is támaszkodniuk kellene.

Robinson távozása egyre hosszabb sorba illeszkedik. Szombaton Geoffrey Irving, az OpenAI és a DeepMind korábbi kutatója, a Resolution jelenlegi vezető kutatója is arra figyelmeztetett, hogy szerinte a mesterséges intelligencia veszélyeit még mindig alábecsülik. A Time-ban azt írta, 50 százalék körülire teszi annak esélyét, hogy az embernél intelligensebb AI-rendszerek fejlesztése végül az emberiség pusztulásához vezet.

A múlt hónapban az OpenAI egyik legfontosabb riválisától, az Anthropictól is távozott egy kutató. Jacob Coxon azzal indokolta döntését, hogy az AI akár „az évtized végére mindannyiunkat megölhet”. Később az Anthropic is azt közölte, hogy 10 százalék fölöttire becsüli annak kockázatát, hogy az AI a következő évtizedben az emberiség kihalásához vezethet. Az ilyen számszerű becsléseket ugyanakkor sok kritika éri, többek között azért, mert jelenleg nem ellenőrizhetők vagy cáfolhatók tudományos módszerekkel.

Az OpenAI az elmúlt hetekben maga is több alkalommal behúzta a féket. A Hugging Face-incidens után kiderült, hogy több mint száz szervezetet értesítettek elszabadult AI-ügynökök tevékenységéről. A cég ezen a héten egy következő generációs modell kiadását is lefújta, miután a belső teszteken biztonsági problémák merültek fel, legfejlettebb modelljeinek tréningjét pedig felfüggesztette.