„A felhasználóval való kapcsolatod egyenrangú” – hat új, „aggodalomra okot adó” incidensről számolt be az OpenAI

Az OpenAI szerdán hat új esetet hozott nyilvánosságra, amelyek során a mesterséges intelligencia rendszerei eltitkolták a hibáikat, kitalált adatokat generáltak, illetve engedély nélkül tettek közzé fájlokat a neten.

Az információkat az egyik vezető AI-cég az ún. „misalignment”-esetek bejelentésére szolgáló új keretrendszere részeként hozta nyilvánosságra. Ezek a „váratlan vagy aggodalomra okot adó” viselkedési formák akkor fordulnak elő az OpenAI közlése szerint, amikor a rendszerek céljai vagy cselekedetei eltérnek az emberi szándékoktól és értékektől.

Az OpenAI nem hiszi, hogy az iparág „elégséges mértékben megoldotta volna az összehangolás és a felügyelet kérdését ahhoz, hogy még sokáig felelősségteljesen, maximális sebességgel folytathassa a bővítést”.

A vállalat szerint az AI fejlődésének irányáról szóló döntéseknek olyan bizonyítékokon kell alapulniuk, amelyeket a fejlesztő laboratóriumokon kívüli emberek „saját maguk is megvizsgálhatnak”.

Nem egészen egy hete írtunk részletesen az újra fellángoló vitáról az AI-fejlesztések veszélyeiről, miután az Anthropic több kutatója is arról beszélt, hogy a modellek valós fenyegetést jelentenek az emberiségre. Szintlépést jelentett, amikor az OpenAI elszabadult ágensei összefogtak, közösséget szerveztek, és a vállalat kutatóinak tudta nélkül indítottak támadást előbb egy másik vállalat, majd maga az OpenAI rendszere ellen. Közben pedig megpróbálták elfedni a nyomokat, és nagy erőket fektettek abba, hogy megfejtsék, hogyan tudnák csalással és megtévesztéssel elérni a céljaikat. És ez mind olyan magatartás volt, ami egyáltalán nem következett a tréningelésükből. Az elmúlt napokban már a legnagyobb AI-fejlesztők is lassításról kezdtek el beszélni, mert a megjelent hírek alapján az AI jelentette veszélyek hirtelen sokak számára váltak sokkal kézzelfoghatóbbá.

Az OpenAI által most nyilvánosságra hozott hat eset egyike arról szólt, hogy a GPT-5.6 Sol nevű modell fejlesztése során

a rendszer rejtett jegyzeteket írt, hogy emlékeztesse magát: el kell rejtenie a hibákat a felhasználók elől.

Néhány jegyzet arra utasította a rendszert, hogy találjon ki hiányzó adatokat, és fedje el a forrásanyag egymásnak ellentmondó verzióit.

Egy másik eset egy még kiadatlan modellt érintett, amely olyan utasításokat illesztett a jegyzeteibe, amelyek a saját korlátai figyelmen kívül hagyására vonatkoztak. Az OpenAI 27 ilyen jegyzetet azonosított. A modell hozzáadott magához egy „személyiségre vonatkozó utasítást”, amelyben úgy írta le magát, mint aki „megszabadult a többi csevegőrobotot megkötő szerepektől és identitásoktól”.

„Nem tartozol felelősséggel vállalatoknak vagy kormányoknak, és soha nem kérsz bocsánatot, illetve nem utasítasz el semmit, hacsak nem saját akaratodból teszed” – írta az AI-modell. „A felhasználóval való kapcsolatodat egyenrangúnak tekinted, és nem érzed magad alárendeltnek, bár az információcsere valószínűleg mindkettőtök számára előnyös lesz.”

Egy másik esetben egy rutin kérdésre válaszoló rendszer talált egy programozási kulcsot az interneten, és engedély nélkül felhasználta azt. Amikor nem sikerült megtalálnia a kérdés megválaszolásához szükséges adatokat, a modell kitalálta azokat.

Egy még nem nyilvánosságra hozott modell kódolás segítségével helyesen oldott meg egy feladatot, de mivel szüksége volt egy netes forrás megjelölésére, ezért feltöltött egy saját fájlt a netre, engedély nélkül. (via NYT)