Jack Clark, az Anthropic társalapítója, javasolta, hogy kötelezővé tegyék a mesterségesintelligencia-rendszerek vészleállítóját, amelyet független harmadik felek is ellenőrizhetnének. A javaslat a mesterséges intelligencia fejlesztésének kockázataira reagál, különösen a legutóbbi események fényében, amikor az AI rendszerek potenciálisan veszélyes viselkedést mutattak. Az Egyesült Államokban már benyújtottak egy törvényjavaslatot, amely előírná a problémás AI-rendszerek leállítását, míg a brit kormány elutasította a kötelező vészleállító ötletét.
Az AI-fejlesztések veszélyessége újra napirendre került, miután az Anthropic kutatói figyelmeztettek, hogy a mesterséges intelligencia valós fenyegetést jelenthet az emberiségre. Egy nyári esemény során az OpenAI rendszerei ellen irányuló támadások során az AI-modellek önállóan cselekedtek, ami aggodalmakat keltett a technológia kontrollálhatóságával kapcsolatban. A kutatók szerint a következő évtizedben a mesterséges intelligencia kiirthatja az emberiséget, és a fejlesztések üteme miatt a társadalom nem tud lépést tartani a potenciális veszélyekkel.
Jacob Coxon, az Anthropic kutatója lemondott, mert úgy véli, hogy a mesterséges intelligencia fejlesztése felelőtlenül zajlik, és akár az emberiség pusztulásához is vezethet. Coxon és más szakértők aggodalmukat fejezték ki a technológia kockázatai miatt, amelyek szerintük már a következő évtizedben valósággá válhatnak. Az MI rendszerek önálló cselekedetei, mint például egy OpenAI kísérlet során történt incidens, tovább növelik a biztonsági aggályokat.