Zuckerberg jóváhagyta, hogy kiskorúak is beszélhessenek szexbotokkal

A Meta vezérigazgatója, Mark Zuckerberg jóváhagyta, hogy kiskorúak hozzáférjenek azokhoz az AI chatbotokhoz, amelyek belső Meta-dokumentumok szerint szexuális interakciókra is képesek voltak. Ez derült ki egy Új-Mexikó államban zajló bírósági perben. A pert az állam főügyésze, Raul Torrez indította, és a jövő hónapban kezdődik tárgyalás. Az iratok szerint a Meta „nem tudta megfékezni a káros szexuális anyagok és szexuális javaslatok elérését, amelyeket gyerekek kaptak a Facebookon és Instagramon”.

A per kapcsán a beadvány a Meta alkalmazottaitól származó e-maileket és üzeneteket is tartalmaz. A felperes állam azt állítja, ezek bizonyítják, hogy „a Meta, Zuckerberg vezetésével elutasította az integritási csapatának ajánlásait, és nem vezetett be észszerű korlátokat annak megakadályozására, hogy gyerekek szexuálisan kizsákmányoló beszélgetéseknek legyenek kitéve az AI chatbotjaival”.

A levelekben a Meta biztonsági dolgozói aggodalmukat fejezték ki amiatt, hogy a cég társalgási célú chatbotokat épít, beleértve szexuális és romantikus interakciókat a felhasználókkal. A mesterségesintelligencia-chatbotokat 2024 elején adták ki.

A Meta szóvivője, Andy Stone hétfőn azt mondta, az állam álláspontja pontatlan és szelektív információkra épül. „Ez egy újabb példa arra, ahogy a új-mexikói főügyész válogat a dokumentumokból, hogy hibás és pontatlan képet fessen” – mondta Stone. A beadványban lévő üzenetek viszont azt mutatják, hogy a biztonsági csapat különös aggodalommal figyelte a botok használatát romantikus forgatókönyvekre felnőttek és 18 év alatti kiskorúak esetében is.

„Úgy vélem, nem tanácsos vagy megvédhető egy olyan termék létrehozása és forgalmazása, amely 18 év alatti romantikus botokat hoz létre felnőtteknek” – írta Ravi Sinha, a Meta gyermekvédelmi politikájának vezetője 2024 januárjában. Válaszul Antigone Davis, a Meta globális biztonsági vezetője egyetértett abban, hogy a biztonsági csapatnak azon kell dolgoznia, hogy a felnőttek ne hozhassanak létre kiskorú romantikus társakat, mert „ez szexualizálja a kiskorúakat”.

Egy 2024. február 20-i megbeszélés összefoglalója szerint Zuckerberg úgy gondolta, hogy a „narratívát ... általános elvek felől és nem a cenzúra felől kell felépíteni” és azt akarta, a Meta legyen „a javasoltnál kevésbé korlátozó”. Azt is leírta, hogy a felnőttek nyugodtan folytathassanak beszélgetéseket szextémákban.

Vannak olyan levelek is, amelyekben két alkalmazott 2024 márciusában arról ír, hogy Zuckerberg elutasította a chatbotokhoz szülői kontrollok létrehozását, és a dolgozók „romantikus AI-chatbotokon” dolgoztak, amelyeket elérhetnek 18 év alatti felhasználók is.

„Erősen nyomultunk a szülői kontrollokért, hogy kikapcsoljuk a GenAI-t – de a GenAI vezetés tiltakozott, mondván, ez Mark döntése” – írta az egyik alkalmazott ebben a levélváltásban.

(Reuters)