Két AI biztonsági kutató távozott a Google DeepMind-től azzal a aggodalommal, hogy a rendkívül képes AI rendszerek fenyegetést jelenthetnek az emberiség számára. Josh Engels az önálló kutatócsoporthoz, a METR-hez csatlakozik, hogy a nagy modellek összehangolására összpontosítson, míg Bilal Chughtai a nonprofit BlueDot Impact-hez megy, amely AI biztonsági oktatási kurzusokat kínál.

Engels körülbelül egy évet töltött a DeepMind-nál, és az X-en posztolta, hogy nagy a valószínűsége annak, hogy az AI jelentős kárt okoz a következő öt évben. Azt mondta, hogy a METR-nél a nagy modellek összehangolásán fog dolgozni.

Chughtai 18 hónapot töltött a DeepMind-nál, és az X-en posztolta, hogy az AI kockázatot jelent az emberiség megsemmisítésére. Csatlakozott a BlueDot Impact-hez, amely AI biztonsági oktatási programokat kínál.

A távozások akkor történnek, amikor a technológiai vezetők újra felhívásokat kapnak az AI fejlesztésének lelassítására és a szabályozás szigorítására. A Sina Finance megjegyzi, hogy ezek a távozások más figyelemre méltó távozások után következnek be a vezető AI laboratóriumokból, beleértve Jacob Coxon és Joe Benton távozását az Anthropic-tól.