Dua penyelidik keselamatan AI telah meninggalkan Google DeepMind di tengah kebimbangan bahawa sistem AI yang sangat berkemampuan boleh mengancam kemanusiaan. Josh Engels akan menyertai kumpulan penyelidikan bebas METR untuk memberi tumpuan kepada penyelarasan untuk model besar, manakala Bilal Chughtai berpindah ke BlueDot Impact yang bukan untung, yang menyediakan kursus pendidikan keselamatan AI.

Engels menghabiskan kira-kira setahun di DeepMind dan menyiarkan di X bahawa terdapat kemungkinan tinggi AI menyebabkan kemudaratan besar dalam tempoh lima tahun akan datang. Beliau berkata beliau akan bekerja pada penyelarasan model besar di METR.

Chughtai menghabiskan 18 bulan di DeepMind dan menyiarkan di X bahawa AI membawa risiko memusnahkan kemanusiaan. Beliau telah menyertai BlueDot Impact, yang menawarkan program pendidikan keselamatan AI.

Perpindahan ini berlaku ketika pemimpin teknologi menghadapi seruan baru untuk memperlahankan pembangunan AI dan mengetatkan peraturan. Sina Finance mencatat bahawa pemergian ini mengikuti beberapa pemergian ketara lain dari makmal AI terkemuka, termasuk Jacob Coxon dan Joe Benton yang meninggalkan Anthropic.