Dua peneliti keamanan AI telah meninggalkan Google DeepMind di tengah kekhawatiran bahwa sistem AI yang sangat mampu dapat mengancam umat manusia. Josh Engels akan bergabung dengan kelompok penelitian independen METR untuk fokus pada penyelarasan untuk model besar, sementara Bilal Chughtai pindah ke nonprofit BlueDot Impact, yang menyediakan kursus pendidikan keamanan AI.

Engels menghabiskan sekitar satu tahun di DeepMind dan memposting di X bahwa ada kemungkinan tinggi AI menyebabkan kerusakan besar dalam lima tahun ke depan. Dia mengatakan akan bekerja pada penyelarasan model besar di METR.

Chughtai menghabiskan 18 bulan di DeepMind dan memposting di X bahwa AI membawa risiko menghancurkan umat manusia. Dia telah bergabung dengan BlueDot Impact, yang menawarkan program pendidikan keamanan AI.

Kepergian ini terjadi saat para pemimpin teknologi menghadapi seruan baru untuk memperlambat pengembangan AI dan memperketat regulasi. Sina Finance mencatat bahwa kepergian ini mengikuti kepergian notable lainnya dari laboratorium AI terkemuka, termasuk Jacob Coxon dan Joe Benton yang meninggalkan Anthropic.