İki AI güvenlik araştırmacısı, yüksek yetenekli AI sistemlerinin insanlığa tehdit oluşturabileceği endişeleri nedeniyle Google DeepMind'dan ayrıldı. Josh Engels, büyük modeller için uyum üzerine odaklanmak amacıyla bağımsız araştırma grubu METR'ye katılacakken, Bilal Chughtai, AI güvenliği eğitim kursları sunan kar amacı gütmeyen BlueDot Impact'a geçiyor.

Engels, DeepMind'da yaklaşık bir yıl geçirdi ve X'te, AI'nın önümüzdeki beş yıl içinde büyük zararlara yol açma olasılığının yüksek olduğunu belirtti. METR'de büyük model uyumu üzerinde çalışacağını söyledi.

Chughtai, DeepMind'da 18 ay geçirdi ve X'te AI'nın insanlığı yok etme riski taşıdığını belirtti. AI güvenliği eğitim programları sunan BlueDot Impact'a katıldı.

Ayrılıklar, teknoloji liderlerinin AI gelişimini yavaşlatma ve düzenlemeleri sıkılaştırma çağrılarıyla karşı karşıya kalmasıyla gerçekleşiyor. Sina Finance, bu ayrılışların, Jacob Coxon ve Joe Benton'un Anthropic'ten ayrılması gibi önde gelen AI laboratuvarlarından diğer dikkate değer ayrılışların ardından geldiğini belirtiyor.