Dva výzkumníci v oblasti bezpečnosti AI opustili Google DeepMind kvůli obavám, že vysoce schopné AI systémy by mohly ohrozit lidstvo. Josh Engels se připojí k nezávislé výzkumné skupině METR, aby se zaměřil na sladění pro velké modely, zatímco Bilal Chughtai přechází do neziskové organizace BlueDot Impact, která poskytuje kurzy vzdělávání v oblasti bezpečnosti AI.
Engels strávil přibližně rok v DeepMind a na X uvedl, že existuje vysoká pravděpodobnost, že AI způsobí značnou škodu během příštích pěti let. Řekl, že se bude věnovat sladění velkých modelů v METR.
Chughtai strávil 18 měsíců v DeepMind a na X uvedl, že AI nese riziko zničení lidstva. Připojil se k BlueDot Impact, která nabízí programy vzdělávání v oblasti bezpečnosti AI.
Tyto odchody přicházejí v době, kdy čelí technologičtí lídři obnoveným výzvám zpomalit vývoj AI a zpřísnit regulaci. Sina Finance poznamenává, že tyto odchody následují po dalších významných odchodech z předních AI laboratoří, včetně Jacob Coxona a Joe Bentona, kteří opustili Anthropic.