To AI-sikkerhetsforskere har forlatt Google DeepMind midt i bekymringer om at høyt kapable AI-systemer kan true menneskeheten. Josh Engels vil bli med i den uavhengige forskningsgruppen METR for å fokusere på tilpasning for store modeller, mens Bilal Chughtai går til den ideelle organisasjonen BlueDot Impact, som tilbyr AI-sikkerhetsutdanningskurs.

Engels tilbrakte omtrent ett år hos DeepMind og postet på X at det er en høy sannsynlighet for at AI kan forårsake betydelig skade innen de neste fem årene. Han sa at han vil jobbe med tilpasning av store modeller hos METR.

Chughtai tilbrakte 18 måneder hos DeepMind og postet på X at AI bærer en risiko for å ødelegge menneskeheten. Han har blitt med i BlueDot Impact, som tilbyr AI-sikkerhetsutdanningsprogrammer.

Avgangene kommer mens teknologiledere står overfor fornyede krav om å bremse AI-utviklingen og stramme inn reguleringen. Sina Finance bemerker at disse avgangene følger andre bemerkelsesverdige avgang fra ledende AI-laboratorier, inkludert Jacob Coxon og Joe Benton som forlot Anthropic.