To AI sikkerhedsforskere har forladt Google DeepMind midt i bekymringer om, at højt kapable AI-systemer kunne true menneskeheden. Josh Engels vil slutte sig til den uafhængige forskningsgruppe METR for at fokusere på tilpasning af store modeller, mens Bilal Chughtai flytter til den nonprofitorganisation BlueDot Impact, som tilbyder AI sikkerhedsuddannelseskurser.

Engels tilbragte omkring et år hos DeepMind og postede på X, at der er en høj sandsynlighed for, at AI vil forårsage stor skade inden for de næste fem år. Han sagde, at han vil arbejde på tilpasning af store modeller hos METR.

Chughtai tilbragte 18 måneder hos DeepMind og postede på X, at AI bærer en risiko for at ødelægge menneskeheden. Han er blevet en del af BlueDot Impact, som tilbyder AI sikkerhedsuddannelsesprogrammer.

Afskedigelserne kommer, mens teknologiledere står over for fornyede opfordringer til at bremse AI-udviklingen og stramme reguleringen. Sina Finance bemærker, at disse afskedigelser følger andre bemærkelsesværdige afskedigelser fra førende AI-laboratorier, herunder Jacob Coxon og Joe Benton, der forlader Anthropic.