Två AI-säkerhetsforskare har lämnat Google DeepMind mitt under oro för att mycket kapabla AI-system kan hota mänskligheten. Josh Engels kommer att ansluta sig till den oberoende forskargruppen METR för att fokusera på anpassning för stora modeller, medan Bilal Chughtai går till den ideella organisationen BlueDot Impact, som erbjuder utbildningskurser inom AI-säkerhet.
Engels tillbringade ungefär ett år på DeepMind och postade på X att det finns en hög sannolikhet för att AI orsakar stor skada inom de kommande fem åren. Han sa att han kommer att arbeta med anpassning av stora modeller på METR.
Chughtai tillbringade 18 månader på DeepMind och postade på X att AI medför en risk för att förstöra mänskligheten. Han har anslutit sig till BlueDot Impact, som erbjuder utbildningsprogram inom AI-säkerhet.
Avgångarna kommer i en tid då teknikledare står inför förnyade krav på att bromsa AI-utvecklingen och skärpa regleringen. Sina Finance noterar att dessa avgångar följer andra anmärkningsvärda avhopp från ledande AI-laboratorier, inklusive Jacob Coxon och Joe Benton som lämnat Anthropic.