Twee AI veiligheid onderzoekers hebben Google DeepMind verlaten uit bezorgdheid dat hooggekwalificeerde AI-systemen de mensheid zouden kunnen bedreigen. Josh Engels zal zich aansluiten bij de onafhankelijke onderzoeksgroep METR om zich te concentreren op afstemming voor grote modellen, terwijl Bilal Chughtai verhuist naar de non-profit BlueDot Impact, die AI veiligheid opleidingscursussen aanbiedt.

Engels heeft ongeveer een jaar bij DeepMind gewerkt en plaatste op X dat er een hoge waarschijnlijkheid is dat AI binnen de komende vijf jaar grote schade kan veroorzaken. Hij zei dat hij zal werken aan de afstemming van grote modellen bij METR.

Chughtai heeft 18 maanden bij DeepMind doorgebracht en plaatste op X dat AI een risico met zich meebrengt voor de vernietiging van de mensheid. Hij is aangesloten bij BlueDot Impact, dat AI veiligheid opleidingsprogramma's aanbiedt.

De vertrekken komen op een moment dat technologie leiders opnieuw worden opgeroepen om de ontwikkeling van AI te vertragen en de regelgeving te verstrakken. Sina Finance merkt op dat deze vertrekken volgen op andere opmerkelijke vertrekken uit toonaangevende AI-laboratoria, waaronder Jacob Coxon en Joe Benton die Anthropic hebben verlaten.