Due ricercatori sulla sicurezza dell'IA hanno lasciato Google DeepMind a causa delle preoccupazioni che i sistemi di IA altamente capaci potrebbero minacciare l'umanità. Josh Engels si unirà al gruppo di ricerca indipendente METR per concentrarsi sull'allineamento per grandi modelli, mentre Bilal Chughtai si trasferisce alla nonprofit BlueDot Impact, che offre corsi di educazione sulla sicurezza dell'IA.

Engels ha trascorso circa un anno a DeepMind e ha postato su X che c'è un'alta probabilità che l'IA causi danni significativi entro i prossimi cinque anni. Ha dichiarato che lavorerà sull'allineamento dei grandi modelli presso METR.

Chughtai ha trascorso 18 mesi a DeepMind e ha postato su X che l'IA comporta il rischio di distruggere l'umanità. Si è unito a BlueDot Impact, che offre programmi di educazione sulla sicurezza dell'IA.

Le partenze avvengono mentre i leader tecnologici affrontano nuove richieste di rallentare lo sviluppo dell'IA e di inasprire la regolamentazione. Sina Finance nota che queste uscite seguono altre partenze significative da importanti laboratori di IA, tra cui Jacob Coxon e Joe Benton che lasciano Anthropic.