Deux chercheurs en sécurité de l'IA ont quitté Google DeepMind au milieu des préoccupations selon lesquelles des systèmes d'IA hautement capables pourraient menacer l'humanité. Josh Engels rejoindra le groupe de recherche indépendant METR pour se concentrer sur l'alignement des grands modèles, tandis que Bilal Chughtai passe à la nonprofit BlueDot Impact, qui propose des cours d'éducation sur la sécurité de l'IA.

Engels a passé environ un an chez DeepMind et a posté sur X qu'il y a une forte probabilité que l'IA cause des dommages majeurs dans les cinq prochaines années. Il a déclaré qu'il travaillera sur l'alignement des grands modèles chez METR.

Chughtai a passé 18 mois chez DeepMind et a posté sur X que l'IA présente un risque de destruction de l'humanité. Il a rejoint BlueDot Impact, qui propose des programmes d'éducation sur la sécurité de l'IA.

Ces départs interviennent alors que les dirigeants technologiques font face à des appels renouvelés pour ralentir le développement de l'IA et renforcer la réglementation. Sina Finance note que ces départs suivent d'autres départs notables de laboratoires d'IA de premier plan, y compris Jacob Coxon et Joe Benton quittant Anthropic.