2人のAI安全研究者が、人類に脅威を与える可能性のある高能力AIシステムに関する懸念からGoogle DeepMindを離れました。ジョシュ・エンゲルスは、大規模モデルの整合性に焦点を当てるために独立研究グループMETRに参加し、ビラル・チャグタイはAI安全教育コースを提供する非営利団体BlueDot Impactに移ります。

エンゲルスはDeepMindで約1年を過ごし、Xに投稿して次の5年以内にAIが重大な害を引き起こす可能性が高いと述べました。彼はMETRで大規模モデルの整合性に取り組むとしています。

チャグタイはDeepMindで18ヶ月を過ごし、XにAIが人類を破壊するリスクを伴うと投稿しました。彼はAI安全教育プログラムを提供するBlueDot Impactに参加しました。

これらの退職は、技術リーダーがAI開発を遅らせ、規制を強化するよう再び求められている中で起こりました。シナファイナンスは、これらの退職が、ジェイコブ・コクソンやジョー・ベントンがAnthropicを離れるなど、他の著名なAIラボからの退職に続いていることを指摘しています。