두 명의 AI 안전 연구원이 고도로 능력 있는 AI 시스템이 인류에 위협이 될 수 있다는 우려 속에 Google DeepMind를 떠났습니다. Josh Engels는 대형 모델의 정렬에 집중하기 위해 독립 연구 그룹 METR에 합류할 예정이며, Bilal Chughtai는 AI 안전 교육 과정을 제공하는 비영리 단체 BlueDot Impact로 이동합니다.

Engels는 DeepMind에서 약 1년을 보냈으며, X에 게시한 글에서 AI가 향후 5년 이내에 주요 피해를 초래할 가능성이 높다고 언급했습니다. 그는 METR에서 대형 모델 정렬 작업을 할 것이라고 말했습니다.

Chughtai는 DeepMind에서 18개월을 보냈으며, X에 AI가 인류를 파괴할 위험을 안고 있다고 게시했습니다. 그는 AI 안전 교육 프로그램을 제공하는 BlueDot Impact에 합류했습니다.

이들의 이탈은 기술 리더들이 AI 개발을 늦추고 규제를 강화하라는 새로운 요구에 직면하고 있는 가운데 발생했습니다. Sina Finance는 이러한 퇴사가 Jacob Coxon과 Joe Benton이 Anthropic을 떠나는 등 주요 AI 연구소에서의 다른 주목할 만한 퇴사에 이어 발생했다고 언급했습니다.