นักวิจัยด้านความปลอดภัย AI สองคนได้ออกจาก Google DeepMind ท่ามกลางความกังวลว่าระบบ AI ที่มีความสามารถสูงอาจเป็นภัยคุกคามต่อมนุษยชาติ Josh Engels จะเข้าร่วมกลุ่มวิจัยอิสระ METR เพื่อมุ่งเน้นที่การปรับให้เข้ากับโมเดลขนาดใหญ่ ในขณะที่ Bilal Chughtai กำลังย้ายไปที่องค์กรไม่แสวงหาผลกำไร BlueDot Impact ซึ่งจัดหลักสูตรการศึกษาเกี่ยวกับความปลอดภัย AI

Engels ใช้เวลาประมาณหนึ่งปีที่ DeepMind และโพสต์บน X ว่ามีความเป็นไปได้สูงที่ AI จะก่อให้เกิดอันตรายอย่างมากภายในห้าปีข้างหน้า เขากล่าวว่าเขาจะทำงานเกี่ยวกับการปรับให้เข้ากับโมเดลขนาดใหญ่ที่ METR

Chughtai ใช้เวลา 18 เดือนที่ DeepMind และโพสต์บน X ว่า AI มีความเสี่ยงที่จะทำลายมนุษยชาติ เขาได้เข้าร่วม BlueDot Impact ซึ่งเสนอโปรแกรมการศึกษาเกี่ยวกับความปลอดภัย AI

การออกจากตำแหน่งเกิดขึ้นในขณะที่ผู้นำด้านเทคโนโลยีกำลังเผชิญกับการเรียกร้องใหม่ให้ชะลอการพัฒนา AI และเพิ่มความเข้มงวดในการควบคุม Sina Finance ชี้ให้เห็นว่าการออกจากตำแหน่งเหล่านี้เกิดขึ้นหลังจากการออกจากตำแหน่งที่สำคัญอื่น ๆ จากห้องปฏิบัติการ AI ชั้นนำ รวมถึง Jacob Coxon และ Joe Benton ที่ออกจาก Anthropic