Двама изследователи по безопасността на ИИ напуснаха Google DeepMind заради опасения, че високо способни ИИ системи могат да заплашат човечеството. Джош Енгелс ще се присъедини към независимата изследователска група METR, за да се фокусира върху съгласуването на големи модели, докато Билал Чугтай преминава в nonprofit BlueDot Impact, която предлага курсове по безопасност на ИИ.

Енгелс прекара около година в DeepMind и публикува в X, че има висока вероятност ИИ да причини значителни вреди в следващите пет години. Той каза, че ще работи по съгласуването на големи модели в METR.

Чугтай прекара 18 месеца в DeepMind и публикува в X, че ИИ носи риск от унищожаване на човечеството. Той се присъедини към BlueDot Impact, която предлага програми за образование по безопасност на ИИ.

Напусканията идват в момент, когато технологичните лидери се сблъскват с нови призиви за забавяне на развитието на ИИ и затягане на регулацията. Sina Finance отбелязва, че тези напускания следват други забележителни напускания от водещи лаборатории за ИИ, включително напускането на Джейкоб Коксън и Джо Бентън от Anthropic.