Dva istraživača sigurnosti AI napustila su Google DeepMind usred zabrinutosti da bi visoko sposobni AI sustavi mogli predstavljati prijetnju čovječanstvu. Josh Engels pridružit će se neovisnoj istraživačkoj grupi METR kako bi se fokusirao na usklađivanje za velike modele, dok Bilal Chughtai prelazi u neprofitnu organizaciju BlueDot Impact, koja nudi tečajeve obrazovanja o sigurnosti AI.

Engels je proveo oko godinu dana u DeepMind-u i objavio na X da postoji velika vjerojatnost da će AI uzrokovati značajnu štetu u sljedećih pet godina. Rekao je da će raditi na usklađivanju velikih modela u METR-u.

Chughtai je proveo 18 mjeseci u DeepMind-u i objavio na X da AI nosi rizik od uništenja čovječanstva. Pridružio se BlueDot Impact-u, koji nudi programe obrazovanja o sigurnosti AI.

Odlazak dolazi dok se tehnološki lideri suočavaju s ponovnim pozivima da usporavaju razvoj AI i pojačaju regulaciju. Sina Finance napominje da su ovi odlivi uslijedili nakon drugih značajnih odlazaka iz vodećih AI laboratorija, uključujući Jacob Coxon i Joe Benton koji su napustili Anthropic.