Dva raziskovalca varnosti AI sta zapustila Google DeepMind zaradi skrbi, da bi lahko zelo zmogljivi AI sistemi ogrozili človeštvo. Josh Engels se bo pridružil neodvisni raziskovalni skupini METR, kjer se bo osredotočil na usklajevanje velikih modelov, medtem ko se Bilal Chughtai seli v neprofitno organizacijo BlueDot Impact, ki nudi tečaje o varnosti AI.

Engels je preživel približno eno leto v DeepMind in je na X objavil, da obstaja velika verjetnost, da bo AI povzročil veliko škodo v naslednjih petih letih. Povedal je, da bo delal na usklajevanju velikih modelov v METR.

Chughtai je preživel 18 mesecev v DeepMind in je na X objavil, da AI nosi tveganje, da uniči človeštvo. Pridružil se je BlueDot Impact, ki ponuja programe izobraževanja o varnosti AI.

Odhodi se zgodijo, ko se tehnološki voditelji soočajo z novimi pozivi, da upočasnijo razvoj AI in zaostrijo regulacijo. Sina Finance opaža, da ti odhodi sledijo drugim pomembnim odhodom iz vodilnih AI laboratorijev, vključno z Jacobom Coxonom in Joejem Benton, ki sta zapustila Anthropic.