Dva raziskovalca varnosti umetne inteligence sta zapustila Google DeepMind zaradi skrbi, da bi lahko zelo zmogljivi sistemi umetne inteligence ogrozili človeštvo. Josh Engels se bo pridružil neodvisni raziskovalni skupini METR, da bi se osredotočil na usklajevanje velikih modelov, medtem ko se Bilal Chughtai seli v neprofitno organizacijo BlueDot Impact, ki nudi izobraževalne tečaje o varnosti umetne inteligence.

Engels je preživel približno eno leto pri DeepMind in na X objavil, da obstaja velika verjetnost, da bo umetna inteligenca v naslednjih petih letih povzročila veliko škodo. Povedal je, da bo delal na usklajevanju velikih modelov pri METR.

Chughtai je preživel 18 mesecev pri DeepMind in na X objavil, da umetna inteligenca nosi tveganje uničenja človeštva. Pridružil se je BlueDot Impact, ki ponuja izobraževalne programe o varnosti umetne inteligence.

Odhodi prihajajo v času, ko se tehnološki voditelji soočajo z novimi pozivi k upočasnitvi razvoja umetne inteligence in zaostrovanju regulacije. Sina Finance opozarja, da ti odhodi sledijo drugim pomembnim odhodom iz vodilnih laboratorijev umetne inteligence, vključno z Jacobom Coxonom in Joejem Benton, ki sta zapustila Anthropic.