Kaksi tekoälyn turvallisuustutkijaa on jättänyt Google DeepMindin huolien vuoksi siitä, että erittäin kykenevät tekoälyjärjestelmät voisivat uhata ihmiskuntaa. Josh Engels liittyy itsenäiseen tutkimusryhmään METR keskittyäkseen suurten mallien kohdistamiseen, kun taas Bilal Chughtai siirtyy voittoa tavoittelemattomaan BlueDot Impactiin, joka tarjoaa tekoälyn turvallisuuskoulutuskursseja.

Engels vietti noin vuoden DeepMindissa ja julkaisi X:ssä, että on suuri todennäköisyys, että tekoäly aiheuttaa merkittävää vahinkoa seuraavan viiden vuoden aikana. Hän sanoi työskentelevänsä suurten mallien kohdistamisen parissa METR:ssä.

Chughtai vietti 18 kuukautta DeepMindissa ja julkaisi X:ssä, että tekoäly sisältää riskin ihmiskunnan tuhoamisesta. Hän on liittynyt BlueDot Impactiin, joka tarjoaa tekoälyn turvallisuuskoulutusohjelmia.

Nämä lähdöt tapahtuvat, kun teknologiayhteisön johtajat kohtaavat uusia vaatimuksia hidastaa tekoälyn kehitystä ja tiukentaa sääntelyä. Sina Finance huomauttaa, että nämä lähdöt seuraavat muita huomattavia lähtöjä johtavista tekoälylaboratorioista, mukaan lukien Jacob Coxonin ja Joe Bentonin lähtö Anthropicista.