Tvö AI öryggisrannsakendur hafa yfirgefið Google DeepMind vegna áhyggna um að mjög fær AI kerfi geti ógnað mannkyninu. Josh Engels mun ganga til liðs við sjálfstæðu rannsóknarhópinn METR til að einbeita sér að samræmingu fyrir stór líkan, á meðan Bilal Chughtai fer til nonprofit stofnunarinnar BlueDot Impact, sem býður upp á AI öryggisfræðslunámskeið.

Engels eyddi um ári hjá DeepMind og birti á X að það sé mikil líkindi á að AI valdi verulegu tjóni á næstu fimm árum. Hann sagði að hann muni vinna að samræmingu stórra líkana hjá METR.

Chughtai eyddi 18 mánuðum hjá DeepMind og birti á X að AI ber með sér áhættu á að eyðileggja mannkynið. Hann hefur gengið til liðs við BlueDot Impact, sem býður upp á AI öryggisfræðslu.

Fyrirkomulagið kemur þegar tæknileiðtogar standa frammi fyrir endurnýjuðum kröfum um að hægja á þróun AI og herða reglugerðir. Sina Finance bendir á að þessar brottfarir fylgja öðrum áberandi brottförum frá leiðandi AI rannsóknarstofnunum, þar á meðal Jacob Coxon og Joe Benton sem yfirgáfu Anthropic.