Doi cercetători în siguranța AI au părăsit Google DeepMind din cauza preocupărilor că sistemele AI foarte capabile ar putea amenința umanitatea. Josh Engels se va alătura grupului de cercetare independent METR pentru a se concentra pe alinierea modelelor mari, în timp ce Bilal Chughtai se mută la organizația nonprofit BlueDot Impact, care oferă cursuri de educație în siguranța AI.

Engels a petrecut aproximativ un an la DeepMind și a postat pe X că există o probabilitate mare ca AI să cauzeze daune majore în următorii cinci ani. El a spus că va lucra la alinierea modelelor mari la METR.

Chughtai a petrecut 18 luni la DeepMind și a postat pe X că AI prezintă un risc de distrugere a umanității. El s-a alăturat BlueDot Impact, care oferă programe de educație în siguranța AI.

Plecările vin pe fondul apelurilor reînnoite din partea liderilor tehnologici de a încetini dezvoltarea AI și de a strânge reglementările. Sina Finance notează că aceste plecări urmează altor plecări notabile din laboratoarele de vârf în domeniul AI, inclusiv Jacob Coxon și Joe Benton care au părăsit Anthropic.