Dva istraživača bezbednosti veštačke inteligencije napustila su Google DeepMind usred zabrinutosti da bi veoma sposobni AI sistemi mogli da predstavljaju pretnju za čovečanstvo. Josh Engels će se pridružiti nezavisnoj istraživačkoj grupi METR kako bi se fokusirao na usklađivanje za velike modele, dok Bilal Chughtai prelazi u neprofitnu organizaciju BlueDot Impact, koja pruža kurseve obrazovanja o bezbednosti veštačke inteligencije.

Engels je proveo oko godinu dana u DeepMind-u i objavio na X da postoji velika verovatnoća da će AI izazvati značajnu štetu u narednih pet godina. Rekao je da će raditi na usklađivanju velikih modela u METR-u.

Chughtai je proveo 18 meseci u DeepMind-u i objavio na X da AI nosi rizik od uništenja čovečanstva. Pridružio se BlueDot Impact-u, koji nudi programe obrazovanja o bezbednosti veštačke inteligencije.

Odlazak dolazi u trenutku kada se tehnološki lideri suočavaju sa ponovnim pozivima da usporavaju razvoj AI i pojačaju regulaciju. Sina Finance napominje da su ovi odlivi usledili nakon drugih značajnih odlazaka iz vodećih AI laboratorija, uključujući odlazak Jacoba Coxona i Joea Bentona iz Anthropic-a.