Dwaj badacze ds. bezpieczeństwa AI opuścili Google DeepMind w obawie, że wysoko rozwinięte systemy AI mogą zagrażać ludzkości. Josh Engels dołączy do niezależnej grupy badawczej METR, aby skupić się na dostosowaniu dużych modeli, podczas gdy Bilal Chughtai przechodzi do organizacji non-profit BlueDot Impact, która oferuje kursy edukacyjne z zakresu bezpieczeństwa AI.

Engels spędził około roku w DeepMind i opublikował na X, że istnieje wysokie prawdopodobieństwo, że AI spowoduje poważne szkody w ciągu najbliższych pięciu lat. Powiedział, że będzie pracował nad dostosowaniem dużych modeli w METR.

Chughtai spędził 18 miesięcy w DeepMind i opublikował na X, że AI niesie ryzyko zniszczenia ludzkości. Dołączył do BlueDot Impact, która oferuje programy edukacyjne z zakresu bezpieczeństwa AI.

Odejścia następują w czasie, gdy liderzy technologiczni stają w obliczu nowych wezwań do spowolnienia rozwoju AI i zaostrzenia regulacji. Sina Finance zauważa, że te odejścia następują po innych znaczących odejściach z wiodących laboratoriów AI, w tym Jacob Coxon i Joe Benton opuścili Anthropic.