Dois pesquisadores de segurança em IA deixaram o Google DeepMind em meio a preocupações de que sistemas de IA altamente capazes poderiam ameaçar a humanidade. Josh Engels se juntará ao grupo de pesquisa independente METR para se concentrar na alinhamento de grandes modelos, enquanto Bilal Chughtai está se mudando para a organização sem fins lucrativos BlueDot Impact, que oferece cursos de educação em segurança de IA.

Engels passou cerca de um ano na DeepMind e postou no X que há uma alta probabilidade de a IA causar danos significativos nos próximos cinco anos. Ele disse que trabalhará no alinhamento de grandes modelos na METR.

Chughtai passou 18 meses na DeepMind e postou no X que a IA representa um risco de destruir a humanidade. Ele se juntou à BlueDot Impact, que oferece programas de educação em segurança de IA.

As saídas ocorrem enquanto líderes tecnológicos enfrentam novos apelos para desacelerar o desenvolvimento da IA e apertar a regulamentação. A Sina Finance observa que essas saídas seguem outras saídas notáveis de laboratórios de IA líderes, incluindo Jacob Coxon e Joe Benton deixando a Anthropic.