Dos investigadores de seguridad de IA han dejado Google DeepMind debido a preocupaciones de que los sistemas de IA altamente capaces podrían amenazar a la humanidad. Josh Engels se unirá al grupo de investigación independiente METR para centrarse en la alineación de grandes modelos, mientras que Bilal Chughtai se trasladará a la organización sin fines de lucro BlueDot Impact, que ofrece cursos de educación sobre seguridad de IA.

Engels pasó aproximadamente un año en DeepMind y publicó en X que hay una alta probabilidad de que la IA cause un daño importante en los próximos cinco años. Dijo que trabajará en la alineación de grandes modelos en METR.

Chughtai pasó 18 meses en DeepMind y publicó en X que la IA conlleva el riesgo de destruir a la humanidad. Se ha unido a BlueDot Impact, que ofrece programas de educación sobre seguridad de IA.

Las salidas se producen en un momento en que los líderes tecnológicos enfrentan llamados renovados para frenar el desarrollo de la IA y endurecer la regulación. Sina Finance señala que estas salidas siguen a otras salidas notables de laboratorios de IA líderes, incluidos Jacob Coxon y Joe Benton que dejaron Anthropic.