Zwei AI-Sicherheitsforscher haben Google DeepMind verlassen, da Bedenken bestehen, dass hochentwickelte KI-Systeme die Menschheit bedrohen könnten. Josh Engels wird der unabhängigen Forschungsgruppe METR beitreten, um sich auf die Ausrichtung großer Modelle zu konzentrieren, während Bilal Chughtai zur gemeinnützigen Organisation BlueDot Impact wechselt, die Schulungen zur KI-Sicherheit anbietet.

Engels verbrachte etwa ein Jahr bei DeepMind und postete auf X, dass die Wahrscheinlichkeit hoch ist, dass KI innerhalb der nächsten fünf Jahre erheblichen Schaden anrichten könnte. Er sagte, dass er bei METR an der Ausrichtung großer Modelle arbeiten werde.

Chughtai verbrachte 18 Monate bei DeepMind und postete auf X, dass KI das Risiko birgt, die Menschheit zu zerstören. Er ist zu BlueDot Impact gewechselt, das Programme zur KI-Sicherheit anbietet.

Die Abgänge erfolgen zu einem Zeitpunkt, an dem Technologieführer erneuten Forderungen gegenüberstehen, die Entwicklung von KI zu verlangsamen und die Regulierung zu verschärfen. Sina Finance stellt fest, dass diese Abgänge auf andere bemerkenswerte Abgänge aus führenden KI-Labors folgen, darunter Jacob Coxon und Joe Benton, die Anthropic verlassen haben.