Δύο ερευνητές ασφάλειας AI έχουν αποχωρήσει από την Google DeepMind εν μέσω ανησυχιών ότι τα πολύ ικανά συστήματα AI θα μπορούσαν να απειλήσουν την ανθρωπότητα. Ο Josh Engels θα ενταχθεί στην ανεξάρτητη ερευνητική ομάδα METR για να επικεντρωθεί στην ευθυγράμμιση μεγάλων μοντέλων, ενώ ο Bilal Chughtai μεταβαίνει στη μη κερδοσκοπική BlueDot Impact, η οποία παρέχει εκπαιδευτικά προγράμματα ασφάλειας AI.

Ο Engels πέρασε περίπου ένα χρόνο στην DeepMind και ανάρτησε στο X ότι υπάρχει υψηλή πιθανότητα η AI να προκαλέσει σοβαρή βλάβη μέσα στα επόμενα πέντε χρόνια. Είπε ότι θα εργαστεί στην ευθυγράμμιση μεγάλων μοντέλων στη METR.

Ο Chughtai πέρασε 18 μήνες στην DeepMind και ανάρτησε στο X ότι η AI ενέχει τον κίνδυνο να καταστρέψει την ανθρωπότητα. Έχει ενταχθεί στη BlueDot Impact, η οποία προσφέρει εκπαιδευτικά προγράμματα ασφάλειας AI.

Οι αποχωρήσεις έρχονται καθώς οι ηγέτες της τεχνολογίας αντιμετωπίζουν ανανεωμένες εκκλήσεις να επιβραδύνουν την ανάπτυξη της AI και να αυστηροποιήσουν τη ρύθμιση. Η Sina Finance σημειώνει ότι αυτές οι αποχωρήσεις ακολουθούν άλλες αξιοσημείωτες αποχωρήσεις από κορυφαία εργαστήρια AI, συμπεριλαμβανομένων των Jacob Coxon και Joe Benton που αποχώρησαν από την Anthropic.