दो एआई सुरक्षा शोधकर्ताओं ने गूगल डीपमाइंड को छोड़ दिया है क्योंकि उन्हें चिंता है कि अत्यधिक सक्षम एआई सिस्टम मानवता के लिए खतरा बन सकते हैं। जोश एंगेल्स स्वतंत्र शोध समूह METR में शामिल होंगे ताकि बड़े मॉडलों के लिए संरेखण पर ध्यान केंद्रित कर सकें, जबकि बिलाल चुघताई गैर-लाभकारी ब्लू डॉट इम्पैक्ट में जा रहे हैं, जो एआई सुरक्षा शिक्षा पाठ्यक्रम प्रदान करता है।

एंगेल्स ने डीपमाइंड में लगभग एक वर्ष बिताया और X पर पोस्ट किया कि अगले पांच वर्षों में एआई के बड़े नुकसान का कारण बनने की उच्च संभावना है। उन्होंने कहा कि वह METR में बड़े-मॉडल संरेखण पर काम करेंगे।

चुघताई ने डीपमाइंड में 18 महीने बिताए और X पर पोस्ट किया कि एआई मानवता को नष्ट करने का जोखिम रखता है। उन्होंने ब्लू डॉट इम्पैक्ट में शामिल हो गए हैं, जो एआई सुरक्षा शिक्षा कार्यक्रम प्रदान करता है।

ये departures तब हो रहे हैं जब तकनीकी नेताओं को एआई विकास को धीमा करने और नियमों को कड़ा करने के लिए नए सिरे से आह्वान का सामना करना पड़ रहा है। सिना फाइनेंस नोट करता है कि ये निकास अन्य प्रमुख एआई प्रयोगशालाओं से अन्य उल्लेखनीय निकासों के बाद हुए हैं, जिसमें जैकब कॉक्सन और जो बेंटन का एंथ्रोपिक से जाना शामिल है।