Dhá thaighdeoir sábháilteachta AI a d'fhág Google DeepMind i measc imní go bhféadfadh córais AI atá an-cháiliúil bagairt a chur ar an gcine daonna. Beidh Josh Engels ag dul leis an ngrúpa taighde neamhspleách METR chun díriú ar ailíniú do mhúnlaí móra, agus tá Bilal Chughtai ag bogadh go BlueDot Impact, atá ag soláthar cúrsaí oideachais ar shábháilteacht AI.

Chaitheamh Engels thart ar bhliain ag DeepMind agus chuir sé in iúl ar X go bhfuil seans ard ann go gcuirfidh AI dochar mór ar siúl laistigh de na cúig bliana atá romhainn. Dúirt sé go n-oibreoidh sé ar ailíniú múnlaí móra ag METR.

Chaitheamh Chughtai 18 mí ag DeepMind agus chuir sé in iúl ar X go bhfuil riosca ag AI a bheith ag scriosadh an chine daonna. Tá sé tar éis dul le BlueDot Impact, atá ag tairgiú cláir oideachais ar shábháilteacht AI.

Tagann na himthosca seo mar atá na ceannairí teicneolaíochta ag tabhairt aghaidh ar gcallaí nua chun forbairt AI a moilliú agus rialáil a chruasú. Tugann Sina Finance le fios go leanann na himthoscaí seo imthosca suntasacha eile ó na laibheanna AI tosaigh, lena n-áirítear Jacob Coxon agus Joe Benton ag fágáil Anthropic.