Seorang pembaca anonim membagikan laporan: Seorang peneliti keamanan Antropik berhenti, dengan mengatakan “dunia berada dalam bahaya” sebagian karena kemajuan AI. Mrinank Sharma mengatakan tim keselamatan “terus-menerus [faces] tekanan untuk mengesampingkan hal-hal yang paling penting,” mengutip kekhawatiran mengenai bioterorisme dan risiko lainnya. Anthropic didirikan dengan tujuan eksplisit untuk menciptakan AI yang aman; CEO-nya Dario Amodei mengatakan di Davos bahwa kemajuan AI berjalan terlalu cepat dan menyerukan peraturan untuk memaksa para pemimpin industri untuk memperlambat. Peneliti keamanan AI lainnya telah meninggalkan perusahaan-perusahaan terkemuka, dengan alasan kekhawatiran akan risiko bencana.
Baca lebih lanjut cerita ini di Slashdot.
