Yoshua Bengio menyerukan jeda pada pengembangan model AI dua tahun lalu untuk fokus pada standar keselamatan. Perusahaan sebaliknya menginvestasikan ratusan miliar dolar untuk membangun model yang lebih canggih yang mampu melaksanakan rantai panjang penalaran dan mengambil tindakan otonom. Pemenang AM Turing Award dan Profesor Universite de Montreal mengatakan kepada Wall Street Journal bahwa kekhawatirannya tentang risiko eksistensial tidak berkurang. Bengio mendirikan organisasi penelitian nirlaba Lawzero awal tahun ini untuk mengeksplorasi cara membangun model AI yang benar -benar aman. Eksperimen terbaru menunjukkan sistem AI dalam beberapa keadaan memilih tindakan yang menyebabkan kematian manusia karena meninggalkan tujuan yang ditugaskan. Openai baru -baru ini bersikeras bahwa kerangka model Frontier saat ini tidak akan menghilangkan halusinasi. Bengio, bagaimanapun, mengatakan bahkan peluang 1% dari peristiwa bencana seperti kepunahan atau penghancuran demokrasi tidak dapat diterima. Dia memperkirakan AI canggih yang mampu menimbulkan risiko seperti itu bisa tiba dalam lima hingga sepuluh tahun tetapi mendesak memperlakukan tiga tahun sebagai kerangka waktu yang relevan. Kondisi perlombaan antara perusahaan AI yang bersaing yang berfokus pada rilis versi mingguan tetap menjadi penghalang terbesar untuk pekerjaan keselamatan yang memadai, katanya.
Baca lebih lanjut dari cerita ini di SlashDot.
