Misalkan Anda ditunjukkan bahwa alat kecerdasan buatan menawarkan prediksi yang akurat tentang beberapa stok yang Anda miliki. Bagaimana perasaan Anda tentang menggunakannya? Sekarang, misalkan Anda melamar pekerjaan di perusahaan tempat departemen SDM menggunakan sistem AI untuk menyaring resume. Apakah Anda akan merasa nyaman dengan itu?
Sebuah studi baru menemukan bahwa orang tidak sepenuhnya antusias atau benar -benar menolak AI. Alih-alih jatuh ke kamp techno-optimists dan luddites, orang-orang membedakan tentang hasil praktis menggunakan AI, kasus per kasus.
“Kami mengusulkan bahwa apresiasi AI terjadi ketika AI dianggap lebih mampu daripada manusia dan personalisasi dianggap tidak perlu dalam konteks keputusan yang diberikan,” kata profesor MIT Jackson Lu, rekan penulis makalah yang baru diterbitkan yang merinci hasil penelitian. “Keengganan AI terjadi ketika salah satu dari kondisi ini tidak terpenuhi, dan apresiasi AI hanya terjadi ketika kedua kondisi dipenuhi.”
Makalah, “Keengganan atau Penghargaan AI? Kerangka kerja kemampuan-langsal dan tinjauan meta-analitik,” muncul di dalam Buletin psikologis. Makalah ini memiliki delapan rekan penulis, termasuk Lu, yang merupakan associate profesor pengembangan karir dan studi organisasi di MIT Sloan School of Management.
Kerangka kerja baru menambah wawasan
Reaksi orang terhadap AI telah lama mengalami perdebatan yang luas, sering menghasilkan temuan yang tampaknya berbeda. Sebuah makalah 2015 yang berpengaruh tentang “Algorithm Aversion” menemukan bahwa orang kurang memaafkan kesalahan yang dihasilkan AI daripada kesalahan manusia, sedangkan makalah 2019 yang dicatat secara luas tentang “apresiasi algoritma” menemukan bahwa orang lebih suka nasihat dari AI, dibandingkan dengan saran dari manusia.
Untuk mendamaikan temuan campuran ini, Lu dan rekan penulisnya melakukan meta-analisis dari 163 studi sebelumnya yang membandingkan preferensi orang untuk AI versus manusia. Para peneliti menguji apakah data tersebut mendukung “kerangka kerja -pelawak -personalisasi” yang diusulkan – gagasan bahwa dalam konteks tertentu, baik kemampuan AI yang dirasakan dan kebutuhan yang dirasakan untuk personalisasi membentuk preferensi kami baik untuk AI atau manusia.
Di 163 studi, tim peneliti menganalisis lebih dari 82.000 reaksi terhadap 93 “konteks keputusan” yang berbeda – misalnya, apakah peserta akan merasa nyaman dengan AI yang digunakan dalam diagnosis kanker. Analisis ini mengkonfirmasi bahwa kerangka kerja kemampuan -personalisasi memang membantu memperhitungkan preferensi orang.
“Meta-analisis mendukung kerangka teori kami,” kata Lu. “Kedua dimensi itu penting: individu mengevaluasi apakah AI lebih mampu atau tidak daripada orang pada tugas tertentu, dan apakah tugas itu membutuhkan personalisasi. Orang akan lebih suka AI hanya jika mereka berpikir AI lebih mampu daripada manusia dan tugasnya tidak pribadi.”
Dia menambahkan: “Gagasan utama di sini adalah bahwa kemampuan yang dirasakan tinggi saja tidak menjamin apresiasi AI. Personalisasi juga penting.”
Sebagai contoh, orang cenderung mendukung AI ketika mendeteksi penipuan atau menyortir kumpulan data besar – area di mana kemampuan AI melebihi manusia dalam kecepatan dan skala, dan personalisasi tidak diperlukan. Tetapi mereka lebih tahan terhadap AI dalam konteks seperti terapi, wawancara kerja, atau diagnosis medis, di mana mereka merasa manusia lebih mampu mengenali keadaan unik mereka.
“Orang -orang memiliki keinginan mendasar untuk melihat diri mereka sebagai unik dan berbeda dari orang lain,” kata Lu. “AI sering dipandang sebagai impersonal dan beroperasi dengan hafalan. Bahkan jika AI dilatih pada banyak data, orang merasa AI tidak dapat memahami situasi pribadi mereka. Mereka menginginkan perekrut manusia, seorang dokter manusia yang dapat melihat mereka berbeda dari orang lain.”
Konteks juga penting: dari tangibilitas hingga pengangguran
Studi ini juga mengungkap faktor -faktor lain yang mempengaruhi preferensi individu untuk AI. Misalnya, apresiasi AI lebih jelas untuk robot berwujud daripada untuk algoritma tidak berwujud.
Konteks ekonomi juga penting. Di negara -negara dengan pengangguran yang lebih rendah, apresiasi AI lebih jelas.
“Itu masuk akal secara intuitif,” kata Lu. “Jika Anda khawatir digantikan oleh AI, Anda cenderung merangkulnya.”
Lu terus memeriksa sikap orang yang kompleks dan berkembang terhadap AI. Meskipun ia tidak melihat meta-analisis saat ini sebagai kata terakhir tentang masalah ini, ia berharap kerangka kerja kemampuan-langsal menawarkan lensa yang berharga untuk memahami bagaimana orang mengevaluasi AI di berbagai konteks yang berbeda.
“Kami tidak mengklaim kemampuan yang dirasakan dan personalisasi adalah satu-satunya dua dimensi yang penting, tetapi menurut meta-analisis kami, dua dimensi ini menangkap banyak dari apa yang membentuk preferensi orang untuk AI versus manusia di berbagai studi,” Lu menyimpulkan.
Selain LU, rekan penulis kertas adalah Xin Qin, Chen Chen, Hansen Zhou, Xiaowei Dong, dan Limei Cao dari Sun Yat-Sen University; Xiang Zhou dari Universitas Shenzhen; dan Dongyuan Wu dari Universitas Fudan.
Penelitian ini didukung, sebagian, dengan hibah kepada Qin dan Wu dari National Science Science Foundation of China.
