Ketika kecerdasan buatan (AI) menjadi lebih canggih, potensi implikasinya terhadap bisnis menjadi lebih bervariasi dan kompleks. Salah satu isu terpenting untuk dipertimbangkan adalah bagaimana memastikan bahwa pengembangan AI bersifat etis dan bertanggung jawab. Sayangnya, banyak perusahaan yang kurang memperhatikan implikasi etis AI karena terburu-buru memanfaatkan teknologi transformatif ini. Kurangnya ketekunan dapat menimbulkan konsekuensi buruk baik bagi masing-masing perusahaan maupun perekonomian secara keseluruhan. Dalam artikel ini, kita akan mengeksplorasi risiko bisnis jika mengabaikan etika dalam AI.
Risiko Bisnis dari Etika dan Tata Kelola AI yang Buruk
Revolusi kecerdasan buatan (AI) sedang berjalan, dan dunia usaha berlomba-lomba mengadopsi teknologi AI agar tetap kompetitif. Namun, seiring dengan semakin banyaknya teknologi AI yang tersebar luas dan canggih, terdapat kebutuhan yang semakin besar akan pertimbangan etis dalam penggunaannya. Sayangnya, banyak bisnis yang gagal dalam bidang ini. Pada tahun 2015, Amazon menemukan bahwa AI dalam perangkat lunak perekrutan mereka lebih menyukai kandidat laki-laki. Meskipun hal ini membuat banyak orang terkejut dan terkejut dengan AI, kesalahan yang sama masih terjadi hingga saat ini. Pada musim gugur tahun 2021, AI yang merekomendasikan konten di Facebook merekomendasikan video primata kepada pengguna yang melihat video dari tabloid Inggris yang menampilkan pria kulit hitam.
Berdasarkan grafik di atas, undang-undang dan peraturan mengenai etika dan bias AI masih dibahas meskipun banyak perusahaan teknologi yang mengalami kekurangan. Namun, grafik ini juga menampilkan tindakan regulasi yang telah diambil terhadap bidang AI lainnya. Undang-undang seputar etika AI akan berkembang seiring dengan semakin kuatnya AI dan lazim dalam bisnis di seluruh dunia. Oleh karena itu, ada sejumlah risiko yang terkait dengan pengabaian etika dalam AI.
Tindakan Regulasi
Pertama, adanya risiko tindakan regulasi. Ketika teknologi AI menjadi lebih umum, pemerintah kemungkinan akan mengeluarkan peraturan untuk mengawasi penggunaannya. Jika perusahaan tidak proaktif dalam praktik AI yang etis, mereka akan berada pada posisi yang tidak menguntungkan dalam persaingan. Menurut Harvard Business Review, Komisi Perdagangan Federal (FTC) mengeluarkan serangkaian pedoman yang sangat tegas mengenai “kebenaran, keadilan, dan kesetaraan” dalam AI – yang mendefinisikan ketidakadilan, dan oleh karena itu, penggunaan AI secara ilegal, secara luas sebagai tindakan apa pun yang “lebih banyak menimbulkan kerugian daripada manfaat.” Pedoman ini masih dalam tahap awal, namun ini menandakan era baru peraturan pemerintah seputar AI secara global. Mengikuti pedoman FTC pada tahun 2021, Komisi Eropa merilis seperangkat aturannya sendiri untuk kesetaraan dan etika dalam AI. Usulan Komisi ini mencakup persyaratan bagi dunia usaha untuk melakukan “penilaian dampak” terhadap sistem AI, dengan fokus khusus pada isu kesetaraan dan non-diskriminasi.
Tekanan peraturan ini akan meningkat di tahun-tahun mendatang seiring dengan semakin tertanamnya teknologi AI di masyarakat. Bisnis yang tidak secara proaktif mengatasi masalah etika AI dapat mengalami kerugian kompetitif atau menghadapi denda dan penalti.
Kerusakan Reputasi
Kedua, terdapat risiko reputasi yang terkait dengan praktik AI yang tidak etis. Dalam beberapa tahun terakhir, kita telah melihat sejumlah perusahaan terkenal mendapat kecaman karena penggunaan AI mereka. Dalam skandal Cambridge Analytica tahun 2015, Facebook menggunakan informasi pribadi penggunanya yang dilindungi untuk iklan politik. Akibat insiden ini, Facebook kehilangan nilai pasar sebesar $35 miliar dan sebagian besar masih menjadi platform yang tidak dipercaya oleh publik Amerika. Jika sebuah bisnis ketahuan menggunakan AI dengan cara yang tidak etis, reputasinya bisa rusak parah.
Kerusakan reputasi ini dapat mempunyai dampak yang signifikan terhadap keuntungan suatu bisnis. Sebuah studi yang dilakukan oleh University of California, Berkeley menemukan bahwa harga saham suatu perusahaan turun rata-rata 0,93% pada hari ketika perusahaan tersebut terlibat dalam skandal. Selain itu, perusahaan-perusahaan ini melihat penurunan harga saham jangka panjang sekitar 12%. Studi tersebut juga menemukan bahwa dibutuhkan rata-rata tiga tahun bagi harga saham suatu perusahaan untuk pulih dari skandal. Risiko reputasi yang terkait dengan praktik AI yang tidak etis terlalu tinggi untuk diabaikan oleh dunia usaha.
Hilangnya Keunggulan Kompetitif
Ketiga, ada risiko kehilangan keunggulan kompetitif. Ketika teknologi AI menjadi lebih umum, bisnis yang mampu menggunakannya secara efektif akan memiliki keunggulan yang signifikan dibandingkan pesaingnya. Namun, jika suatu bisnis dianggap tidak etis dalam penggunaan AI, maka bisnis tersebut dapat kehilangan keunggulan kompetitifnya. Hal ini karena pelanggan dan klien akan semakin ingin berbisnis dengan perusahaan yang mereka percayai untuk menggunakan AI secara etis.
Grafik di atas menunjukkan bahwa konsumen akan memberikan respon positif terhadap perusahaan yang menggunakan AI secara etis. Oleh karena itu, sebuah bisnis dapat meningkatkan tingkat retensi pelanggannya dengan mempertimbangkan implikasi etis dari AI yang mereka terapkan. Dalam survei terhadap 1.000 konsumen di Amerika Serikat, Inggris, dan Jerman, 86% mengatakan mereka bersedia membayar lebih untuk produk dan layanan dari perusahaan yang berkomitmen terhadap praktik AI yang etis. Selain itu, 89% mengatakan mereka akan memboikot suatu perusahaan jika perusahaan tersebut diketahui menggunakan AI secara tidak etis.
Jelas bahwa dunia usaha perlu menyadari implikasi etis dari praktik AI mereka. Perusahaan yang tidak melakukan hal tersebut akan berada pada posisi yang tidak menguntungkan dalam persaingan, menghadapi kerusakan reputasi atau bahkan peraturan pemerintah.
Tanggung Jawab Sipil
Terakhir, ada risiko tanggung jawab perdata. Jika teknologi AI suatu bisnis menyebabkan kerugian pada individu, bisnis tersebut dapat dimintai pertanggungjawaban dalam tuntutan hukum perdata. Ini adalah risiko yang sangat relevan mengingat kemajuan terkini dalam teknologi pengenalan wajah. Jika sebuah bisnis menggunakan teknologi pengenalan wajah dengan cara yang tidak etis, bisnis tersebut dapat dituntut karena melanggar privasi atau pencemaran nama baik.
Kasus pertanggungjawaban perdata sudah mulai bermunculan. Pada bulan Mei 2017, seorang wanita di Amerika Serikat mengajukan gugatan terhadap Facebook setelah perangkat lunak pengenalan wajah perusahaan tersebut salah mengidentifikasi dia sebagai teroris. Wanita keturunan Timur Tengah itu ditahan FBI akibat kesalahan tersebut. Selain itu, Google saat ini menghadapi gugatan class action di Inggris atas pelanggaran data kesehatan yang melanggar undang-undang perlindungan data Inggris. Sistem AI DeepMind Google menggunakan informasi kesehatan jutaan pasien dalam suatu aplikasi tanpa persetujuan mereka. Kasus-kasus seperti ini kemungkinan besar akan menjadi lebih umum seiring dengan semakin meluasnya teknologi AI. Dunia usaha perlu menyadari potensi tanggung jawab perdata dan mengambil langkah-langkah untuk memitigasi risiko ini.
Kesimpulan
Ini hanyalah beberapa risiko bisnis yang terkait dengan etika dan tata kelola AI yang buruk. Dunia usaha yang ingin tetap menjadi yang terdepan perlu memastikan bahwa mereka menganggap serius risiko-risiko ini.
Revolusi kecerdasan buatan (AI) sedang berjalan, dan dunia usaha berlomba-lomba mengadopsi teknologi AI agar tetap kompetitif. Namun, seiring dengan semakin meluasnya teknologi AI, terdapat kekhawatiran yang semakin besar mengenai implikasi etis dari penggunaannya. Dunia usaha yang tidak secara proaktif mengatasi permasalahan ini dapat menghadapi risiko serius, termasuk tindakan regulasi, kerusakan reputasi, hilangnya keunggulan kompetitif, dan tanggung jawab perdata.
Referensi
https://www.cio.com/article/100000595/6-business-risks-of-shortchanging-ai-ethics-and-governance.html
https://www.forbes.com/sites/cognitiveworld/2020/02/20/ai-laws-are-coming/?sh=239a0acca2b4
https://www.marketingcharts.com/wp-content/uploads/2019/08/Capgemini-Consumer-Response-Ethical-AI-Aug2019.png
Artikel Risiko Bisnis dari Buruknya Etika dan Tata Kelola AI berasal dari situs Arek Skuza.
