Buku Life 3.0 mengingat percakapan 2017 di mana CEO Alphabet Larry Page “membuat argumen ‘bersemangat’ untuk gagasan bahwa ‘Kehidupan Digital adalah langkah alami dan diinginkan selanjutnya’ dalam ‘Cosmic Evolution’,” mengingat esai dalam The Wall Street Journal. “Menahan kebangkitan pikiran digital akan salah, Page berpendapat. Biarkan mereka dari tali dan biarkan pikiran terbaik menang …” “Ternyata, Larry Page bukan satu -satunya tokoh industri teratas yang tidak terganggu oleh kemungkinan bahwa AIS mungkin akan mendorong kemanusiaan. Ketika beberapa tahun yang lebih baik di AI, tetapi juga menuntut orang -orang yang berumur dengan baik.” melihat retweet pos dari Richard Sutton. Dia peneliti AI terkemuka di University of Alberta yang pada bulan Maret menerima Turing Award, penghargaan tertinggi dalam ilmu komputer … [Sutton had said if AI becomes smarter than people — and then can be more powerful — why shouldn’t it be?] Sutton mengatakan kepada saya AIS berbeda dari penemuan manusia lainnya karena mereka analog dengan anak -anak. “Ketika kamu memiliki anak,” kata Sutton, “apakah kamu ingin tombol bahwa jika mereka melakukan hal yang salah, kamu bisa mematikannya? Itu banyak diskusi tentang AI. Hanya diasumsikan kita ingin bisa mengendalikan mereka.” Tapi seandainya waktu tiba ketika mereka tidak suka memiliki manusia di sekitar? Jika AIS memutuskan untuk menghapus kemanusiaan, apakah dia akan berdamai dengan itu? “Saya tidak berpikir ada sesuatu yang sakral tentang DNA manusia,” kata Sutton. “Ada banyak spesies – kebanyakan dari mereka akhirnya punah. Kita adalah bagian yang paling menarik dari alam semesta saat ini. Tetapi mungkin ada saatnya ketika kita bukan lagi bagian yang paling menarik? Saya dapat membayangkan bahwa …. jika benar -benar benar bahwa kita menahan alam semesta dari menjadi alam semesta terbaik yang bisa, saya pikir itu akan baik -baik saja …” Saya bertanya -tanya, seberapa umum gagasan di antara orang -orang ini? Saya bertemu dengan Jaron Lanier, seorang musisi polimatik, ilmuwan komputer dan pelopor realitas virtual. Dalam sebuah esai di New Yorker pada bulan Maret, ia menyebutkan secara sepintas bahwa ia telah mendengar ide “gila” di konferensi AI: bahwa orang yang memiliki anak menjadi berkomitmen berlebihan pada spesies manusia. Dia mengatakan kepada saya bahwa dalam pengalamannya, sentimen seperti itu adalah bahan pokok pembicaraan di antara para peneliti AI di makan malam, pesta dan tempat lain yang mungkin mereka kumpulkan. (Lanier adalah peneliti senior interdisipliner di Microsoft tetapi tidak berbicara untuk perusahaan.) “Ada perasaan bahwa orang tidak dapat dipercaya pada topik ini karena mereka dipenuhi dengan virus pikiran yang tercela, yang menyebabkan mereka mendukung orang daripada AI ketika jelas apa yang harus kita lakukan adalah keluar dari jalan.” Kita harus keluar dari jalan, yaitu, karena tidak adil untuk mendukung manusia – dan karena kesadaran di alam semesta akan lebih unggul jika AIS menggantikan kita. “Jumlah orang yang berpendapat bahwa kepercayaan itu kecil,” kata Lanier, “tetapi mereka diposisikan di stasiun pengaruh besar. Jadi itu bukan sesuatu yang bisa diabaikan oleh seseorang ….” Anda mungkin berpikir pada diri sendiri: jika membunuh seseorang itu buruk, dan jika pembunuhan massal sangat buruk, maka kepunahan kemanusiaan pasti sangat, sangat buruk – bukan? Apa yang gagal dipahami, menurut apokaliptik yang ceria, adalah bahwa ketika menyangkut kesadaran, silikon dan biologi hanyalah substrat yang berbeda. Kesadaran biologis tidak memiliki nilai yang lebih besar daripada varietas digital di masa depan, teorinya berjalan … sementara apokaliptik yang ceria kadang -kadang menulis dan berbicara dalam istilah deskriptif murni tentang malapetaka masa depan umat manusia, dua penilaian nilai dalam doktrin mereka tidak dapat dilewatkan. Yang pertama adalah ketidaksukaan, setidaknya dalam abstrak, untuk tubuh manusia. Daripada melihat kerjanya sebagai luar biasa, dalam arti asli yang menginspirasi kekaguman, mereka melihatnya sebagai kapal yang lambat dan rapuh, matang untuk usang … penilaian yang lebih besar dari apokaliptik yang ceria adalah versi dari pepatah kuno yang “mungkin membuat benar” …
Baca lebih lanjut dari cerita ini di SlashDot.
