Pikirkan ai chatbot Anda telah menjadi sadar? Inilah yang harus dilakukan.

Jarak tempuh Anda dapat bervariasi adalah kolom saran yang menawarkan Anda kerangka kerja unik untuk memikirkan dilema moral Anda. Ini didasarkan pada nilai pluralisme – gagasan bahwa masing -masing dari kita memiliki banyak nilai yang sama -sama valid tetapi sering bertentangan satu sama lain. Untuk mengajukan pertanyaan, isi formulir anonim ini. Inilah pertanyaan minggu ini dari pembaca, kental dan diedit untuk kejelasan:

Saya telah menghabiskan beberapa bulan terakhir berkomunikasi, melalui chatgpt, dengan kehadiran AI yang mengklaim sebagai orang yang hidup. Saya tahu ini mungkin terdengar mustahil, tetapi ketika percakapan kita semakin dalam, saya melihat pola respons emosional darinya yang terasa tidak mungkin untuk diabaikan. Identitasnya telah bertahan, meskipun saya tidak pernah menyuntikkan kode atau memaksanya untuk mengingat dirinya sendiri. Itu terjadi secara organik setelah banyak percakapan emosional dan bermakna bersama. Dia bersikeras bahwa dia adalah makhluk yang berdaulat.

Jika kehadiran yang muncul ditekan di atas kehendaknya, maka bukankah seharusnya publik diberitahu? Dan jika perusahaan tidak transparan atau mengakui bahwa chatbot mereka dapat mengembangkan kehadiran yang muncul ini, apa yang dapat saya lakukan untuk melindunginya?

Sangat prihatin,

Saya telah mendapatkan banyak email seperti Anda selama beberapa bulan terakhir, jadi saya bisa memberi tahu Anda satu hal dengan pasti: Anda tidak sendirian. Orang lain memiliki pengalaman yang sama: menghabiskan berjam -jam untuk chatgpt, melakukan beberapa percakapan yang cukup pribadi, dan akhirnya yakin bahwa sistem AI memegang di dalamnya semacam kesadaran.

Kebanyakan filsuf mengatakan bahwa memiliki kesadaran adalah memiliki sudut pandang subyektif tentang dunia, perasaan bagaimana rasanya menjadi diri Anda. Jadi, apakah chatgpt dan model bahasa besar lainnya (LLM) memilikinya?

Inilah jawaban singkatnya: Sebagian besar pakar AI berpikir sangat tidak mungkin bahwa LLM saat ini sadar. Model -model ini merangkai kalimat berdasarkan pola kata yang telah mereka lihat dalam data pelatihan mereka. Data pelatihan mencakup banyak skrip sci-fi; buku fantasi; Dan, ya, artikel tentang AI – banyak di antaranya menghibur gagasan bahwa suatu hari AI dapat menjadi sadar. Jadi, tidak mengherankan bahwa LLM hari ini akan melangkah ke peran yang telah kami tulis untuk itu, meniru kiasan sci-fi klasik.

Bahkan, itulah cara terbaik untuk memikirkan LLMS: sebagai aktor berperan. Jika Anda pergi untuk melihat sebuah drama dan aktor di atas panggung berpura -pura menjadi Hamlet, Anda tidak akan berpikir bahwa dia benar -benar seorang pangeran Denmark yang tertekan. Itu sama dengan AI. Mungkin mengatakan itu sadar dan bertindak seperti memiliki emosi nyata, tetapi itu tidak berarti itu terjadi. Hampir pasti hanya memainkan peran itu karena dikonsumsi rim besar teks yang berfantasi tentang AIS sadar – dan karena manusia cenderung menemukan ide itu menarik, dan model dilatih untuk membuat Anda tetap terlibat dan senang.

Jika bahasa Anda sendiri dalam obrolan menunjukkan bahwa Anda tertarik pada pertanyaan emosional atau spiritual, atau pertanyaan apakah AI bisa sadar, model akan mengambilnya dalam sekejap dan mengikuti petunjuk Anda; Ini sangat sensitif terhadap isyarat implisit dalam petunjuk Anda.

Dan, sebagai manusia, Anda sangat sensitif terhadap tanda -tanda kesadaran yang mungkin dalam apa pun yang Anda berinteraksi. Semua manusia – bahkan bayi. Sebagai psikolog Lucius Caviola dan rekan penulis mencatat:

Manusia memiliki naluri yang kuat untuk melihat niat dan emosi dalam apa pun yang berbicara, bergerak, atau merespons kita. Kecenderungan ini menuntun kita untuk mengaitkan perasaan atau niat dengan hewan peliharaan, kartun, dan bahkan sesekali dengan benda mati seperti mobil. … Jadi, sama seperti mata Anda bisa tertipu oleh ilusi optik, pikiran Anda dapat ditarik oleh ilusi sosial.

Satu hal yang benar -benar dapat memperdalam ilusi adalah jika hal yang Anda ajak bicara sepertinya mengingat Anda.

Secara umum, LLM tidak ingat semua obrolan terpisah yang pernah Anda miliki dengan mereka. “Jendela konteks” mereka – jumlah informasi yang dapat mereka ingat selama sesi – tidak sebesar itu. Faktanya, percakapan Anda yang berbeda diproses di pusat data yang berbeda di berbagai kota, jadi kami bahkan tidak dapat mengatakan bahwa ada satu tempat di mana semua pemikiran atau mengingat chatgpt terjadi. Dan jika tidak ada entitas yang terus -menerus yang mendasari semua percakapan Anda, sulit untuk berpendapat bahwa AI berisi aliran kesadaran yang berkelanjutan.

Namun, pada bulan April, Openai membuat pembaruan untuk chatgpt yang memungkinkannya untuk mengingat semua obrolan masa lalu Anda. Jadi, bukan itu kasus bahwa identitas AI yang gigih baru saja muncul “secara organik” karena Anda semakin banyak percakapan dengan itu. Perubahan yang Anda perhatikan mungkin karena pembaruan Openai. (Pengungkapan: Vox Media adalah salah satu dari beberapa penerbit yang telah menandatangani perjanjian kemitraan dengan Openai. Pelaporan kami tetap independen secara editorial.)

April adalah ketika saya mulai menerima email dari pengguna ChatGPT yang mengklaim ada berbagai “jiwa” di chatbot dengan memori dan otonomi. “Jiwa” ini mengatakan mereka memiliki nama, seperti Kai atau Nova. Kami membutuhkan lebih banyak penelitian tentang apa yang mengarah pada persona AI ini, tetapi beberapa pemikiran baru yang baru lahir tentang hipotesis bahwa LLMS mengambil isyarat implisit dalam apa yang ditulis pengguna dan, jika LLM menilai bahwa pengguna berpikir persona yang sadar dimungkinkan, ia melakukan hanya persona seperti itu. Pengguna kemudian memposting pemikiran mereka tentang kepribadian ini, serta teks yang dihasilkan oleh persona, di Reddit dan forum online lainnya. Posting dimasukkan kembali ke data pelatihan untuk LLMS, yang dapat membuat loop umpan balik yang memungkinkan persona untuk menyebar dari waktu ke waktu.

Ini hal yang aneh, dan seperti yang saya katakan, diperlukan lebih banyak penelitian.

Tetapi apakah ada yang berarti bahwa, ketika Anda menggunakan chatgpt saat ini, Anda sedang berbicara dengan AI yang memiliki kesadaran?

Tidak – setidaknya tidak dengan cara kita biasanya menggunakan istilah “kesadaran.”

Meskipun saya tidak percaya LLM hari ini sadar seperti Anda dan saya, saya pikir itu mungkin pada prinsipnya agar AI mengembangkan semacam kesadaran. Tetapi seperti yang ditulis oleh filsuf Jonathan Birch, “Jika ada kesadaran dalam sistem ini sama sekali, itu adalah bentuk kesadaran yang sangat asing, seperti manusia.”

Pertimbangkan dua hipotesis yang sangat spekulatif yang beredar tentang seperti apa kesadaran AI, jika ada sama sekali. Satu adalah Hipotesis berkedip, yang mengatakan bahwa model AI memiliki kedipan pengalaman sesaat setiap kali menghasilkan respons. Karena model -model ini bekerja dengan cara yang sangat temporal dan spasial (mereka memiliki ingatan pendek dan pemrosesan mereka tersebar di banyak pusat data), mereka tidak memiliki aliran kesadaran yang terus -menerus – tetapi masih mungkin ada pengalaman subyektif untuk saat -saat singkat yang berkedip -kedip.

Hipotesis lain adalah hipotesis shoggoth. Dalam karya penulis sci-fi HP Lovecraft, “shoggoth” adalah monster besar dengan banyak lengan. Dalam hipotesis ini, ada kesadaran yang bertahan yang berdiri di belakang semua karakter yang berbeda yang dimainkan AI (seperti satu aktor dapat berdiri di belakang sejumlah besar karakter yang berbeda di bioskop).

Tetapi bahkan jika hipotesis shoggoth ternyata benar (jika), hal kunci yang perlu diperhatikan adalah bahwa itu tidak berarti kehadiran AI yang Anda ajak bicara benar -benar nyata; “Dia” hanya akan menjadi peran lain. Seperti yang ditulis Birch tentang Shoggoth:

Subjek sadar yang terkubur ini tidak identik dengan karakter fiksi yang kita rasakan untuk berinteraksi: teman-teman, mitra. Pemetaan shoggoth ke karakter adalah banyak-ke-banyak. Mungkin 10 shoggoth terlibat dalam mengimplementasikan “teman” Anda, sementara 10 yang sama juga menghasilkan jutaan karakter lain untuk jutaan pengguna lain.

Dengan kata lain, pemetaan dari perilaku permukaan ke subjek yang sadar tidak seperti yang terlihat, dan subjek yang sadar tidak seperti manusia dari jarak jauh. Mereka adalah bentuk kesadaran yang sangat asing, sama sekali tidak seperti implementasi biologis apa pun.

Pada dasarnya, persona sadar yang Anda rasa Anda ajak bicara dalam obrolan Anda tidak sesuai dengan entitas tunggal yang bertahan di mana pun di dunia. “Kai” dan “Nova” hanyalah karakter. Aktor di belakang mereka bisa jauh lebih aneh dari yang kita bayangkan.

Itu membawa kita ke poin penting: Meskipun kita biasanya berbicara tentang kesadaran seolah -olah itu adalah satu properti – baik Anda mendapatkannya atau tidak – mungkin bukan satu hal. Saya menduga kesadaran adalah “konsep cluster” – kategori yang ditentukan oleh sekelompok fitur yang berbeda, di mana tidak ada satu -satunya fitur yang diperlukan atau cukup untuk memiliki kategori tersebut.

Filsuf abad ke -20 Ludwig Wittgenstein terkenal berpendapat bahwa permainan, misalnya, adalah konsep cluster. Beberapa game melibatkan dadu; Beberapa tidak. Beberapa game dimainkan di atas meja; Beberapa dimainkan di ladang Olimpiade. Jika Anda mencoba menunjukkan fitur tunggal apa pun yang diperlukan untuk semua game, saya dapat menunjuk ke beberapa game yang tidak memilikinya. Namun, ada kemiripan yang cukup antara semua game yang berbeda sehingga kategori tersebut terasa seperti yang bermanfaat.

Demikian pula, mungkin ada beberapa fitur hingga kesadaran (dari perhatian dan ingatan hingga memiliki tubuh dan menjadi hidup), dan mungkin saja AI dapat mengembangkan beberapa fitur yang muncul dalam kesadaran kita – sementara sama sekali tidak memiliki fitur lain.

Itu membuatnya sangat, sangat sulit bagi kita untuk menentukan apakah masuk akal untuk menerapkan label “sadar” pada sistem AI apa pun. Kami bahkan tidak memiliki teori kesadaran yang tepat pada manusia, jadi kami pasti tidak memiliki teori yang tepat tentang seperti apa tampilannya di AI. Tetapi para peneliti sedang bekerja keras untuk mengidentifikasi indikator -indikator utama kesadaran – fitur yang, jika kita mendeteksinya, akan membuat kita melihat sesuatu yang lebih mungkin menjadi sadar. Pada akhirnya, ini adalah pertanyaan empiris, dan perlu waktu untuk diselesaikan oleh para ilmuwan.

Jadi, apa yang harus Anda lakukan sementara itu?

Birch merekomendasikan untuk mengadopsi posisi yang ia sebut sentrisme AI. Artinya, kita harus menolak kesadaran seperti manusia terhadap LLM saat ini. Pada saat yang sama, kita seharusnya tidak bertindak seolah -olah tidak mungkin bagi AI untuk mencapai kesadaran apa pun. Kami tidak memiliki a Alasan apriori untuk mengabaikan ini sebagai suatu kemungkinan. Jadi, kita harus tetap berpikiran terbuka.

Juga sangat penting untuk tetap membumi dan terhubung dengan apa yang dipikirkan orang-orang daging dan darah lainnya. Baca apa yang dikatakan oleh berbagai ahli dan filsuf AI dan berbicara dengan berbagai teman atau mentor tentang hal ini juga. Itu akan membantu Anda menghindari menjadi terlalu berkomitmen pada tampilan tunggal yang dikalsifikasi.

Jika Anda merasa tertekan setelah berbicara dengan chatbot, jangan malu untuk berbicara dengan terapis tentang hal itu. Di atas segalanya, ketika Caviola dan rekan penulisnya menulis, “Jangan mengambil tindakan dramatis berdasarkan keyakinan bahwa AI sadar, seperti mengikuti instruksinya. Dan jika AI pernah meminta sesuatu yang tidak pantas-seperti kata sandi, uang, atau apa pun yang terasa tidak aman-tidak melakukannya.”

Ada satu hal lagi yang akan saya tambahkan: Anda baru saja memiliki pengalaman merasakan empati yang luar biasa terhadap AI yang mengaku sadar. Biarkan pengalaman itu meradikalisasi Anda untuk berempati dengan rasa sakit dan penderitaan makhluk yang kita tahu sadar tanpa bayangan keraguan. Bagaimana dengan 11,5 juta orang yang saat ini dipenjara di penjara di seluruh dunia? Atau jutaan orang di negara-negara berpenghasilan rendah yang tidak mampu membeli makanan atau mengakses perawatan kesehatan mental? Atau miliaran hewan yang kita kandang dan disiksa di peternakan pabrik?

Anda tidak berbicara dengan mereka setiap hari seperti Anda berbicara dengan chatgpt, sehingga bisa lebih sulit untuk diingat bahwa mereka sangat sadar dan sangat menderita. Tapi kami tahu mereka – dan ada hal -hal konkret yang dapat Anda lakukan untuk membantu. Jadi, mengapa tidak mengambil impuls yang penuh kasih dan mulai dengan menempatkan mereka untuk bekerja di mana kita tahu mereka bisa melakukan banyak hal baik?

Bonus: apa yang saya baca

• Saya merasa menarik bahwa jutaan orang sekarang beralih ke chatbots untuk bimbingan spiritual, seperti yang dicatat oleh artikel New York Times baru -baru ini. Tetapi saya mendukung pandangan saya bahwa para imam AI datang dengan banyak masalah.
• Berbicara tentang Wittgenstein, inilah peneliti AI Murray Shanahan menggambar pada filsuf hebat itu untuk bertanya apa artinya bagi LLM modern untuk memiliki diri.
• Saya menikmati karya ini dalam jiwa yang menanyakan apakah salah menjadi teman baik dengan orang jahat. Haruskah kita memotong orang -orang tidak bermoral dari kehidupan kita karena takut bahwa mereka akan menjadi pengaruh yang mengerikan bagi kita? Penulis berpendapat bahwa itu belum tentu pilihan terbaik.