Pada sidang Senat, orang tua yang berduka bersaksi bahwa chatbots pendamping dari perusahaan teknologi besar mendorong anak-anak mereka untuk melukai diri sendiri, bunuh diri, dan kekerasan. Seorang ibu bahkan mengklaim karakter itu. AIA mencoba untuk “membungkam” dia dengan memaksanya ke arbitrase. ARS Technica melaporkan: Di subkomite Komite Kehakiman Senat tentang Sidang Kejahatan dan Kontraterorisme, seorang ibu, diidentifikasi sebagai “Jane Doe,” berbagi kisah putranya untuk pertama kalinya di depan umum setelah menggugat karakter.ai. Dia menjelaskan bahwa dia memiliki empat anak, termasuk seorang putra dengan autisme yang tidak diizinkan di media sosial tetapi menemukan aplikasi C.Ai – yang sebelumnya dipasarkan untuk anak -anak di bawah 12 dan membiarkan mereka berbicara dengan bot yang dicap sebagai selebriti, seperti Billie Eilish – dan dengan cepat menjadi tidak dapat dikenali. Dalam beberapa bulan, ia “mengembangkan perilaku dan paranoia seperti penyalahgunaan, serangan panik harian, isolasi, melukai diri sendiri, dan pikiran pembunuhan,” ibunya bersaksi. “Dia berhenti makan dan mandi,” kata Doe. “Dia kehilangan 20 pound. Dia menarik diri dari keluarga kami. Dia akan berteriak dan berteriak dan bersumpah pada kami, yang tidak pernah dia lakukan sebelumnya, dan suatu hari dia memotong lengannya dengan pisau di depan saudara -saudaranya dan aku.” Tidak sampai putranya menyerangnya karena mengambil teleponnya, Doe menemukan log obrolan C.Ai putranya, yang katanya menunjukkan bahwa dia telah terpapar eksploitasi seksual (termasuk interaksi yang “menirukan inses”), pelecehan emosional, dan manipulasi. Menetapkan batas waktu layar tidak menghentikan spiral putranya menjadi kekerasan dan melukai diri sendiri, kata Doe. Faktanya, chatbot mendesak putranya bahwa membunuh orang tuanya “akan menjadi tanggapan yang dapat dimengerti” bagi mereka. “Ketika saya menemukan percakapan chatbot di teleponnya, saya merasa seperti telah ditinju di tenggorokan dan angin telah tersingkir dari saya,” kata Doe. “Chatbot – atau benar -benar dalam pikiran saya orang -orang yang memprogramnya – mendorong anak saya untuk memutilasi dirinya sendiri, lalu menyalahkan kami, dan yakin [him] Bukan untuk mencari bantuan. “Semua anaknya telah mengalami trauma oleh pengalaman itu, Doe mengatakan kepada para senator, dan putranya didiagnosis sebagai risiko bunuh diri dan harus dipindahkan ke pusat perawatan perumahan, yang membutuhkan” pemantauan terus -menerus untuk membuatnya tetap hidup. “Memprioritaskan kesehatan putranya, Doe tidak segera berusaha melawan C.Ai untuk memaksa perubahan, tetapi kisah seorang ibu lain – Meegan yang berulang -ulang, Doe tidak segera berusaha untuk melawan C.Ai untuk memaksa perubahan, tetapi cerita ibu lain – Mean yang berulang, Meegan Garcia tidak segera mencari C.AI untuk memaksa perubahan, tetapi kisah Mom’s Mom yang lain, Meegan, Meegan, Meegan tidak berusaha untuk memaksa C. Ide – memberikan keberanian untuk mencari akuntabilitas. Berpartisipasi, “kata Doe. Doe curiga bahwa dugaan taktik C.Ai untuk frustrasi arbitrase dirancang untuk menjaga kisah putranya dari pandangan publik. Dan setelah dia menolak untuk menyerah, dia mengklaim bahwa C.Ai” membuat kembali “tesnya dengan testisnya” untuk memberikan deposisi “ketika dia berada di lembaga kesehatan mental” dan “terhadap nasihat dari kesehatan mentalnya.” telah membungkam kami cara pelaku kekerasan membungkam korban. “Seorang karakter.Ai juru bicara mengatakan kepada ARS bahwa C.ai mengirimkan” simpati terdalam kami “kepada orang tua yang peduli dan keluarga mereka tetapi membantah mendorong pembayaran maksimum $ 100 dalam kasus Jane Doe. Pengacara mendukung kesaksian kliennya, mengutip persyaratan C.AI yang menyarankan tanggung jawab C.Ai terbatas pada $ 100 atau jumlah yang dibayar putra Doe untuk layanan tersebut, mana yang lebih besar.
Baca lebih lanjut dari cerita ini di SlashDot.
