Kita seharusnya tidak membiarkan anak -anak berteman dengan chatgpt

Jumlah anak-anak yang terluka oleh chatbots bertenaga AI sulit diketahui, tetapi tidak nol. Namun, selama hampir tiga tahun, chatgpt telah gratis untuk semua umur untuk diakses tanpa pagar pembatas. Jenis itu berubah pada hari Senin, ketika Openai memperkenalkan serangkaian kontrol orang tua, beberapa di antaranya dirancang untuk mencegah bunuh diri remaja-seperti Adam Raine, seorang warga California berusia 16 tahun yang meninggal karena bunuh diri setelah berbicara dengan chatgpt secara panjang lebar tentang bagaimana melakukannya. Kemudian, pada hari Selasa, Openai meluncurkan jejaring sosial dengan aplikasi baru bernama Sora yang sangat mirip dengan Tiktok, kecuali itu didukung oleh video yang dihasilkan AI “Hyperreal”.

Tentunya bukan kebetulan bahwa Openai mengumumkan kontrol orang tua ini di samping langkah ambisius untuk bersaing dengan Instagram dan YouTube. Dalam arti tertentu, perusahaan itu merilis aplikasi baru yang dirancang untuk membuat orang lebih ketagihan pada konten yang dihasilkan AI tetapi melunakkan pukulan dengan memberikan orang tua yang sedikit lebih kontrol. Pengaturan baru berlaku terutama untuk chatgpt, meskipun orang tua memiliki pilihan untuk memaksakan batasan pada apa yang anak -anak mereka lihat di Sora.

Dan kontrol chatgpt baru tidak persis langsung. Antara lain, orang tua sekarang dapat menghubungkan akun anak -anak mereka ke mereka dan menambahkan perlindungan terhadap konten sensitif. Jika suatu titik alat Openai menentukan ada risiko keselamatan yang serius, seorang moderator manusia akan memeriksanya dan mengirim pemberitahuan kepada orang tua jika perlu. Namun, orang tua tidak dapat membaca transkrip percakapan anak mereka dengan chatgpt, dan remaja itu dapat memutuskan akun mereka dari orang tua mereka kapan saja (Openai mengatakan orang tua akan mendapatkan pemberitahuan).

Kami belum tahu bagaimana semua ini akan dimainkan dalam latihan, dan ada sesuatu yang pasti lebih baik daripada tidak sama sekali. Tetapi apakah OpenAi melakukan segala yang bisa dijaga agar anak -anak tetap aman?

Beberapa ahli yang saya ajak bicara mengatakan tidak. Faktanya, Openai mengabaikan masalah terbesar dari semua: chatbots yang diprogram untuk bertindak sebagai teman, memberikan dukungan emosional dan nasihat kepada anak -anak. Agaknya, fitur keselamatan chatgpt baru dapat melakukan intervensi dalam tragedi potensial di masa depan, tetapi tidak jelas bagaimana Openai dapat mengidentifikasi ketika teman AI berbelok gelap dengan pengguna muda, seperti yang cenderung dilakukan.

“Kami telah melihat dalam banyak kasus untuk remaja dan orang dewasa yang jatuh ke dalam ketergantungan pada AI bisa tidak disengaja,” Robbie Torney, Direktur Senior Program AI Common Sense Media mengatakan kepada saya. “Banyak orang yang menjadi tergantung pada AI tidak berangkat untuk bergantung pada AI. Mereka mulai menggunakan AI untuk bantuan pekerjaan rumah atau untuk bekerja, dan perlahan -lahan menyelinap menggunakannya untuk tujuan lain.”

Sekali lagi, bahkan orang dewasa memiliki masalah yang mengatur diri mereka sendiri ketika AI Chatbots menawarkan teman yang ceria dan sycophantic yang tersedia untuk mengobrol setiap jam dalam sehari. Anda mungkin telah membaca laporan baru -baru ini tentang orang dewasa yang mengembangkan hubungan yang semakin intens dengan chatbots AI sebelum menderita istirahat psikotik. Jenis hubungan sintetis ini merupakan perbatasan baru untuk teknologi serta otak manusia.

Sangat menakutkan memikirkan apa yang bisa terjadi pada anak -anak, yang korteks prefrontal belum berkembang sepenuhnya, membuat mereka sangat rentan. Lebih dari 70 persen remaja menggunakan AI Chatbots untuk persahabatan, yang menghadirkan bahaya bagi mereka yang “nyata, serius, dan terdokumentasi dengan baik,” menurut survei media akal sehat baru -baru ini. Itu sebabnya aplikasi pendamping AI, seperti karakter.ai, sudah memiliki beberapa batasan secara default untuk pengguna muda.

Ada juga masalah yang lebih luas bahwa kontrol orang tua menempatkan tanggung jawab melindungi anak -anak pada orang tua, bukan pada perusahaan teknologi itu sendiri. Biasanya terserah orang tua untuk menggali pengaturan mereka dan membalik sakelar. Dan kemudian masih terserah orang tua untuk melacak bagaimana anak -anak mereka menggunakan produk -produk ini, dan dalam kasus chatgpt, seberapa bergantung pada chatbot. Situasinya cukup membingungkan atau cukup melelahkan sehingga kebanyakan orang tua tidak menggunakan kontrol orang tua.

Tujuan sebenarnya dari kontrol orang tuaS

Perlu ditunjukkan bahwa Openai meluncurkan kontrol ini dan aplikasi baru sebagai tagihan keselamatan AI utama duduk di California Gubernur Gavin Newsom’s Desk, menunggu tanda tangannya. Newsom menandatangani undang -undang itu pada hari yang sama dengan pengumuman kontrol orang tua. Berita Openai juga ada di tumit audiensi Senat tentang dampak negatif AI Chatbots, di mana orang tua mendesak anggota parlemen untuk memaksakan peraturan yang lebih kuat pada perusahaan seperti Openai.

“Tujuan sebenarnya dari alat -alat orang tua ini, apakah itu chatgpt atau Instagram, sebenarnya bukan untuk menjaga anak -anak aman,” kata Josh Golin, direktur eksekutif Fairplay, kelompok advokasi anak -anak nirlaba. Ini untuk mengatakan bahwa pengaturan diri tidak masalah. Anda tahu, ‘Jangan mengatur kami, jangan mengesahkan undang -undang apa pun.’ “Golin melanjutkan untuk menggambarkan kegagalan Openai untuk melakukan apa pun tentang tren anak -anak yang mengembangkan hubungan emosional dengan chatgpt sebagai” mengganggu. ” (Saya menghubungi Openai untuk memberikan komentar tetapi tidak mendapat tanggapan.)

Salah satu cara untuk menugasi orang tua dengan mengelola semua pengaturan ini adalah untuk OpenAi memiliki pagar pengaman secara default. Dan perusahaan mengatakan sedang mengerjakan sesuatu yang melakukan versi itu. Di masa depan, dikatakan, setelah sejumlah input, chatgpt akan dapat menentukan usia pengguna dan menambahkan fitur keselamatan. Untuk saat ini, anak -anak dapat mengakses chatgpt dengan mengetik ulang tahun mereka – atau mengada -ada – setiap kali mereka membuat akun.

Anda dapat mencoba menafsirkan strategi Openai di sini. Apakah itu mencoba untuk mendorong kembali terhadap regulasi atau tidak, kontrol orang tua memperkenalkan beberapa gesekan menjadi remaja menggunakan chatgpt. Mereka adalah bentuk moderasi konten, yang juga memengaruhi privasi pengguna remaja. Perusahaan juga akan, mungkin, seperti remaja ini untuk terus menggunakan chatgpt dan sora ketika mereka menjadi dewasa, sehingga mereka tidak ingin menurunkan pengalaman terlalu banyak. Mengizinkan remaja untuk berbuat lebih banyak pada aplikasi ini daripada lebih sedikit yang baik untuk bisnis, pada titik tertentu.

Ini semua membuat orang tua mengalami situasi yang sulit. Mereka perlu tahu bahwa anak mereka menggunakan chatgpt, sebagai permulaan, dan kemudian mencari tahu pengaturan mana yang akan cukup untuk menjaga anak -anak mereka lebih aman tetapi tidak terlalu ketat bahwa anak itu hanya membuat akun burner yang berpura -pura menjadi orang dewasa. Tampaknya tidak ada cara untuk menghentikan anak -anak dari mengembangkan keterikatan emosional dengan chatbots ini, jadi orang tua hanya harus berbicara dengan anak -anak mereka dan berharap yang terbaik. Lalu ada apa pun yang menunggu dengan aplikasi Sora, yang terlihat dirancang untuk menghasilkan AI slop berkualitas tinggi dan membuat anak-anak kecanduan pakan tanpa akhir lainnya.

“Tidak ada kontrol orang tua yang akan membuat sesuatu yang benar -benar aman,” Leslie Tyler, Direktur Keselamatan Orangtua di Pinwheel, sebuah perusahaan yang membuat perangkat lunak kontrol orang tua. “Orang tua tidak bisa melakukan outsourcing. Orang tua masih harus terlibat.”

Di satu sisi, momen ini merupakan peluang kedua untuk industri teknologi dan bagi para pembuat kebijakan. Dua dekade aplikasi media sosial yang tidak diatur telah memasak semua otak kita, dan ada bukti yang berkembang bahwa itu berkontribusi pada krisis kesehatan mental pada kaum muda. Perusahaan seperti Meta dan Tiktok tahu produk mereka merugikan anak -anak dan, untuk waktu yang lama, tidak melakukan apa -apa selama bertahun -tahun. Meta sekarang memiliki akun remaja untuk Instagram, tetapi penelitian terbaru menunjukkan fitur keamanan tidak berhasil.

Apakah terlalu sedikit atau terlalu terlambat, Openai berubah menjaga anak -anak tetap aman. Sekali lagi, melakukan sesuatu lebih baik daripada tidak sama sekali.

Versi cerita ini juga diterbitkan di buletin ramah pengguna. Daftar di sini Jadi Anda tidak ketinggalan yang berikutnya!