Seorang pembaca anonim berbagi laporan: Chat & Ask AI, salah satu aplikasi AI paling populer di Google Play dan Apple App Store yang memiliki lebih dari 50 juta pengguna, meninggalkan ratusan juta pesan pribadi pengguna tersebut di chatbot aplikasi tersebut, menurut peneliti keamanan independen dan email yang dilihat oleh 404 Media. Obrolan yang terekspos menunjukkan pengguna menanyakan aplikasi tersebut, “Bagaimana cara saya bunuh diri tanpa rasa sakit,” untuk menulis catatan bunuh diri, “cara membuat sabu,” dan cara meretas berbagai aplikasi. Data yang terungkap ditemukan oleh peneliti keamanan independen bernama Harry. Masalahnya adalah kesalahan konfigurasi dalam penggunaan platform pengembangan aplikasi seluler Google Firebase, yang secara default memudahkan siapa pun untuk menjadikan dirinya pengguna “otentikasi” yang dapat mengakses penyimpanan backend aplikasi tempat data pengguna disimpan dalam banyak kasus. Harry mengatakan bahwa dia memiliki akses ke 300 juta pesan dari lebih dari 25 juta pengguna di database yang terekspos, dan bahwa dia mengekstraksi dan menganalisis sampel dari 60.000 pengguna dan satu juta pesan. Basis data berisi file pengguna dengan riwayat lengkap obrolan mereka dengan AI, stempel waktu obrolan tersebut, nama yang mereka berikan pada chatbot aplikasi, cara mereka mengonfigurasi model, dan model spesifik apa yang mereka gunakan. Chat & Ask AI adalah “pembungkus” yang dihubungkan ke berbagai model bahasa besar dari perusahaan besar yang dapat dipilih pengguna, termasuk ChatGPT OpenAI, Claude Anthropic, dan Gemini Google.
Baca lebih lanjut cerita ini di Slashdot.
