Sebuah analisis baru menunjukkan bahwa sebagian besar saran kesehatan yang dirangkum dalam Ikhtisar AI Google bergantung pada sumber non-medis. Hal ini menyusul kekhawatiran baru mengenai pengguna yang menerima panduan yang menyesatkan atau tidak aman mengenai topik kesehatan sensitif.
Apa yang terjadi. The Guardian baru-baru ini melaporkan bahwa Ikhtisar AI Google terkadang menampilkan saran kesehatan yang salah atau berbahaya. Pelaporan ini didasarkan pada tinjauan badan amal dan pakar medis.
- Contohnya termasuk panduan yang salah mengenai pola makan kanker pankreas dan penjelasan yang menyesatkan tentang hasil tes darah hati.
- Google membantah temuan tersebut. Perusahaan mengatakan contoh-contoh tersebut diambil di luar konteks dan berpendapat bahwa sebagian besar Ikhtisar AI akurat dan terkait dengan sumber yang memiliki reputasi baik.
Masalah yang lebih besar. Pemeringkatan SE memeriksa dari mana Ikhtisar AI sebenarnya mendapatkan informasinya. Studi ini meninjau 50.807 penelusuran terkait kesehatan di Jerman. Temuan besarnya:
- Hampir dua pertiga kutipan Ikhtisar AI Google berasal dari sumber yang tidak memiliki perlindungan medis atau bukti yang kuat.
Berdasarkan angka. YouTube adalah satu-satunya sumber yang paling banyak dikutip untuk Ikhtisar AI terkait kesehatan. Sumber tersebut menyumbang 4,43% dari seluruh kutipan, jauh lebih banyak dibandingkan sumber medis yang “lebih dapat diandalkan” (misalnya, rumah sakit dan klinik, penyedia asuransi kesehatan, asosiasi kesehatan). Temuan lain:
- 34,45% kutipan secara keseluruhan berasal dari sumber medis yang lebih andal.
- Jurnal akademis dan lembaga kesehatan pemerintah bersama-sama menyumbang sekitar 1% dari seluruh kutipan Ikhtisar AI.
- Ikhtisar AI sangat menyukai konten video. YouTube menempati peringkat pertama dalam kutipan AI tetapi hanya menempati peringkat ke-11 dalam hasil penelusuran organik tradisional.
- Penyelarasan sumber lemah. Hanya 36% halaman yang dikutip AI muncul di 10 hasil pencarian organik teratas Google.
Mengapa kami peduli. Ikhtisar AI Google bertindak sebagai lapisan utama informasi kesehatan, terutama untuk topik Uang atau Kehidupan Anda. Dengan lebih dari 82% pertanyaan kesehatan yang memicu Ikhtisar AI, kualitas jawaban yang dihasilkan AI merupakan masalah keselamatan publik. Google harus berpegang pada standar yang sama yang telah lama diterapkan pada perusahaan lain: memenuhi persyaratan ketat yang diminta oleh penerbit YMYL.
Ruang belajar. Ikhtisar AI terkait kesehatan beralih ke YouTube 2–3x lebih banyak dibandingkan situs medis tepercaya
