Pusat Inovasi Data baru -baru ini berbicara dengan Anatoly Kvitnitsky, CEO Ai atau tidakperusahaan yang berbasis di California menggunakan model AI untuk mendeteksi dan mengenali gambar, pidato, video, dan faktor-faktor lain yang dibuat oleh alat AI. Kvitnitsky menjelaskan bagaimana perusahaan menggunakan sistem otomatis untuk memindai konten online dan dengan cepat memperbarui model deteksi dalam menanggapi alat dan tren AI yang muncul.
David berkata: Bagaimana alat Anda mendeteksi AI di berbagai media?
Anatoly Kvitnisky: Sistem deteksi kami dirancang untuk setiap jenis media. Untuk gambar, kami menganalisis pola piksel dan membandingkannya dengan pola yang terlihat dalam foto -foto nyata, seperti yang diambil oleh iPhone atau kamera Canon. Gambar yang dihasilkan AI cenderung memiliki sifat visual yang berbeda yang tidak ditiru oleh optik dunia nyata.
Untuk teks, kami memeriksa struktur kalimat dan penggunaan kata. Frasa dan konstruksi tertentu muncul jauh lebih sering dalam penulisan yang dihasilkan AI, terutama sebelum alat seperti chatgpt menjadi lebih maju pada akhir 2022. Sidik jari linguistik ini membantu kami menandai teks sintetis.
Dengan audio, kami membagi analisis antara suara dan musik. Kami menghasilkan spektrogram, representasi visual dari suara, dan membandingkan strukturnya dengan audio yang dihasilkan manusia. AI masih berjuang dengan nuansa fonetik tertentu, seperti konsonan keras dalam bahasa Rusia, yang dapat diidentifikasi secara visual.
Untuk video, kami menganalisisnya bingkai demi bingkai untuk mendeteksi visual sintetis dan perubahan Deepfake. Kami juga mempelajari pola gerakan; Video yang dihasilkan AI sering menampilkan kehalusan yang tidak wajar atau gerakan yang menantang gravitasi. Isyarat audio juga terintegrasi untuk memperkuat analisis keseluruhan.
Diperlukan: Bagaimana AI atau tidak mendeteksi Deepfake seperti pertukaran wajah atau ekspresi yang diubah?
Kvitnisky: Kami mendeteksi Deepfake dengan melatih model kami untuk mengenali artefak digital halus yang ditinggalkan teknik -teknik ini. Sementara gambar yang dihasilkan AI dibuat dari awal, Deepfakes memanipulasi konten nyata, sering bertukar wajah atau menyinkronkan bibir untuk mengubah makna atau konteks. Perubahan ini menciptakan ketidakkonsistenan dalam struktur piksel atau transisi yang dilatih oleh model kami.
Setiap metode Deepfake, seperti pertukaran wajah atau sinkronisasi bibir, meninggalkan petunjuk yang berbeda. Misalnya, setelah upaya pembunuhan pada Donald Trump, Deepfake yang beredar luas mengubah ekspresi agen -agen dinas rahasia untuk membuatnya tampak tersenyum. Sistem kami dapat menangkap rincian fabrikasi ini dengan mengidentifikasi penyimpangan pada gambar.
Diperlukan: Seberapa sering alat deteksi Anda diperbarui untuk mengimbangi model AI baru?
Kvitnisky: Kami memperbarui model deteksi kami beberapa kali per minggu untuk mengimbangi alat dan tren AI baru. Kami memantau Internet menggunakan bot yang menandai penurunan potensial dalam akurasi deteksi. Jika sesuatu berubah dalam pola data, seperti yang dipicu oleh model baru, kami menyelidiki dan menyesuaikannya.
Kami juga secara aktif melacak rilis model terkemuka seperti ChatGPT 5.0, serta model yang kurang dipublikasikan dari negara-negara seperti Cina. Model baru sering diikuti oleh gelombang konten sintetis, terutama selama peristiwa atau pemilihan global profil tinggi. Lonjakan ini dapat dengan cepat meningkatkan penyebaran informasi yang salah, sehingga sangat penting bahwa alat kami tetap terkini dan adaptif.
Diperlukan: Apakah AI atau tidak menjelaskan hasilnya atau menunjukkan seberapa yakin itu?
Kvitnisky: Ya, kami memberikan skor kepercayaan yang menunjukkan seberapa besar kemungkinan konten yang dihasilkan AI, dan kami juga memperkirakan model mana yang mungkin telah membuatnya. Kami mengumpulkan hasil dari beberapa model deteksi untuk memberi pengguna sinyal yang dapat diandalkan. Ini penting karena tidak semua konten yang ditandai memiliki konsekuensi yang sama, misalnya, membedakan poster film palsu dari dokumen keuangan palsu sangat penting dengan cara yang berbeda.
Diperlukan: Siapa yang menggunakan AI atau tidak, dan bagaimana hal itu diterapkan di dunia nyata?
Kvitnisky: Platform kami digunakan di berbagai industri, termasuk media, jurnalisme, fintech, dan pemerintah. Organisasi mengandalkan kami untuk verifikasi identitas, deteksi penipuan, dan otentikasi konten. Misalnya, kami membantu mengidentifikasi pemeriksaan palsu, mendeteksi gambar sintetis dalam berita utama, dan audio yang dihasilkan ai-ai yang digunakan dalam penipuan atau upaya peniruan.
Ketika konten yang dihasilkan AI menjadi lebih umum, dan lebih meyakinkan, itu dipersenjatai untuk menyamar sebagai orang, menulis ulang peristiwa sejarah, atau memproduksi bukti visual. Tujuan kami adalah memberi para profesional alat yang mereka butuhkan untuk dengan cepat dan percaya diri menilai apakah sesuatu itu nyata atau palsu.
