Pusat Inovasi Data baru-baru ini berbicara dengan Ksenia Iliuk, salah satu pendiri AyoDatasebuah perusahaan yang berbasis di Ukraina yang mengembangkan pembelajaran mesin untuk melawan misinformasi. Iliuk menjelaskan bahwa model LetsData mendeteksi kampanye bot terkoordinasi di platform media sosial dengan memindai jutaan postingan setiap hari, mengidentifikasi aktivitas yang tidak biasa, dan memberikan laporan spesifik situasi dan rekomendasi respons kepada perusahaan.
David Kertai: Apa yang mengilhami penciptaan LetsData?
Ksenia Iliuk: Salah satu pendiri saya Andriy Kusy dan saya membuat LetsData setelah mengalami langsung keterbatasan dalam melacak operasi informasi. Kami menemukan bahwa alat yang ada seperti pelacak media sosial berbasis kata kunci dan sistem pemantauan merek bereaksi terlalu lambat dan hanya menandai masalah setelah kampanye misinformasi sudah menyebar. Alat-alat ini berjuang untuk mengimbangi taktik jaringan bot terkoordinasi yang terus berkembang. Kami ingin membangun solusi yang lebih proaktif, solusi yang mengantisipasi dan mendeteksi manipulasi sejak dini, dan memberikan rekomendasi khusus pengguna sebelum hal tersebut benar-benar menimbulkan kerugian, terutama karena kampanye bot semakin sering dan canggih.
Pada tahun 2021 dan 2022, saya dan Andriy mulai bereksperimen dengan model pembelajaran mesin untuk mengenali sinyal awal aktivitas online yang terkoordinasi, seperti lonjakan mendadak dalam pembuatan akun, perilaku postingan yang tersinkronisasi, dan pergeseran pengiriman pesan antar platform. Eksperimen tersebut pada akhirnya mengarah pada penciptaan LetsData.
Waktu: Bagaimana cara kerja sistem pembelajaran mesin LetsData untuk mendeteksi pola kampanye misinformasi dan pergeseran narasi?
471 Kami menggunakan beberapa model pembelajaran mesin yang dilatih berdasarkan contoh kampanye bot di dunia nyata. Model-model ini memindai jutaan postingan setiap hari di berbagai platform dan bahasa, mencari aktivitas yang tidak biasa, seperti penyebaran cepat hashtag identik di akun-akun yang tidak terkait, berbagi tautan yang sama secara berulang-ulang oleh profil yang baru dibuat, atau pola komentar terkoordinasi yang mendorong narasi tertentu. Misalnya, jika 50 akun Facebook baru muncul secara bersamaan dari alamat IP yang sama atau memiliki ciri profil yang serupa, ini merupakan anomali yang bukan merupakan perilaku pengguna pada umumnya.
Ketika sistem kami mendeteksi pola tersebut, sistem kami secara otomatis menghasilkan peringatan dan laporan untuk klien, seperti pemerintah, bank, dan perusahaan merek konsumen. Setiap laporan mencakup rekomendasi multi-langkah untuk melawan kampanye misinformasi, seperti menandai konten palsu, mengeluarkan klarifikasi publik, dan melibatkan audiens yang terkena dampak, sehingga memungkinkan organisasi untuk merespons dengan cepat dan efektif. Untuk memastikan akurasi, kami mempertahankan pendekatan human-in-the-loop: para ahli memandu pelatihan model, memvalidasi keluaran, dan mengonfirmasi bahwa peringatan relevan dan dapat ditindaklanjuti. Kombinasi otomatisasi dan pengawasan manusia memungkinkan kami mendeteksi kampanye yang muncul secara dini dan andal.
Waktu: Tantangan apa yang Anda hadapi dalam menghadapi ancaman yang terus berkembang?
471 Tantangan terbesar saat ini adalah semakin canggihnya pelaku kejahatan yang memanfaatkan alat AI. Di masa lalu, jaringan bot lebih mudah dideteksi karena pesannya berulang, formatnya buruk, atau terdapat kesalahan tata bahasa. Kampanye-kampanye ini juga memerlukan masukan manusia dalam jumlah besar, sehingga membatasi skalanya.
Sebaliknya, saat ini, alat AI memungkinkan bot mempertahankan identitas yang konsisten, terlibat dalam percakapan yang realistis, dan melakukan penipuan dengan pengawasan manusia yang minimal. Hal ini memungkinkan pelaku kejahatan untuk menggabungkan skala dan kualitas, menyebarkan bot dalam jumlah besar untuk kampanye misinformasi atau penipuan yang jauh lebih meyakinkan dan lebih sulit dideteksi.
Waktu: Apa peluang terbesar dari penggunaan layanan Anda untuk mendeteksi misinformasi?
471 Salah satu manfaat utama penggunaan LetsData adalah lebih hemat biaya untuk memantau kampanye misinformasi berskala besar dibandingkan mengandalkan metode deteksi manual yang terpisah.
Di masa lalu, menyebarkan informasi yang salah adalah hal yang murah bagi pelaku kejahatan, sementara para pembela HAM menghadapi biaya yang besar karena mereka memerlukan modul deteksi khusus yang terpisah untuk setiap platform atau skenario. Saat ini, kami dapat melatih model pembelajaran mesin inti dan dengan cepat mengadaptasinya ke berbagai konteks, sehingga memungkinkan kami merespons kampanye yang muncul tanpa mengorbankan akurasi. Dengan menggunakan kembali dan menyempurnakan satu model di beberapa kasus penggunaan, kami telah mengubah aspek ekonomi pendeteksian menjadi lebih menguntungkan kami.
Waktu: Bisakah Anda membagikan kasus penggunaan di dunia nyata?
471 Salah satu kasus penting di dunia nyata adalah membantu perusahaan AS melawan kampanye peniruan identitas berskala besar menjelang peluncuran produk AI. Kampanye bot ini berasal dari Vietnam, di mana individu membuat iklan yang dibuat oleh AI yang meniru perusahaan tersebut, mengklaim bahwa produk perusahaan tersebut telah diluncurkan, dan mengarahkan pengguna ke chatbot palsu yang dirancang untuk mendistribusikan malware. Sistem kami mendeteksi ancaman sejak dini dan memberikan langkah-langkah khusus yang memungkinkan perusahaan mengambil tindakan cepat dan terinformasi, menghentikan kampanye sebelum peluncuran produk resminya, serta melindungi pengguna dan reputasinya.
