Jika Anda memutar gambar struktur molekul, manusia dapat mengetahui gambar yang diputar masih merupakan molekul yang sama, tetapi model pembelajaran mesin mungkin berpikir itu adalah titik data baru. Dalam bahasa ilmu komputer, molekul ini “simetris,” yang berarti struktur mendasar molekul itu tetap sama jika mengalami transformasi tertentu, seperti rotasi.
Jika model penemuan obat tidak memahami simetri, itu bisa membuat prediksi yang tidak akurat tentang sifat molekuler. Namun terlepas dari beberapa keberhasilan empiris, tidak jelas apakah ada metode yang efisien secara komputasi untuk melatih model yang baik yang dijamin untuk menghormati simetri.
Sebuah studi baru oleh peneliti MIT menjawab pertanyaan ini, dan menunjukkan metode pertama untuk pembelajaran mesin dengan simetri yang terbukti efisien dalam hal jumlah perhitungan dan data yang diperlukan.
Hasil ini mengklarifikasi pertanyaan mendasar, dan mereka dapat membantu para peneliti dalam pengembangan model pembelajaran mesin yang lebih kuat yang dirancang untuk menangani simetri. Model -model semacam itu akan berguna dalam berbagai aplikasi, dari menemukan bahan baru hingga mengidentifikasi anomali astronomi hingga mengungkap pola iklim yang kompleks.
“Simetri ini penting karena mereka adalah semacam informasi yang diberitahukan oleh Nature tentang data, dan kami harus memperhitungkannya dalam model pembelajaran mesin kami. Kami sekarang telah menunjukkan bahwa dimungkinkan untuk melakukan pembelajaran mesin dengan data simetris dengan cara yang efisien,” kata Behrooz Tahmasebi, seorang mahasiswa graduat mit dan co-lead penelitian ini.
Dia bergabung di atas kertas oleh penulis co-lead dan mahasiswa pascasarjana MIT Ashkan Soleymani; Stefanie Jegelka, seorang profesor Teknik Listrik dan Ilmu Komputer (EECS) dan anggota Institute for Data, Systems, and Society (IDSS) dan Laboratorium Ilmu Komputer dan Kecerdasan Buatan (CSAIL); dan penulis senior Patrick Jaillet, profesor Dugald C. Jackson dari Teknik Listrik dan Ilmu Komputer dan penyelidik utama di Laboratorium untuk Sistem Informasi dan Keputusan (LIDS). Penelitian ini baru -baru ini dipresentasikan pada Konferensi Internasional tentang Pembelajaran Mesin.
Mempelajari simetri
Data simetris muncul di banyak domain, terutama ilmu alam dan fisika. Model yang mengenali simetri dapat mengidentifikasi objek, seperti mobil, di mana pun objek itu ditempatkan dalam suatu gambar, misalnya.
Kecuali jika model pembelajaran mesin dirancang untuk menangani simetri, itu bisa kurang akurat dan rentan terhadap kegagalan ketika dihadapkan dengan data simetris baru dalam situasi dunia nyata. Di sisi lain, model yang memanfaatkan simetri bisa lebih cepat dan membutuhkan lebih sedikit data untuk pelatihan.
Tetapi melatih model untuk memproses data simetris bukanlah tugas yang mudah.
Salah satu pendekatan umum disebut augmentasi data, di mana para peneliti mengubah setiap titik data simetris menjadi beberapa titik data untuk membantu model menggeneralisasi lebih baik ke data baru. Misalnya, seseorang dapat memutar struktur molekuler berkali -kali untuk menghasilkan data pelatihan baru, tetapi jika para peneliti ingin model tersebut dijamin untuk menghormati simetri, ini dapat menjadi penghalang secara komputasi.
Pendekatan alternatif adalah mengkodekan simetri ke dalam arsitektur model. Contoh terkenal dari ini adalah grafik Neural Network (GNN), yang secara inheren menangani data simetris karena bagaimana itu dirancang.
“Grafik jaringan saraf cepat dan efisien, dan mereka mengurus simetri dengan cukup baik, tetapi tidak ada yang benar -benar tahu apa yang dipelajari oleh model -model ini atau mengapa mereka bekerja. Memahami GNNs adalah motivasi utama dari pekerjaan kami, jadi kami mulai dengan evaluasi teoritis tentang apa yang terjadi ketika data simetris,” kata TahmaseBi.
Mereka mengeksplorasi tradeoff statistik-komputasi dalam pembelajaran mesin dengan data simetris. Pengorbanan ini berarti metode yang membutuhkan lebih sedikit data bisa lebih mahal secara komputasi, sehingga para peneliti perlu menemukan keseimbangan yang tepat.
Membangun evaluasi teoritis ini, para peneliti merancang algoritma yang efisien untuk pembelajaran mesin dengan data simetris.
Kombinasi matematika
Untuk melakukan ini, mereka meminjam ide -ide dari aljabar untuk menyusut dan menyederhanakan masalah. Kemudian, mereka merumuskan kembali masalah menggunakan ide -ide dari geometri yang secara efektif menangkap simetri.
Akhirnya, mereka menggabungkan aljabar dan geometri menjadi masalah optimasi yang dapat diselesaikan secara efisien, menghasilkan algoritma baru mereka.
“Sebagian besar teori dan aplikasi berfokus pada aljabar atau geometri. Di sini kita hanya menggabungkannya,” kata Tahmasebi.
Algoritma ini membutuhkan lebih sedikit sampel data untuk pelatihan daripada pendekatan klasik, yang akan meningkatkan akurasi model dan kemampuan untuk beradaptasi dengan aplikasi baru.
Dengan membuktikan bahwa para ilmuwan dapat mengembangkan algoritma yang efisien untuk pembelajaran mesin dengan simetri, dan menunjukkan bagaimana hal itu dapat dilakukan, hasil ini dapat mengarah pada pengembangan arsitektur jaringan saraf baru yang bisa lebih akurat dan kurang sumber daya daripada model saat ini.
Para ilmuwan juga dapat menggunakan analisis ini sebagai titik awal untuk memeriksa cara kerja GNNs, dan bagaimana operasi mereka berbeda dari algoritma yang dikembangkan oleh para peneliti MIT.
“Begitu kita tahu itu lebih baik, kita dapat merancang arsitektur jaringan saraf yang lebih dapat ditafsirkan, lebih kuat, dan lebih efisien,” tambah Soleymani.
Penelitian ini didanai, sebagian, oleh National Research Foundation of Singapura, Laboratorium Nasional DSO Singapura, Kantor Penelitian Angkatan Laut AS, Yayasan Sains Nasional AS, dan profesor Alexander von Humboldt.
