Sistem kecerdasan buatan seperti chatgpt memberikan jawaban yang masuk akal untuk pertanyaan apa pun yang mungkin Anda tanyakan. Tetapi mereka tidak selalu mengungkapkan kesenjangan dalam pengetahuan atau area mereka di mana mereka tidak pasti. Masalah itu dapat memiliki konsekuensi besar karena sistem AI semakin digunakan untuk melakukan hal -hal seperti mengembangkan obat, mensintesis informasi, dan mengendarai mobil otonom.
Sekarang, MIT Spinout Themis AI membantu mengukur ketidakpastian model dan mengoreksi output sebelum menyebabkan masalah yang lebih besar. Platform CAPSA perusahaan dapat bekerja dengan model pembelajaran mesin apa pun untuk mendeteksi dan memperbaiki output yang tidak dapat diandalkan dalam hitungan detik. Ini bekerja dengan memodifikasi model AI untuk memungkinkan mereka mendeteksi pola dalam pemrosesan data mereka yang menunjukkan ambiguitas, ketidaklengkapan, atau bias.
“Idenya adalah untuk mengambil model, membungkusnya dalam capsa, mengidentifikasi ketidakpastian dan mode kegagalan model, dan kemudian meningkatkan model,” kata co-founder AI dan profesor MIT Daniela Rus, yang juga merupakan direktur ilmu komputer MIT dan laboratorium intelijen buatan (CSAIL). “Kami senang menawarkan solusi yang dapat meningkatkan model dan menawarkan jaminan bahwa model ini bekerja dengan benar.”
Rus mendirikan Themis AI pada tahun 2021 dengan Alexander Amini ’17, SM ’18, PhD ’22 dan Elaheh Ahmadi ’20, Meng ’21, dua mantan afiliasi penelitian di labnya. Sejak itu, mereka telah membantu perusahaan telekomunikasi dengan perencanaan dan otomatisasi jaringan, membantu perusahaan minyak dan gas menggunakan AI untuk memahami citra seismik, dan menerbitkan makalah tentang pengembangan chatbot yang lebih andal dan dapat dipercaya.
“Kami ingin mengaktifkan AI dalam aplikasi berisiko tertinggi dari setiap industri,” kata Amini. “Kita semua telah melihat contoh -contoh AI berhalusinasi atau membuat kesalahan. Karena AI dikerahkan secara lebih luas, kesalahan -kesalahan itu dapat menyebabkan konsekuensi yang menghancurkan. THEMA ITU memungkinkan bahwa AI mana pun dapat memperkirakan dan memprediksi kegagalannya sendiri, sebelum terjadi.”
Membantu model tahu apa yang tidak mereka ketahui
Rus ‘Lab telah meneliti ketidakpastian model selama bertahun -tahun. Pada tahun 2018, ia menerima dana dari Toyota untuk mempelajari keandalan solusi mengemudi otonom berbasis pembelajaran mesin.
“Itu adalah konteks yang sangat penting di mana pemahaman keandalan model sangat penting,” kata Rus.
Dalam karya terpisah, RUS, Amini, dan kolaborator mereka membangun algoritma yang dapat mendeteksi bias rasial dan gender dalam sistem pengenalan wajah dan secara otomatis membobot data pelatihan model, menunjukkan bias yang dihilangkan. Algoritma ini bekerja dengan mengidentifikasi bagian -bagian yang tidak representatif dari data pelatihan yang mendasarinya dan menghasilkan sampel data yang sama dan serupa untuk menyeimbangkannya.
Pada tahun 2021, pendiri akhirnya menunjukkan pendekatan yang sama dapat digunakan untuk membantu perusahaan farmasi menggunakan model AI untuk memprediksi sifat-sifat kandidat obat. Mereka mendirikan Themis AI akhir tahun itu.
“Menimbun penemuan obat berpotensi menghemat banyak uang,” kata Rus. “Itu adalah kasus penggunaan yang membuat kami menyadari betapa kuatnya alat ini.”
Hari ini Themis AI bekerja dengan perusahaan di berbagai industri, dan banyak dari perusahaan -perusahaan itu membangun model bahasa besar. Dengan menggunakan CAPSA, model ini dapat mengukur ketidakpastian mereka sendiri untuk setiap output.
“Banyak perusahaan tertarik untuk menggunakan LLMS yang didasarkan pada data mereka, tetapi mereka khawatir tentang keandalan,” kata Stewart Jamieson SM ’20, PhD ’24, kepala teknologi THEMIS AI. “Kami membantu LLMS melaporkan diri dan ketidakpastian mereka, yang memungkinkan pertanyaan yang lebih andal menjawab dan menandai output yang tidak dapat diandalkan.”
Themis AI juga dalam diskusi dengan perusahaan semikonduktor yang membangun solusi AI pada chip mereka yang dapat bekerja di luar lingkungan cloud.
“Biasanya model -model kecil yang bekerja pada ponsel atau sistem tertanam ini tidak terlalu akurat dibandingkan dengan apa yang dapat Anda jalankan di server, tetapi kami bisa mendapatkan yang terbaik dari kedua dunia: latensi rendah, komputasi tepi yang efisien tanpa mengorbankan kualitas,” Jamieson menjelaskan. “Kami melihat masa depan di mana perangkat Edge melakukan sebagian besar pekerjaan, tetapi setiap kali mereka tidak yakin dengan output mereka, mereka dapat meneruskan tugas -tugas itu ke server pusat.”
Perusahaan farmasi juga dapat menggunakan CAPSA untuk meningkatkan model AI yang digunakan untuk mengidentifikasi kandidat obat dan memprediksi kinerja mereka dalam uji klinis.
“Prediksi dan output dari model -model ini sangat kompleks dan sulit ditafsirkan – para ahli menghabiskan banyak waktu dan upaya mencoba untuk memahami mereka,” komentar Amini. “Capsa dapat memberikan wawasan langsung dari gerbang untuk memahami jika prediksi didukung oleh bukti dalam set pelatihan atau hanya spekulasi tanpa banyak landasan. Itu dapat mempercepat identifikasi prediksi terkuat, dan kami pikir itu memiliki potensi besar untuk kebaikan masyarakat.”
Penelitian untuk Dampak
Tim THEIS AI percaya bahwa perusahaan ini memiliki posisi yang baik untuk meningkatkan teknologi AI yang terus berkembang secara konstan. Misalnya, perusahaan sedang mengeksplorasi kemampuan Capsa untuk meningkatkan akurasi dalam teknik AI yang dikenal sebagai penalaran rantai-dipikirkan, di mana LLMS menjelaskan langkah-langkah yang mereka ambil untuk mendapatkan jawaban.
“Kami telah melihat tanda-tanda Capsa dapat membantu memandu proses penalaran untuk mengidentifikasi rantai penalaran tertinggi,” kata Jamieson. “Kami pikir itu memiliki implikasi besar dalam hal meningkatkan pengalaman LLM, mengurangi latensi, dan mengurangi persyaratan perhitungan. Ini adalah peluang yang sangat berdampak tinggi bagi kami.”
Bagi Rus, yang telah ikut mendirikan beberapa perusahaan sejak datang ke MIT, Themis AI adalah kesempatan untuk memastikan penelitian MIT-nya berdampak.
“Murid -murid saya dan saya menjadi semakin bersemangat untuk melakukan langkah ekstra untuk membuat pekerjaan kami relevan bagi dunia,” kata Rus. “AI memiliki potensi luar biasa untuk mengubah industri, tetapi AI juga menimbulkan kekhawatiran. Yang menggairahkan saya adalah kesempatan untuk membantu mengembangkan solusi teknis yang mengatasi tantangan ini dan juga membangun kepercayaan dan pemahaman antara orang -orang dan teknologi yang menjadi bagian dari kehidupan sehari -hari mereka.”
