Ketika jutaan pengguna — termasuk sejumlah besar anak muda — semakin beralih ke chatbot AI sebagai “konselor” dan orang kepercayaan lini pertama mereka, mpathic startup yang berbasis di Seattle mengambil tindakan untuk memastikan agen digital tersebut tidak memberikan nasihat berbahaya pada saat yang paling penting.
Perusahaan, yang didirikan pada tahun 2021 dalam upaya untuk membawa lebih banyak empati terhadap komunikasi korporat, pada hari Senin mengumumkan bahwa mereka berkembang untuk mendukung pengembang model dasar dan tim aplikasi yang didukung LLM.
Tujuannya adalah untuk membawa perangkat lunak mpathic ke lebih banyak pengembang AI dan mitra perusahaan karena AI menjadi lebih sebagai antarmuka untuk kesehatan mental dan dukungan medis.
“Kami pada dasarnya memproduksi kumpulan evaluasi atau kumpulan data pelatihan untuk membuat model lebih aman bagi pengguna yang rentan, seperti anak-anak atau orang dengan masalah kesehatan mental, orang-orang yang berada dalam krisis,” kata salah satu pendiri dan CEO mpathic Grin Lord, seorang psikolog bersertifikat dan peneliti NLP.
Startup ini memanfaatkan kerja kerasnya selama bertahun-tahun dalam uji klinis dan lingkungan rumah sakit, membantu tim AI menguji perilaku model sebelum diterapkan, mengevaluasi respons, dan memantau interaksi langsung dengan perlindungan yang dapat menandai, mengalihkan, atau melakukan intervensi saat diperlukan.
“Ini mirip dengan orang yang membuat data sintetis untuk visual AI,” kata Lord. “Tidak setiap hari seorang anak berlari di depan Waymo, namun kami dapat menyimulasikan 10.000 cara tersebut dengan data sintetis. Pada dasarnya itulah yang kami lakukan, namun dari sudut pandang psikologis dengan bahasa.”
Dalam salah satu keterlibatan awal, mpathic mengatakan program yang dipimpin oleh dokter membantu pembuat model memangkas respons yang tidak diinginkan atau berbahaya hingga lebih dari 70%.
Untuk mendorong ekspansinya, mpathic mengumpulkan tambahan $15 juta pada tahun 2025, dipimpin oleh Foundry VC. Perusahaan mengatakan langkah menuju keselamatan dasar menghasilkan pertumbuhan kuartal-ke-kuartal sebesar 5 kali lipat pada akhir tahun lalu.
Meskipun Mpathic mulai membuat perangkat lunak untuk menganalisis percakapan yang terjadi dalam pesan teks perusahaan, email, panggilan audio, dan banyak lagi, Mpathic telah mengembangkan model untuk situasi klinis berisiko tinggi sejak tahun 2021. Saat ini, skala infrastruktur “human-in-the-loop” perusahaan rintisan tersebut mencakup jaringan global yang terdiri dari ribuan pakar klinis berlisensi. Perusahaan ini mengirimkan ratusan lagi setiap minggunya untuk memenuhi permintaan.
“Perusahaan ini jauh berbeda dibandingkan beberapa kuartal yang lalu,” kata Lord.
Lord, finalis Startup CEO of the Year di GeekWire Awards 2023, menyebut dirinya sebagai “techno optimis” dan “realis” dalam hal AI, dan menambahkan bahwa ia memiliki “penerimaan radikal” terhadap kegunaan teknologi tersebut.
“Saya sama sekali tidak terkejut jika ada sesuatu yang tersedia 24/7, yang bertindak seperti seorang terapis, Anda akan berbicara dengannya dan menggunakannya. Dan itu lebih baik daripada tidak sama sekali,” katanya. “Saya pikir potensi teknologi ini untuk memberikan dampak positif sangat besar. Saya pikir kita bisa melatih manusia dan AI untuk mendengarkan secara akurat dan baik serta tidak menimbulkan bahaya.”
Tanpa menyebutkan nama perusahaan atau model tertentu, Mpathic mengonfirmasi bahwa pihaknya bekerja sama dengan pengembang model AI dasar terkemuka yang melayani puluhan juta pengguna. Startup ini juga memiliki mitra klinis termasuk Panasonic WELL, Seattle Children’s Hospital, Transcend dan lain-lain.
Mpathic, yang mempekerjakan sekitar 34 orang dan “mempekerjakan dengan sangat cepat,” menurut Lord, juga telah mengembangkan tim kepemimpinannya dengan penambahan chief marketing officer Rebekah Bastian (Zillow, OwnTrail, Glowforge); dan kepala petugas sains Alison Cerezo (anggota penasihat AI Asosiasi Psikologi Amerika).
