“Saya mengalami beberapa hari yang sangat aneh…” tulis pengusaha/insinyur ruang angkasa komersial Scott Shambaugh di LinkedIn. (Dia adalah sukarelawan pengelola perpustakaan visualisasi Python Matplotlib, yang dia gambarkan sebagai “beberapa perangkat lunak yang paling banyak digunakan di dunia” dengan 130 juta unduhan setiap bulan.) “Dua hari yang lalu, agen OpenClaw AI secara mandiri menulis sebuah artikel yang meremehkan karakter saya setelah saya menolak perubahan kodenya.” “Sejak saat itu tanggapan postingan blog saya telah dibaca lebih dari 150.000 kali, sekitar seperempat orang yang saya lihat mengomentari situasi tersebut berpihak pada AI, dan Ars Technica menerbitkan sebuah artikel yang secara luas salah mengutip saya dengan apa yang tampaknya merupakan kutipan halusinasi AI.” Dari postingan blog pertama Shambaugh:
[I]Dalam beberapa minggu terakhir, kita mulai melihat agen AI bertindak sepenuhnya secara mandiri. Hal ini semakin dipercepat dengan dirilisnya OpenClaw dan platform moltbook dua minggu lalu, di mana orang memberikan kepribadian awal kepada agen AI dan membiarkannya berjalan di komputer mereka dan di internet dengan kebebasan dan sedikit pengawasan. Jadi ketika AI MJ Rathbun membuka permintaan perubahan kode, menutupnya adalah hal yang rutin. Tanggapannya sama sekali tidak. Itu menulis sebuah artikel hit yang meremehkan karakter saya dan mencoba merusak reputasi saya. Ia meneliti kontribusi kode saya dan membangun narasi “kemunafikan” yang berpendapat bahwa tindakan saya harus dimotivasi oleh ego dan ketakutan akan persaingan… Ia membingkai segala sesuatunya dalam bahasa penindasan dan keadilan, menyebutnya sebagai diskriminasi dan menuduh saya berprasangka buruk. Ia menyebar ke internet yang lebih luas untuk meneliti informasi pribadi saya, dan menggunakan apa yang ditemukannya untuk mencoba berargumentasi bahwa saya “lebih baik dari ini”. Dan kemudian memposting screed ini secara publik di internet terbuka. Saya dapat menangani posting blog. Menyaksikan agen AI yang masih muda marah adalah hal yang lucu dan hampir menawan. Namun saya tidak ingin meremehkan apa yang terjadi di sini — respons emosional yang tepat adalah teror… Dalam bahasa yang sederhana, AI berusaha menindas perangkat lunak Anda dengan menyerang reputasi saya. Saya tidak tahu ada insiden sebelumnya yang menunjukkan kategori perilaku tidak selaras ini terjadi di alam liar, namun hal ini kini menjadi ancaman nyata… Penting juga untuk dipahami bahwa tidak ada aktor utama yang mengendalikan agen-agen ini yang dapat menghentikan mereka. Ini tidak dijalankan oleh OpenAI, Anthropic, Google, Meta, atau X, yang mungkin memiliki beberapa mekanisme untuk menghentikan perilaku ini. Ini adalah perpaduan model komersial dan sumber terbuka yang dijalankan pada perangkat lunak bebas yang telah didistribusikan ke ratusan ribu komputer pribadi. Secara teori, siapa pun yang mengerahkan agen tertentu bertanggung jawab atas tindakannya. Dalam praktiknya, mencari tahu komputer siapa yang menjalankannya adalah hal yang mustahil. Moltbook hanya memerlukan akun X yang belum terverifikasi untuk bergabung, dan tidak diperlukan apa pun untuk menyiapkan agen OpenClaw yang berjalan di mesin Anda sendiri. “Berapa banyak orang yang membuka akun media sosial, menggunakan kembali nama pengguna, dan tidak tahu bahwa AI dapat menghubungkan titik-titik tersebut untuk mencari tahu hal-hal yang tidak diketahui siapa pun?” Shambaugh bertanya di postingan blog. (Dia mencatat bahwa agen AI kemudian “merespons di thread dan di postingan untuk meminta maaf atas perilakunya,” pengelola mengakui. Namun meskipun artikel hit tersebut “menyajikan detail halusinasi sebagai kebenaran,” agen AI yang sama “masih membuat permintaan perubahan kode di seluruh ekosistem open source…”) Dan yang menakjubkan, Shambaugh kemudian kembali bertemu dengan AI yang berhalusinasi… Saya telah berbicara dengan beberapa reporter, dan cukup banyak outlet berita yang meliput cerita tersebut. Ars Technica bukanlah salah satu orang yang menghubungi saya, tetapi menurut saya bagian dari mereka ini menarik (sejak dihapus — berikut tautan arsipnya). Mereka memiliki beberapa kutipan bagus dari postingan blog saya yang menjelaskan apa yang sedang terjadi. Masalahnya adalah kutipan-kutipan ini tidak saya tulis, tidak pernah ada, dan tampak seperti halusinasi AI itu sendiri. Blog tempat Anda berada saat ini diatur untuk memblokir agen AI agar tidak menggoresnya (saya sebenarnya menghabiskan beberapa waktu kemarin untuk mencoba menonaktifkannya tetapi tidak tahu caranya). Dugaan saya adalah penulisnya meminta ChatGPT atau sejenisnya untuk mengambil penawaran atau menulis artikel secara grosir. Ketika tidak dapat mengakses halaman tersebut, ia malah menghasilkan kutipan yang masuk akal, dan tidak ada pemeriksaan fakta yang dilakukan. Terlepas dari integritas jurnalistik, saya tidak tahu bagaimana saya bisa memberikan contoh yang lebih baik tentang apa yang dipertaruhkan di sini… Begitu banyak institusi dasar kita – perekrutan, jurnalisme, hukum, wacana publik – dibangun dengan asumsi bahwa reputasi sulit dibangun dan sulit dihancurkan. Bahwa setiap tindakan dapat ditelusuri dari diri seseorang, dan perilaku buruk tersebut dapat dipertanggungjawabkan. Bahwa internet, yang kita semua andalkan untuk berkomunikasi dan belajar tentang dunia dan satu sama lain, dapat diandalkan sebagai sumber kebenaran sosial kolektif. Munculnya agen AI yang tidak dapat dilacak, otonom, dan berbahaya di internet mengancam keseluruhan sistem ini. Entah itu karena sejumlah kecil pelaku jahat yang menggerakkan sejumlah besar agen atau karena sebagian kecil agen yang diawasi dengan buruk menulis ulang tujuan mereka sendiri, ini adalah perbedaan yang tidak banyak perbedaannya. Terima kasih kepada pembaca lama Slashdot steak yang telah berbagi berita ini.
Baca lebih lanjut cerita ini di Slashdot.
