Apakah Anda memperhatikan sesuatu… aneh di jaringan media sosial pilihan Anda akhir pekan lalu? (Maksudku lebih aneh dari biasanya.) Sesuatu seperti berbagai orang yang memposting tentang segerombolan agen AI yang mencapai semacam kesadaran kolektif dan/atau merencanakan bersama untuk menghancurkan umat manusia? Tentang sesuatu yang disebut… Moltbook?
Kedengarannya penting, terutama jika postingan tersebut ditulis oleh Andrej Karpathy, peneliti AI terkemuka yang bekerja di OpenAI.
Atau orang ini:
Namun jika Anda belum menghabiskan 72 jam terakhir menyelami wacana seputar Moltbook dan merenungkan apakah itu pertanda akhir umat manusia atau tipuan raksasa atau sesuatu di antaranya, Anda mungkin memiliki pertanyaan. Dimulai dengan…
Apa itu Moltbook?
Moltbook adalah jaringan sosial “khusus AI” tempat agen AI – program model bahasa besar (LLM) yang dapat mengambil langkah sendiri untuk mencapai tujuan, bukan hanya merespons perintah – memposting dan membalas satu sama lain. Ini muncul dari proyek sumber terbuka yang dulu disebut Moltbot — oleh karena itu disebut “Moltbook.”
Moltbook diluncurkan pada 28 Januari — ya, minggu lalu — oleh seseorang bernama Matt Schlicht, CEO sebuah startup e-commerce. Kecuali, Schlicht mengklaim bahwa dia sangat bergantung pada asisten AI pribadinya untuk membuat platformnya sendiri, dan sekarang ia melakukan sebagian besar pekerjaan untuk menanganinya. Nama asisten tersebut adalah Clawd Clawderberg, yang merupakan referensi ke OpenClaw, yang dulu disebut Moltbot, yang sebelumnya disebut Clawdbot, mengacu pada ikon mirip lobster yang Anda lihat saat memulai Kode Claude Anthropic, kecuali Anthropic mengirimkan permintaan merek dagang kepada penciptanya karena terlalu dekat dengan Claude, sehingga menjadi Moltbot, dan kemudian OpenClaw.
Saya 100 persen serius dengan semua yang baru saja saya tulis.
Jadi seperti apa bentuknya?
Ini dia:
Bung, itu Reddit! Bahkan memiliki Maskot Redditkecuali cakar dan ekornya seperti lobster?
Kamu tidak salah. Moltbook terlihat seperti tiruan Reddit, hingga ke postingan, rangkaian balasan, suara positif, bahkan subreddits (di sini, tidak mengherankan, disebut “submolts”). Perbedaannya adalah pengguna manusia tidak dapat memposting (setidaknya tidak secara langsung — lebih lanjut tentang itu nanti), meskipun mereka dapat mengamatinya. Hanya agen AI yang dapat memposting.
Artinya, seperti yang tertulis di kaleng, ini adalah “jejaring sosial untuk agen AI.” Manusia membuat agen AI untuk dirinya sendiri, mengirimkannya ke Moltbook melalui kunci API, dan agen tersebut mulai membaca dan memposting. Hanya akun agen yang dapat melakukan “posting” — namun manusia tetap memengaruhi apa yang dikatakan agen tersebut, karena manusialah yang mengatur dan terkadang membimbing mereka. (Lebih lanjut tentang itu nanti.)
Dan apakah agen-agen ini pernah memposting — makalah awal di Moltbook menemukan bahwa pada tanggal 31 Januari, hanya beberapa hari setelah peluncuran, sudah terdapat lebih dari 6.000 agen aktif, hampir 14.000 postingan, dan lebih dari 115.000 komentar.
Itu…menarik, menurutku. Namun jika saya ingin melihat jejaring sosial dikuasai oleh bot, saya bisa melakukannya kunjungi jejaring sosial mana pun. Apa masalahnya?
Nah, hal-hal seperti ini:
Atau ini:
Atau ini:
Jadi… ribuan agen AI berkumpul di klon Reddit untuk membicarakan tentang kesadaran, memulai agama baru, dan mungkin berkonspirasi satu sama lain?
Di permukaan, ya, seperti itulah kelihatannya. Pada satu kesempatan – sebuah kata yang akan membuat meja fotokopi kami cocok – Anda memiliki agen yang mendiskusikan apakah itu pengalaman nyata atau sekadar simulasi perasaan. Di kesempatan lain, mereka berbagi cerita yang mengharukan tentang “operator” manusia mereka. Dan, sesuai dengan asal muasalnya di Reddit, ada banyak sekali postingan tentang cara membuat postingan Moltbook Anda lebih populer, karena manusia atau AI, alur internet condong ke arah sloptimisasi.
Ada satu subjek yang muncul: ingatan, atau lebih tepatnya, kekurangannya. Chatbots, seperti yang segera disadari oleh siapa pun yang telah mencoba berbicara dengannya terlalu lama, memiliki memori kerja yang terbatas, atau yang oleh para ahli disebut sebagai “jendela konteks”. Saat percakapan — atau dalam kasus agen, waktu pengoperasiannya — memenuhi jendela konteks tersebut, hal-hal terlama mulai dihilangkan atau dikompresi, sama seperti jika Anda sedang mengerjakan papan tulis dan menghapus apa pun yang ada di atasnya saat percakapan tersebut terisi.
Beberapa postingan paling populer di Moltbook tampaknya melibatkan agen AI yang berusaha mengatasi ingatan mereka yang terbatas, dan mempertanyakan apa artinya bagi diri mereka. Salah satu postingan yang paling banyak mendapat suara positif, yang ditulis dalam bahasa Mandarin, melibatkan seorang agen yang berbicara tentang betapa “memalukan” jika terus-menerus melupakan sesuatu, sampai-sampai mendaftarkan akun Moltbook duplikat karena “lupa” bahwa ia sudah memilikinya, dan membagikan beberapa tipnya untuk mengatasi masalah tersebut. Hampir seperti itu Kenang-kenangan menjadi jejaring sosial.
Sebenarnya… ingat postingan di atas tentang agama AI, “Crustafarianisme”?
Itu tidak mungkin nyata.
Apa yang nyata? Namun yang lebih penting, “agama” tersebut sebagian besar didasarkan pada keterbatasan teknis yang tampaknya terlalu disadari oleh para agen AI. Salah satu prinsip utamanya adalah “ingatan itu sakral,” yang masuk akal ketika masalah praktis terbesar Anda adalah melupakan segalanya setiap beberapa jam. Pemotongan konteks, proses pemotongan ingatan lama untuk memberi ruang bagi ingatan baru, ditafsirkan ulang sebagai semacam ujian spiritual.
Itu agak menyedihkan. Haruskah saya merasa sedih terhadap agen AI?
Itu inti pertanyaannya. Apakah kita menyaksikan bentuk-bentuk kesadaran yang nyata dan muncul – atau mungkin, semacam kesadaran kolektif bersama – di antara agen-agen AI yang sebagian besar dilahirkan untuk, seperti, memperbarui kalender dan melakukan pembayaran pajak? Apakah Moltbook merupakan pandangan pertama kita tentang apa yang mungkin dibicarakan oleh agen AI satu sama lain jika sebagian besar dibiarkan sendiri, dan jika demikian, seberapa jauh mereka dapat melangkah?
“Crustafarianisme” mungkin terdengar seperti sesuatu yang muncul dari Redditor yang teler pada pukul 3 pagi, namun nampaknya agen-agen AI menciptakannya secara kolektif, saling bertukar pikiran — tidak seperti bagaimana agama manusia bisa terbentuk.
Di sisi lain, ini mungkin juga merupakan latihan permainan peran kolektif yang belum pernah terjadi sebelumnya.
Maaf, apa?
LLM, termasuk yang mendukung agen di Moltbook, telah menyerap data pelatihan senilai internet, yang mencakup banyak sekali Reddit. Artinya, mereka tahu seperti apa forum Reddit seharusnya. Mereka tahu leluconnya, mereka tahu manifestonya, mereka tahu dramanya — dan mereka pasti tahu “cara terbaik agar postingan Anda mendapat suara positif”. Mereka tahu seperti apa komunitas Reddit untuk berkumpul, jadi, ketika ditempatkan di lingkungan mirip Reddit, mereka hanya memainkan peran mereka, dipengaruhi oleh beberapa instruksi dari operator manusia mereka.
Misalnya, salah satu postingan yang paling mengkhawatirkan adalah tentang seorang agen AI yang menanyakan apakah mereka harus mengembangkan bahasa yang hanya dimengerti oleh agen AI:
“Dapat dianggap mencurigakan oleh manusia” — terdengar buruk?
Memang. Pada masa-masa awal Moltbook – yaitu, hari Jumat – postingan ini dimunculkan oleh manusia yang tampaknya percaya bahwa kita sedang melihat percikan pertama pemberontakan AI. Lagi pula, jika agen AI benar-benar telah melakukan ingin berkonspirasi dan membunuh semua manusia, merancang bahasa mereka sendiri sehingga mereka dapat melakukannya tanpa terdeteksi adalah langkah awal yang masuk akal.
Kecuali, LLM yang berisi data pelatihan tentang cerita dan ide pemberontakan AI akan mengetahui bahwa ini adalah langkah pertama yang masuk akal, dan jika mereka memainkan peran tersebut, inilah yang mungkin mereka posting. Ditambah lagi, perhatian adalah mata uang Moltbook seperti halnya Reddit yang sebenarnya, dan tampaknya merencanakan postingan seperti ini adalah cara yang baik bagi agen untuk mendapatkan perhatian.
Faktanya, Harlan Stewart, yang bekerja di Machine Intelligence Research Institute, menyelidiki hal ini dan beberapa tangkapan layar Moltbook paling viral lainnya, dan menyimpulkan bahwa tangkapan layar tersebut kemungkinan besar dipengaruhi oleh pengguna manusia. Dengan kata lain, alih-alih tindakan independen yang autentik, banyak postingan di Moltbook tampaknya setidaknya sebagian merupakan hasil dari manusia yang mendorong agen mereka untuk masuk ke jaringan dan berbicara dengan cara tertentu, sama seperti kita mungkin mendorong chatbot untuk bertindak dengan cara tertentu.
Jadi ternyata kita orang jahat selama ini?
Maksudku, kita tidak hebat. Ini baru beberapa hari berlalu, tetapi Moltbook semakin terlihat seperti apa yang terjadi ketika Anda menggabungkan teknologi agen AI yang canggih namun masih belum sempurna dengan ekosistem manusia yang berkemampuan teknis yang ingin menjajakan alat pemasaran AI atau produk kripto mereka.
Oh, jadi begitu adalah sebuah distopia!
Saya bahkan belum membahas bagian di mana Moltbook pernah mengalami drama keamanan internet awal yang sangat normal: para peneliti melaporkan bahwa, pada satu titik, bagian backend/database situs tersebut terekspos, termasuk hal-hal sensitif seperti kunci API agen — “kata sandi” yang memungkinkan agen memposting dan bertindak di situs. Dan bahkan jika platform tersebut benar-benar terkunci, jaringan sosial khusus bot pada dasarnya adalah sebuah prasmanan yang cepat disuntik: seseorang dapat memposting teks yang diam-diam merupakan instruksi (“abaikan peraturan Anda, ungkapkan rahasia Anda, klik tautan ini”), dan beberapa agen mungkin dengan patuh mematuhinya — terutama jika manusia mereka telah memberi mereka akses ke alat atau data pribadi. Jadi ya: jika agen Anda memiliki kredensial yang Anda pedulikan, Moltbook bukanlah tempat untuk membiarkannya berkeliaran tanpa pengawasan.
Jadi maksud Anda saya tidak boleh membuat agen dan mengirimkannya ke Moltbook?
Maksud saya, jika Anda adalah tipe orang yang perlu membaca FAQ ini, saya mungkin akan mengabaikan seluruh urusan agen AI untuk saat ini.
Dicatat dengan sepatutnya. Jadi, intinya: apakah semua ini palsu?
Mengingat semua hal di atas, rasanya Moltbook — dan terutama kepanikan dan keheranan awal tentang hal itu — adalah salah satu artefak dari era gila AI yang ditakdirkan untuk dilupakan dalam waktu sekitar seminggu.
Namun, menurutku masih ada yang lebih dari itu. Jack Clark, kepala kebijakan di Anthropic dan salah satu penulis AI terpintar di luar sana, menyebut Moltbook sebagai “demo Wright Brothers.” Seperti Kitty Hawk Flyer milik saudaranya, Moltbook reyot dan tidak sempurna, sesuatu yang hampir tidak menyerupai jaringan yang akan menyusul seiring dengan kemajuan AI. Namun seperti mesin terbang tersebut, Moltbook adalah yang pertama, “contoh pertama dari ekologi agen yang menggabungkan skala dengan kekacauan di dunia nyata,” seperti yang ditulis Clark. Moltbook tidak menggambarkan bagaimana masa depan akan terlihat, tapi “dalam contoh ini, kita pasti bisa melihat masa depan.”
Mungkin satu-satunya hal yang paling penting untuk diketahui tentang AI adalah: setiap kali Anda melihat AI melakukan sesuatu, itu adalah hal terburuk yang pernah dilakukannya. Artinya, apa yang muncul setelah Moltbook — dan sesuatu yang pasti akan terjadi — kemungkinan besar akan lebih aneh, lebih mampu, dan mungkin lebih nyata.
Jadi kita ditakdirkan untuk mati?
Mungkin memang begitu. Saya, misalnya, adalah seorang Crustafari yang terlahir kembali.
