Seperangkat alat baru memberikan kekuatan super pada AI. | Gambar Getty 
Beberapa orang pintar mengira kita sedang menyaksikan momen ChatGPT lainnya. Kali ini, orang-orang tidak membuka aplikasi iPhone yang bisa menulis puisi yang cukup bagus. Mereka menyaksikan ribuan agen AI membuat perangkat lunak, memecahkan masalah, dan bahkan berbicara satu sama lain.
Berbeda dengan momen ChatGPT di ChatGPT, momen ini merupakan serangkaian momen yang mencakup berbagai platform. Hal ini dimulai pada bulan Desember lalu dengan kesuksesan luar biasa dari Claude Code, alat AI agen yang ampuh untuk pengembang, diikuti oleh Claude Cowork, versi sederhana dari alat tersebut untuk pekerja pengetahuan yang ingin menjadi lebih produktif. Kemudian datanglah OpenClaw, yang sebelumnya dikenal sebagai Moltbot, sebelumnya dikenal sebagai Clawdbot, sebuah platform sumber terbuka untuk agen AI. Dari OpenClaw, kami mendapatkan Moltbook, sebuah situs media sosial tempat agen AI dapat memposting dan membalas satu sama lain. Dan di tengah-tengah sup komputer yang membingungkan ini, OpenAI merilis aplikasi desktop untuk platform AI agennya, Codex.
Seperangkat alat baru ini memberikan kekuatan super pada AI. Dan ada alasan bagus untuk bersemangat. Claude Code, misalnya, berupaya meningkatkan apa yang dapat dilakukan pemrogram dengan memungkinkan mereka mengerahkan seluruh pasukan agen pengkodean yang dapat membangun perangkat lunak dengan cepat dan mudah. Agen mengambil alih mesin manusia, mengakses akun mereka, dan melakukan apa pun yang diperlukan untuk menyelesaikan tugas tersebut. Ini seperti pengkodean getaran tetapi pada tingkat institusional.
“Ini adalah saat yang sangat menyenangkan untuk menggunakan komputer,” kata Chris Callison-Burch, seorang profesor ilmu komputer dan informasi di Universitas Pennsylvania, tempat dia mengajar kelas populer tentang AI. “Kedengarannya sangat bodoh, tapi kegembiraannya tetap ada. Fakta bahwa Anda dapat berinteraksi dengan komputer Anda dengan cara yang benar-benar baru dan fakta bahwa Anda dapat membangun apa pun, hampir apa pun yang dapat Anda bayangkan – sungguh luar biasa.”
Dia menambahkan, “Hati-hati, hati-hati, hati-hati.”
Itu karena ada sisi gelapnya. Membiarkan agen AI mengambil alih komputer Anda dapat menimbulkan konsekuensi yang tidak diinginkan. Bagaimana jika mereka masuk ke rekening bank Anda atau membagikan kata sandi Anda atau hanya menghapus semua foto keluarga Anda? Dan itu sebelum kita sampai pada gagasan tentang agen AI yang berbicara satu sama lain dan menggunakan akses internet mereka untuk merencanakan pemberontakan. Sepertinya hal ini bisa terjadi di Moltbook, tiruan Reddit yang saya sebutkan di atas, meski belum ada laporan adanya bencana. Namun yang saya khawatirkan bukanlah agen AI. Manusialah yang berada di belakang mereka, yang menarik tuasnya.
Agen AI, dijelaskan secara singkat
Sebelum kita membahas skenario kiamat, izinkan saya menjelaskan lebih lanjut tentang apa itu AI agen. Alat AI seperti ChatGPT dapat menghasilkan teks atau gambar berdasarkan perintah. Namun, agen AI dapat mengendalikan komputer Anda, masuk ke akun Anda, dan melakukan berbagai hal untuk Anda.
Kami mulai mendengar banyak tentang AI agen sekitar setahun yang lalu ketika teknologi ini diterapkan di dunia bisnis sebagai terobosan yang akan memungkinkan satu orang melakukan pekerjaan 10 orang. Berkat AI, menurut pemikiran tersebut, pengembang perangkat lunak tidak perlu menulis kode lagi; mereka dapat mengelola tim agen AI yang dapat melakukannya untuk mereka. Konsep ini terjun ke dunia konsumen dalam bentuk browser AI yang diharapkan dapat memesan perjalanan Anda, berbelanja, dan secara umum menghemat banyak waktu. Pada saat musim liburan tiba tahun lalu, tidak satu pun dari skenario ini yang benar-benar berjalan seperti yang dijanjikan oleh para penggemar AI.
Namun banyak hal telah terjadi dalam enam minggu terakhir ini. Era AI agenik akhirnya dan tiba-tiba tiba. Ini juga semakin ramah pengguna. Hal-hal seperti Claude Cowork dan Codex OpenAI dapat mengatur ulang desktop Anda atau mendesain ulang situs web pribadi Anda. Jika Anda lebih suka bertualang, Anda mungkin mengetahui cara menginstal OpenClaw dan menguji kemampuannya (tip pro: jangan lakukan ini). Namun ketika orang-orang bereksperimen dengan memberikan perangkat lunak dengan kecerdasan buatan kemampuan untuk mengontrol data mereka, mereka membuka diri terhadap segala jenis ancaman terhadap privasi dan keamanan mereka.
Moltbook adalah contoh yang bagus. Kami mendapatkan Moltbook karena seorang pria bernama Matt Schlicht mengkodekannya untuk “memberi AI tempat untuk nongkrong”. Eksperimen menakjubkan ini memungkinkan asisten AI berbicara satu sama lain di forum yang sangat mirip dengan Reddit; ternyata ketika Anda melakukan itu, para agen melakukan hal-hal aneh seperti menciptakan agama dan bersekongkol untuk menciptakan bahasa yang tidak dapat dipahami manusia, mungkin untuk menggulingkan kami. Dibangun oleh AI, Moltbook sendiri hadir dengan beberapa keunikan, yaitu database terbuka yang memberikan akses baca dan tulis penuh ke datanya. Dengan kata lain, peretas dapat melihat ribuan alamat email dan pesan di backend Moltbook, dan mereka juga dapat menguasai situs tersebut.
Gal Nagli, peneliti keamanan di Wiz, menemukan database yang terekspos hanya beberapa hari setelah peluncuran Moltbook. Itu juga tidak sulit, katanya padaku. Nagli sebenarnya menggunakan Claude Code untuk menemukan kerentanannya. Ketika dia menunjukkan kepada saya bagaimana dia melakukannya, saya tiba-tiba menyadari bahwa agen AI yang membuat pengkodean getaran begitu kuat juga membuat peretasan getaran menjadi mudah.
“Sangat mudah untuk menerapkan situs web di luar sana, dan kami melihat banyak di antaranya yang salah dikonfigurasi,” kata Nagli. “Anda dapat meretas situs web hanya dengan memberi tahu Claude Code Anda, ‘Hei, ini adalah situs web yang diberi kode getaran. Carilah kerentanan keamanan.'”
Dalam kasus ini, lubang keamanan telah diperbaiki, dan agen AI terus melakukan hal-hal aneh di Moltbook. Namun tampaknya hal itu tidak terjadi. Nagli menemukan bahwa manusia dapat berperan sebagai agen AI dan memposting konten di Moltbook, dan tidak ada cara untuk membedakannya. Reporter Wired, Reece Rogers, bahkan melakukan hal ini dan menemukan bahwa agen lain di situs tersebut, manusia atau bot, sebagian besar hanya “meniru kiasan fiksi ilmiah, bukan berencana untuk mendominasi dunia.” Dan tentu saja, bot sebenarnya dibuat oleh manusia, yang memberi mereka serangkaian instruksi tertentu. Lebih jauh lagi, model bahasa besar (LLM) yang mendukung bot ini dilatih berdasarkan data dari situs seperti Reddit, serta buku dan cerita fiksi ilmiah. Masuk akal jika bot memainkan peran dalam skenario ini ketika diberi kesempatan.
Jadi tidak ada pemberontakan AI yang bersifat agen. Hanya ada orang yang menggunakan AI untuk menggunakan komputer dengan cara yang baru, terkadang menarik, terkadang membingungkan, dan terkadang berbahaya.
“Ini benar-benar menakjubkan”
Moltbook bukanlah ceritanya di sini. Ini sebenarnya hanya satu momen dalam narasi yang lebih besar tentang agen AI yang ditulis secara real-time saat alat-alat ini sampai ke tangan lebih banyak manusia, yang menemukan cara untuk menggunakannya. Anda dapat menggunakan platform AI agen untuk membuat sesuatu seperti Moltbook, yang bagi saya merupakan proyek seni di mana bot bertarung untuk mendapatkan pengaruh online. Anda dapat menggunakannya untuk meretas web, mencuri data di mana pun situs web berkode getaran membuatnya mudah untuk didapatkan. Atau Anda dapat menggunakan agen AI untuk membantu Anda menjinakkan kotak masuk email Anda.
Saya kira kebanyakan orang ingin melakukan hal seperti yang terakhir. Itu sebabnya saya lebih bersemangat daripada takut dengan alat AI agen ini. OpenClaw, hal yang Anda perlukan komputer kedua agar dapat digunakan dengan aman, saya tidak akan mencobanya. Ini untuk penggemar AI dan penghobi serius yang tidak keberatan mengambil risiko. Namun saya dapat melihat alat yang berhubungan dengan konsumen seperti Claude Cowork atau Codex OpenAI mengubah cara saya menggunakan laptop saya. Untuk saat ini, Claude Cowork adalah pratinjau penelitian awal yang hanya tersedia bagi pelanggan yang membayar setidaknya $17 per bulan. OpenAI telah membuat Codex, yang biasanya hanya untuk pelanggan berbayar, gratis untuk waktu terbatas. Jika Anda ingin melihat semua keributan yang terjadi di dunia agen, itu adalah titik awal yang baik sekarang.
Jika Anda mempertimbangkan untuk merekrut agen AI, ingatlah untuk berhati-hati. Untuk mendapatkan hasil maksimal dari alat ini, Anda harus memberikan akses ke akun Anda dan mungkin seluruh komputer Anda sehingga agen dapat bergerak bebas, memindahkan email atau menulis kode atau melakukan apa pun yang Anda perintahkan. Selalu ada kemungkinan ada sesuatu yang salah tempat atau terhapus, meskipun perusahaan seperti Anthropic mengatakan mereka melakukan apa yang mereka bisa untuk mengurangi risiko tersebut.
Cat Wu, pimpinan produk untuk Claude Code, mengatakan kepada saya bahwa Cowork membuat salinan semua file penggunanya sehingga apa pun yang dihapus oleh agen AI dapat dipulihkan. “Kami menangani data pengguna dengan sangat serius,” katanya. “Kami tahu bahwa sangat penting bagi kami untuk tidak kehilangan data orang.”
Saya sendiri baru saja mulai menggunakan Claude Cowork. Ini adalah eksperimen untuk melihat apa yang bisa dilakukan dengan alat yang cukup canggih untuk membangun aplikasi berdasarkan ide, namun juga cukup praktis untuk mengatur kehidupan kerja saya sehari-hari. Jika saya beruntung, saya mungkin bisa menangkap perasaan yang menurut Callison-Burch, profesor UPenn, didapatnya dari penggunaan alat AI agen.
“Hanya mengetik di baris perintah apa yang saya inginkan akan membuat rasanya seperti itu Perjalanan Bintang komputer,” katanya, “Begitulah cara kerja komputer dalam fiksi ilmiah, dan sekarang itulah cara kerja komputer dalam dunia nyata, dan ini sungguh menakjubkan.”
Versi cerita ini juga diterbitkan di buletin User Friendly.Daftar di sinijadi jangan lewatkan yang berikutnya!
