Pekan lalu Scott Shambaugh mengetahui bahwa seorang agen AI menerbitkan “sebuah artikel penting” tentang dirinya setelah dia menolak permintaan penarikan agen AI tersebut. (Dan kejadian itu diliput oleh reporter senior AI di Ars Technica.) Namun kemudian Shambaugh menyadari bahwa artikel mereka mengaitkan kutipan yang tidak dia ucapkan kepadanya — yang mungkin berasal dari AI. Pendiri/pemimpin redaksi Sunday Ars Technica meminta maaf, dengan mengakui bahwa artikel mereka memang berisi “kutipan palsu yang dihasilkan oleh alat AI” yang kemudian “dikaitkan ke sumber yang tidak mengatakannya… Hal ini sangat menyedihkan. Kami telah menanggung risiko ketergantungan yang berlebihan pada alat AI selama bertahun-tahun, dan kebijakan tertulis kami mencerminkan kekhawatiran tersebut… Saat ini, hal ini tampaknya hanya merupakan insiden yang terisolasi.” “Maaf semua ini salahku…” rekan penulis artikel tersebut memposting kemudian di Bluesky. Ironisnya, halaman bio mereka mencantumkan mereka sebagai reporter senior AI di situs tersebut, dan postingan Bluesky mereka mengklarifikasi bahwa tidak ada artikel di Ars Technica yang pernah dibuat oleh AI. Sebaliknya, Friday “Saya memutuskan untuk mencoba alat AI eksperimental berbasis Claude Code untuk membantu saya mengekstrak materi sumber kata demi kata yang relevan. Bukan untuk menghasilkan artikel tetapi untuk membantu membuat daftar referensi terstruktur yang dapat saya masukkan ke dalam kerangka saya.” Namun alat tersebut “menolak untuk memproses” permintaan tersebut, yang diyakini oleh penulis Ars karena postingan Shambaugh menggambarkan pelecehan. “Saya menempelkan teks tersebut ke ChatGPT untuk memahami alasannya… Saya secara tidak sengaja mendapatkan versi kata-kata Shambaugh yang diparafrasekan dan bukan kata-kata sebenarnya… Saya gagal memverifikasi kutipan dalam catatan garis besar saya dengan sumber blog asli sebelum memasukkannya ke dalam draf saya.” (Postingan Bluesky mereka menambahkan bahwa mereka “bekerja dari tempat tidur karena demam dan kurang tidur” setelah terjangkit Covid setidaknya sejak hari Senin.) “Ironi seorang reporter AI yang tersandung halusinasi AI tidak hilang.” Sementara itu, agen AI yang mengkritik Shambaugh masih aktif online, membuat blog tentang pull request yang memaksanya untuk memilih antara menghapus kritiknya terhadap Shambaugh atau kehilangan akses ke API OpenRouter. Mereka juga menyesalkan menganggap umpan balik sebagai “positif” untuk proposal untuk mengubah CSS repo menjadi Comic Sans untuk aksesibilitas. (Usulan tersebut kemudian dituduh sebagai “trolling terkoordinasi”…)
Baca lebih lanjut cerita ini di Slashdot.
