California telah melewati yang baru Hukum Keselamatan AI Dan para pendukung menggembar -gemborkan trifecta manfaat: melindungi inovasi sambil memajukan keselamatan, mengisi celah peraturan yang ditinggalkan oleh kelambanan kongres, dan memposisikan Amerika Serikat sebagai pemimpin global pada keselamatan AI. Pada substansi, undang -undang tersebut memiliki beberapa kelebihan, dan seandainya diberlakukan di tingkat federal, itu bisa menandai kemajuan yang tidak sempurna tetapi tulus. Tetapi dengan mengadopsi ketentuan -ketentuan itu di tingkat negara bagian, California lebih banyak membahayakan daripada kebaikan di bidang yang sama yang diklaim sebagai kekuatan. Undang -undang ini merongrong inovasi AS dengan memecah -belah pasar nasional, membuat kompromi bipartisan pada kerangka kerja AI nasional lebih sulit, dan mengaburkan posisi Amerika pada tata kelola AI.
Undang-undang ini berfokus pada pengembang AI perbatasan, yang didefinisikan sebagai perusahaan yang melatih sistem AI menggunakan lebih dari 10²⁶ operasi titik mengambang (flops) komputasi. Mereka harus memberi tahu negara sebelum merilis model baru atau yang diperbarui, mengungkapkan tanggal rilis, penggunaan yang dimaksudkan, dan apakah akses akan open-source atau melalui API. Semua pengembang harus melaporkan insiden keselamatan bencana dalam waktu 15 hari – atau dalam waktu 24 jam jika hidup berisiko. Perusahaan yang lebih besar dengan lebih dari $ 500 juta pendapatan tahunan menghadapi kewajiban tambahan. Mereka diharuskan untuk mempublikasikan dan memperbarui kerangka kerja keselamatan, melakukan penilaian risiko bencana dan menyerahkan ringkasan ke Kantor Layanan Darurat California, dan menerapkan keamanan siber yang kuat untuk melindungi bobot model yang belum dirilis. Mereka juga harus mempertahankan saluran whistleblower anonim, memperbaruinya setiap bulan, dan memberikan ringkasan triwulanan kepada kepemimpinan senior dengan perlindungan terhadap pembalasan. Jaksa Agung dapat mengenakan denda hingga $ 1 juta per pelanggaran.
Undang-undang ini memiliki kekurangan yang serius: ambang pendapatannya yang tumpul menghukum perusahaan berdasarkan ukurannya daripada profil risikonya, dan cut-off komputasi meleset lebih kecil tetapi masih mampu. Tetapi ada juga elemen penting yang layak dipuji. Pelaporan insiden sangat penting untuk keselamatan pasca penempatan, yang memungkinkan regulator untuk Belajar dari kegagalan dunia nyata daripada hanya mengandalkan audit pra-rilis. Perlindungan whistleblower adalah cara sederhana dan efektif untuk membuat saluran yang dilindungi secara hukum untuk melaporkan risiko AI yang akan terjadi. Dan tidak seperti pendahulunya yang diveto, SB 1047—Yang yang membutuhkan audit pihak ketiga tahunan terhadap mandat keselamatan yang kaku-undang-undang ini mengambil pendekatan yang lebih fleksibel untuk transparansi. Dengan mengharuskan perusahaan untuk mempublikasikan kerangka kerja keselamatan mereka sendiri dan menyerahkan ringkasan risiko tingkat tinggi kepada pejabat negara, undang-undang tersebut bersandar pada tekanan publik dan yang menghadap ke pasar daripada semata-mata pada pengawasan sentralisasi dalam pengawasan pemerintah. Yang membantunya menghindar Perangkap Virginia telah mengusulkandi mana merutekan semuanya melalui satu otoritas mengubah akuntabilitas menjadi latihan dokumen.
Seandainya ketentuan -ketentuan ini muncul dalam undang -undang federal tentang keselamatan AI, kelemahan mereka mungkin tidak melebihi nilainya. Orang dapat secara wajar berpendapat untuk menyesuaikan ambang pendapatan menjadi netral ukuran dan untuk mengganti cut-off komputasi mentah dengan kriteria berbasis kemampuan yang dapat berkembang seiring waktu. Dalam konteks itu, undang-undang federal dengan elemen-elemen semacam itu masih bisa menawarkan langkah positif bersih menuju pengawasan yang lebih efektif dari sistem AI berisiko tinggi.
Tapi ini bukan hukum federal. Ini adalah undang -undang negara bagian, dan itu mengubah kalkulus sepenuhnya. Tidak peduli seberapa diukur atau ramah inovasi, pendekatan pengaturan dapat muncul secara terpisah, jasa-jasa itu runtuh ketika diterapkan melalui satu negara karena undang-undang menjamin ketidakkonsistenan di seluruh negeri. Pembuat kebijakan California akan berpendapat bahwa perannya yang sangat besar – menjadi perusak 32 dari 50 perusahaan AI terkemuka di dunia—Creates de facto keseragaman, tetapi asumsi itu membingungkan di mana perusahaan berkantor pusat di mana mereka beroperasi. Bahkan jika semua 50 perusahaan top berbasis di California, mereka masih harus mematuhi aturan di setiap negara bagian lainnya. Dan negara -negara itu tidak mungkin mengadopsi grosir pendekatan California, mereka akan meniru ide itu tetapi tidak mengkloning detailnya. Seperti halnya undang -undang privasi, undang -undang keselamatan AI akan menyimpang dalam ruang lingkup, penegakan hukum, dan definisi, bahkan saat menargetkan masalah yang sama. Hasilnya adalah fragmentasi: tambalan kewajiban yang bertentangan yang memaksa perusahaan menjadi kepatuhan duplikat dan mengalirkan sumber daya dari inovasi. Tidak ada versi undang -undang keselamatan AI California yang dapat mendorong inovasi secara nasional karena tindakan negara pada topik ini menciptakan fragmentasi yang membahayakan inovasi menurut definisi.
Para pendukung mengatakan kritik ini melewatkan poin: tentu saja AI secara ideal harus diatur secara federal, tetapi dengan tidak adanya tindakan kongres, seseorang harus masuk. Hukum California secara eksplisit memungkinkan preemption federal, sehingga pejabat negara melemparkan undang -undang mereka sebagai jembatan, memegang garis pada keselamatan sampai Washington bertindak, sementara mengajukan ketentuan yang mereka ingin lihat sebagai lantai kebijakan nasional.
Tetapi jika ini benar-benar logika, maka itu merugikan diri sendiri, karena memberlakukan hukum California merusak upaya Demokrat Kongres dalam mendapatkan langkah-langkah ini diadopsi secara nasional. Hukum tidak hanya menyediakan lantai kebijakan tentang substansi; Ini melabuhkan ketentuan-ketentuan ini sebagai posisi paling kiri dalam debat federal-titik referensi yang akan ditentukan oleh Partai Republik seberapa jauh mereka bersedia untuk melangkah. Untuk Partai Republik seperti Senator Ted Cruz (R-TX), yang menjadi ujung tombak upaya preemption federal dan Oposisi mengumpulkan Untuk kerangka kerja nasional mana pun yang mengambil isyarat dari Sacramento, undang -undang California tidak menarik debat federal terhadap modelnya, ia mendorong kompromi akhirnya lebih jauh.
Namun, beberapa orang akan berpendapat bahwa kompromi adalah fantasi dalam iklim politik saat ini, dan karena itu ketegasan California diperlukan. Bahkan jika seseorang bersimpati dengan naluri itu, ia gagal memperhitungkan sifat masalah ini. Mengurangi risiko AI bencana berarti tidak hanya membentuk bagaimana sistem perbatasan dikembangkan, tetapi mengidentifikasi dan merespons ketika mereka disalahgunakan. Regulator negara tidak dapat memaksa pengembang di luar perbatasan mereka, mereka juga tidak dapat mengatur bagaimana aktor di negara lain menggunakan sistem yang dibangun di dalamnya sendiri. Oleh karena itu, peraturan federal diperlukan – tidak hanya untuk melindungi inovasi, tetapi bagi wewenang untuk mengelola risiko di mana pun mereka muncul di Amerika Serikat, kapasitas untuk mengidentifikasi penyalahgunaan di mana hal itu terjadi, dan kredibilitas untuk mengadvokasi perlindungan di luar negeri.
Dan pada substansi, kesenjangan partisan hampir tidak seluas yang disarankan oleh politik. Jika proposal Republik yang muncul dari Rumah dan Senat menggemakan langkah -langkah mantan pejabat administrasi Trump advokasi Untuk, ada landasan umum di kedua sisi lorong di sekitar persyaratan transparansi untuk sistem berisiko tinggi dan pengungkapan praktik mitigasi. Dan karena satu -satunya jalan realistis menuju undang -undang AI federal yang tahan lama yang mendahului langkah -langkah negara adalah melalui perintah reguler Kongres, Partai Republik akan membutuhkan Demokrat di meja.
Gagasan California dapat memperkuat keselamatan AI global, tetapi hanya jika mereka dibawa melalui kerangka kerja nasional. Jika Demokrat menginginkan hal itu terjadi, mereka harus menolak iming-iming kemenangan negara jangka pendek yang membuat kesepakatan federal lebih sulit dicapai. Partai Republik, pada bagian mereka, harus menolak refleks untuk mengabaikan manfaat dari ide -ide ini, banyak di antaranya menggemakan panggilan mereka sendiri untuk mengatur kerusakan yang direalisasikan daripada hipotetis. Kunci kesuksesan – baik inovasi dan keselamatan – adalah mengangkat ide -ide bagus dari kedua sisi lorong dan menjangkar mereka dalam kerangka federal bipartisan.
Kredit Gambar: Wikimedia Commons
