RUU kontroversial California untuk mencegah bencana AI, SB 1047, telah lolos pemungutan suara terakhir di Senat negara bagian dan sekarang diserahkan ke meja Gubernur Gavin Newsom. Ia harus mempertimbangkan risiko teoritis paling ekstrem dari sistem AI — termasuk potensi perannya dalam kematian manusia — terhadap potensi menggagalkan ledakan AI di California. Ia memiliki waktu hingga 30 September untuk menandatangani SB 1047 menjadi undang-undang, atau memvetonya sama sekali.
Diperkenalkan oleh senator negara bagian Scott Wiener, SB 1047 bertujuan untuk mencegah kemungkinan model AI yang sangat besar menciptakan peristiwa bencana, seperti hilangnya nyawa atau serangan siber yang mengakibatkan kerugian lebih dari $500 juta.
Untuk lebih jelasnya, saat ini hanya ada sedikit model AI yang cukup besar untuk dicakup dalam RUU tersebut, dan AI tidak pernah digunakan untuk serangan siber berskala seperti ini. Namun, RUU tersebut menyangkut masa depan model AI, bukan masalah yang ada saat ini.
SB 1047 akan membuat pengembang model AI bertanggung jawab atas kerugian yang ditimbulkannya — seperti membuat produsen senjata bertanggung jawab atas penembakan massal — dan akan memberikan jaksa agung California kewenangan untuk menuntut perusahaan AI dengan hukuman berat jika teknologi mereka digunakan dalam peristiwa bencana. Jika suatu perusahaan bertindak gegabah, pengadilan dapat memerintahkan mereka untuk menghentikan operasinya; model yang dilindungi juga harus memiliki “tombol pemutus” yang memungkinkan mereka untuk dimatikan jika dianggap berbahaya.
RUU tersebut dapat mengubah industri AI Amerika, dan tinggal selangkah lagi untuk menjadi undang-undang. Berikut ini adalah bagaimana masa depan SB 1047 akan terwujud.
Mengapa Newsom mungkin menandatanganinya
Wiener berpendapat bahwa Silicon Valley membutuhkan lebih banyak tanggung jawab, sebelumnya mengatakan kepada TechCrunch bahwa Amerika harus belajar dari kegagalannya di masa lalu dalam mengatur teknologi. Newsom dapat termotivasi untuk bertindak tegas terhadap regulasi AI dan meminta pertanggungjawaban Big Tech.
Beberapa eksekutif AI tampak optimis dengan SB 1047, termasuk Elon Musk.
Seorang optimis lain yang berhati-hati terhadap SB 1047 adalah mantan kepala AI Microsoft Sophia Velastegui. Ia mengatakan kepada TechCrunch bahwa “SB 1047 adalah kompromi yang baik,” sambil mengakui bahwa RUU tersebut tidak sempurna. “Saya pikir kita memerlukan kantor AI yang bertanggung jawab untuk Amerika, atau negara mana pun yang menanganinya. Seharusnya bukan hanya Microsoft,” kata Velastegui.
Anthropic adalah pendukung lain yang berhati-hati dari SB 1047, meskipun perusahaan tersebut belum mengambil posisi resmi terkait RUU tersebut. Beberapa perubahan yang disarankan oleh perusahaan rintisan tersebut ditambahkan ke SB 1047, dan CEO Dario Amodei sekarang mengatakan bahwa “manfaat RUU tersebut kemungkinan lebih besar daripada biayanya” surat untuk gubernur CaliforniaBerkat amandemen Anthropic, perusahaan AI hanya dapat dituntut setelah model AI mereka menyebabkan beberapa kerugian besar, bukan sebelumnya, seperti yang dinyatakan dalam versi SB 1047 sebelumnya.
Mengapa Newsom mungkin memvetonya
Mengingat adanya pertentangan keras dari industri terhadap RUU tersebut, tidak mengherankan jika Newsom memvetonya. Ia akan mempertaruhkan reputasinya pada SB 1047 jika ia menandatanganinya, tetapi jika ia memveto, ia dapat menunda masalah ini setahun lagi atau membiarkan Kongres menanganinya.
“Ini [SB 1047] mengubah preseden yang telah kita bahas dalam kebijakan perangkat lunak selama 30 tahun,” kata mitra umum Andreessen Horowitz Martin Casado dalam sebuah wawancara dengan TechCrunch. “Ini mengalihkan tanggung jawab dari aplikasi, dan menerapkannya ke infrastruktur, yang belum pernah kita lakukan.”
Industri teknologi telah menanggapi dengan protes keras terhadap SB 1047. Bersama a16z, Ketua DPR Nancy Pelosi, OpenAI, kelompok dagang Big Tech, dan peneliti AI terkemuka juga mendesak Newsom untuk tidak menandatangani RUU tersebut. Mereka khawatir bahwa perubahan paradigma tentang tanggung jawab ini akan berdampak buruk pada inovasi AI di California.
Dampak buruk pada ekonomi startup adalah hal terakhir yang diinginkan siapa pun. Ledakan AI telah menjadi stimulus besar bagi ekonomi Amerika, dan Newsom menghadapi tekanan untuk tidak menyia-nyiakannya. Bahkan Kamar Dagang AS telah meminta Newsom untuk memveto RUU tersebutyang mengatakan “AI merupakan dasar bagi pertumbuhan ekonomi Amerika,” dalam suratnya kepadanya.
Jika SB 1047 menjadi undang-undang
Jika Newsom menandatangani RUU tersebut, tidak akan terjadi apa-apa pada hari pertama, kata sumber yang terlibat dalam penyusunan SB 1047 kepada TechCrunch.
Pada tanggal 1 Januari 2025, perusahaan teknologi harus menulis laporan keselamatan untuk model AI mereka. Pada saat ini, jaksa agung California dapat meminta perintah pengadilan, yang mengharuskan perusahaan AI untuk menghentikan pelatihan atau pengoperasian model AI mereka jika pengadilan menganggapnya berbahaya.
Pada tahun 2026, lebih banyak bagian dari RUU tersebut mulai berlaku. Pada saat itu, Dewan Model Perbatasan akan dibentuk dan mulai mengumpulkan laporan keselamatan dari perusahaan teknologi. Dewan yang beranggotakan sembilan orang, yang dipilih oleh gubernur dan badan legislatif California, akan membuat rekomendasi kepada jaksa agung California tentang perusahaan mana yang mematuhi dan tidak mematuhi.
Pada tahun yang sama, SB 1047 juga akan mewajibkan pengembang model AI untuk mempekerjakan auditor guna menilai praktik keselamatan mereka, yang secara efektif menciptakan industri baru untuk kepatuhan keselamatan AI. Dan jaksa agung California akan dapat mulai menuntut pengembang model AI jika alat mereka digunakan dalam peristiwa bencana.
Pada tahun 2027, Dewan Model Perbatasan dapat mulai mengeluarkan panduan kepada pengembang model AI tentang cara melatih dan mengoperasikan model AI dengan aman dan terjamin.
Jika SB 1047 mendapat veto
Jika Newsom memveto SB 1047, keinginan OpenAI akan menjadi kenyataan, dan regulator federal kemungkinan akan memimpin dalam mengatur model AI …pada akhirnya.
Pada hari Kamis, OpenAI dan Anthropic meletakkan dasar bagi seperti apa regulasi AI federal nantinya. Mereka sepakat untuk memberikan AI Safety Institute, sebuah badan federal, akses awal ke model AI canggih mereka, menurut sebuah pernyataan siaran persPada saat yang sama, OpenAI telah menyetujui rancangan undang-undang yang akan memungkinkan AI Safety Institute menetapkan standar untuk model AI.
“Karena banyak alasan, kami menganggap penting hal ini terjadi di tingkat nasional,” tulis CEO OpenAI Sam Altman dalam sebuah pernyataan menciak pada hari Kamis.
Jika kita membaca yang tersirat, lembaga federal biasanya membuat regulasi teknologi yang tidak terlalu memberatkan dibandingkan California dan membutuhkan waktu yang jauh lebih lama untuk melakukannya. Namun lebih dari itu, Silicon Valley secara historis telah menjadi mitra taktis dan bisnis yang penting bagi pemerintah Amerika Serikat.
“Sebenarnya ada sejarah panjang sistem komputer canggih yang bekerja sama dengan pemerintah federal,” kata Casado. “Ketika saya bekerja di laboratorium nasional, setiap kali komputer super baru keluar, versi pertama akan diberikan kepada pemerintah. Kami akan melakukannya agar pemerintah memiliki kemampuan, dan saya pikir itu alasan yang lebih baik daripada untuk pengujian keamanan.”
