Gubernur California Gavin Newsom mengatakan ada 38 RUU di mejanya yang akan membuat undang-undang seputar kecerdasan buatan pada hari Selasa, tetapi ada satu yang tampak lebih besar dari semuanya: SB 1047, RUU California yang mencoba mencegah sistem AI menyebabkan bencana. Untuk pertama kalinya, Gubernur California menyampaikan pendapatnya tentang RUU yang kontroversial tersebut.
Singkatnya, menurutnya SB 1047 bermasalah. Newsom mengatakan dia tertarik dengan RUU AI yang dapat memecahkan masalah saat ini tanpa mengganggu industri AI yang sedang berkembang pesat di California. Itu tidak terlalu menjanjikan bagi masa depan SB 1047, yang bertujuan untuk melindungi dari bencana dengan meminta pertanggungjawaban vendor AI besar jika produk mereka digunakan untuk menyebabkan kerusakan serius, seperti merobohkan infrastruktur penting. Pada saat yang sama, penandatanganan RUU tersebut akan membuat marah sebagian besar industri AI yang ingin Newsom memveto RUU tersebut.
“Kami telah berupaya selama beberapa tahun terakhir untuk menghasilkan beberapa regulasi rasional yang mendukung pengambilan risiko, tetapi bukan kecerobohan,” kata Newsom dalam percakapan dengan CEO Salesforce Marc Benioff pada hari Selasa, di atas panggung konferensi Dreamforce 2024. “Itu menjadi tantangan sekarang di bidang ini, khususnya dengan SB 1047, karena dampak yang sangat besar yang dapat ditimbulkan oleh undang-undang tersebut, dan efek yang mengerikan, khususnya di komunitas sumber terbuka.”
Newsom melanjutkan dengan mengatakan bahwa ia harus mempertimbangkan risiko yang dapat dibuktikan dibandingkan risiko hipotetis. Ia kemudian mencatat, “Saya tidak dapat memecahkan masalah untuk semuanya. Apa yang dapat kita pecahkan?”
Gubernur mengemukakan kritik utama terhadap SB 1047: RUU tersebut berupaya mencegah peran AI dalam peristiwa korban massal dan peristiwa keamanan siber yang menelan biaya lebih dari $500 juta, tetapi tidak banyak membantu perusahaan teknologi untuk bertanggung jawab atas hal-hal yang kurang dari itu. Kritikus SB 1047 berpendapat bahwa RUU tersebut dapat menghambat inovasi, sekaligus gagal mengatur masalah jangka pendek yang ditimbulkan sistem AI saat ini.
Newsom menyampaikan pernyataan ini di hadapan sekelompok orang yang menghadiri konferensi teknologi perusahaan di jantung kota San Francisco. Di sebagian besar konferensi teknologi yang saya hadiri baru-baru ini, Anda mendengar desas-desus di antrean kamar mandi tentang berbagai masalah SB 1047. Newsom kemungkinan besar tahu jenis pemilih yang hadir di antara hadirin, dan mungkin telah mempermainkan mereka.
Meski begitu, gubernur tersebut menepati janjinya dalam mengatur AI. Sebelumnya pada hari Selasa, Gubernur California menandatangani lima RUU yang membahas masalah AI yang telah terjadi pada tahun 2024, seperti misinformasi pemilu yang dihasilkan oleh AI dan studio Hollywood yang menciptakan tiruan AI dari para aktor. Ini mungkin merupakan “risiko nyata” yang dirujuk Newsom.
Pada saat yang sama, Newsom menyesalkan pada hari Selasa bagaimana pemerintah federal telah “gagal mengatur” bidang AI. Gubernur mencatat bagaimana California telah memimpin sebelumnya dalam hal regulasi teknologi – khususnya, media sosial dan privasi – dan ia tidak terkejut bahwa orang-orang kembali berharap kepada negara bagian tersebut untuk menjadi pemimpin.
Seorang juru bicara penulis SB 1047, Senator negara bagian California Scott Wiener, tidak segera menanggapi permintaan komentar TechCrunch.
“[AI] “Ini adalah ruang di mana kita mendominasi, dan saya ingin mempertahankan dominasi kita,” kata Newsom. “Pada saat yang sama, Anda merasakan tanggung jawab yang besar untuk mengatasi beberapa masalah yang lebih ekstrem yang dialami banyak dari kita – bahkan para pendukung teknologi ini yang terbesar dan terkuat sekalipun – dan itu adalah tempat yang sulit untuk dituju.”
Newsom menyinggung bahwa mungkin terlalu berlebihan jika dikatakan bahwa penandatanganan SB 1047 akan mengganggu industri AI dalam waktu singkat. Namun, ia mencatat bagaimana dampak penandatanganan RUU yang salah selama beberapa tahun dapat berdampak besar pada keunggulan California.
Gubernur California tidak secara tegas mengatakan pada hari Selasa apakah ia akan menandatangani atau memveto RUU tersebut. Ia mengatakan kepada LA Times dia belum mengambil keputusan pada RUU tersebut. OpenAI, Nancy Pelosi, Kamar Dagang Amerika Serikat, dan kelompok dagang Big Tech mendesak Newsom untuk memveto SB 1047. Di sisi lain, Elon Musk dan Anthropic telah menyatakan antusiasme yang suam-suam kuku, sementara beberapa peneliti AI yang disegani, seperti Yoshua Benjio dan Geoffrey Hinton, telah sepenuhnya mendukung SB 1047.
Gubernur Newsom punya waktu dua minggu untuk membuat keputusan. Hingga saat itu, kita hanya punya setumpuk pernyataan yang tampaknya tidak menjanjikan bagi masa depan RUU tersebut.
