Seorang hakim federal memblokir salah satu undang-undang AI baru di California pada hari Rabu, kurang dari dua minggu setelah ditandatangani oleh Gubernur Gavin Newsom. Tak lama setelah penandatanganan AB 2839, Newsom menyarankan agar hal itu dapat digunakan memaksa Elon Musk untuk menjatuhkannya sebuah deepfake AI dari Wakil Presiden Kamala Harris yang telah dia posting ulang (dan memicu a pertempuran online kecil-kecilan antara keduanya). Namun, seorang hakim California baru saja memutuskan bahwa negara bagian tersebut tidak dapat memaksa masyarakat untuk menghapus informasi palsu mengenai pemilu – setidaknya untuk saat ini.
AB 2839 menargetkan distributor deepfake AI di media sosial, khususnya jika postingan mereka menyerupai kandidat politik, dan pengunggah mengetahui bahwa itu palsu sehingga dapat membingungkan pemilih. Undang-undang ini unik karena tidak berlaku pada platform tempat deepfake AI muncul, melainkan pada platform yang menyebarkannya. AB 2839 memberikan wewenang kepada hakim California untuk memerintahkan poster deepfake AI untuk menghapusnya, atau berpotensi dikenakan sanksi moneter.
Namun pembuat poster asli deepfake AI tersebut – seorang pengguna X bernama Christopher Kohls – mengajukan gugatan untuk memblokir undang-undang baru California karena dianggap inkonstitusional hanya sehari setelah ditandatangani. Pengacara Kohls menulis dalam a keluhan bahwa deepfake Kamala Harris adalah sindiran yang harus dilindungi oleh Amandemen Pertama.
Pada hari Rabu, hakim distrik Amerika Serikat John Mendez memihak Kohls. Mendez memerintahkan perintah awal untuk memblokir sementara jaksa agung California dalam menegakkan undang-undang baru terhadap Kohls atau siapa pun, dengan pengecualian pesan audio yang termasuk dalam AB 2839.
Baca sendiri apa yang dikatakan Hakim Mendez keputusannya:
“Hampir semua konten yang diubah secara digital, jika dibiarkan begitu saja di internet, dapat dianggap berbahaya. Misalnya, perkiraan jumlah pemilih yang dihasilkan oleh AI dapat dianggap sebagai konten palsu yang dapat melemahkan kepercayaan terhadap hasil pemilu berdasarkan undang-undang ini. Di sisi lain, banyak penggambaran yang “berbahaya” jika diperlihatkan kepada berbagai individu mungkin tidak mempengaruhi prospek pemilu atau melemahkan kepercayaan terhadap pemilu sama sekali. Seperti yang disampaikan oleh Penggugat secara persuasif, AB 2839 “bergantung pada berbagai istilah subjektif dan ungkapan mens rea yang tidak tepat,” yang berdampak pada implikasi sejumlah besar pidato yang dilindungi secara politik dan konstitusi…
[W]Meskipun ketakutan yang beralasan terhadap lanskap media yang dimanipulasi secara digital mungkin bisa dibenarkan, ketakutan ini tidak memberikan izin yang tidak terkendali kepada para pembuat undang-undang untuk melibas tradisi lama berupa kritik, parodi, dan sindiran yang dilindungi oleh Amandemen Pertama. Video YouTube, kiriman Facebook, dan tweet X adalah iklan surat kabar dan kartun politik saat ini, dan Amandemen Pertama melindungi hak individu untuk berbicara terlepas dari media baru yang mungkin digunakan oleh kritik tersebut. Penyebab tindakan menurut undang-undang lainnya seperti gugatan privasi, pelanggaran hak cipta, atau pencemaran nama baik telah memberikan jalan keluar bagi tokoh masyarakat atau individu yang reputasinya mungkin terpengaruh oleh penggambaran yang diubah secara artifisial yang dijajakan oleh para satiris atau oportunis di internet…
Catatan ini menunjukkan bahwa Negara Bagian California mempunyai kepentingan yang kuat dalam menjaga integritas pemilu dan mengatasi konten yang dimanipulasi secara artifisial. Namun, kepentingan Kalifornia dan kesulitan yang dihadapi negara bagian ini sangatlah kecil jika dibandingkan dengan besarnya nilai-nilai Amandemen Pertama yang dipertaruhkan dan pelanggaran konstitusional yang sedang berlangsung yang dialami oleh Penggugat dan para pembuat konten lain yang memiliki situasi serupa ketika pidato mereka tidak terdengar jelas.“
Pada intinya, katanya, undang-undang tersebut terlalu luas untuk dirumuskan, dan dapat mengakibatkan otoritas negara melakukan tindakan berlebihan dalam menentukan apakah pembicaraan diperbolehkan atau tidak.
Karena ini merupakan keputusan awal, kita harus menunggu dan melihat apakah undang-undang Kalifornia ini benar-benar diblokir untuk selamanya atau hanya untuk saat ini, namun bagaimanapun juga, hal ini tidak akan berdampak banyak pada pemilu bulan depan. AB 2839 adalah salah satu dari 18 undang-undang baru terkait AI yang ditandatangani Newsom bulan lalu.
Namun demikian, ini adalah kemenangan besar bagi kelompok poster kebebasan berpendapat Elon Musk di X. Pada hari-hari setelah Newsom menandatangani AB 2839 menjadi undang-undang, Musk dan sekutunya yang biasa memposting sebuah serangkaian deepfake AI yang menguji undang-undang baru California.
