Setelah debat presiden bersejarah yang penuh dengan wacana tentang memakan hewan peliharaanTaylor Swift mengakhiri malam itu dengan gemilang. Bisa dibilang sebagai tokoh paling berpengaruh dalam budaya pop Amerika, penyanyi sekaligus penulis lagu ini memilih malam debat untuk mengumumkan di Instagram bahwa ia berencana untuk memilih Kamala Harris dalam pemilihan presiden.
Dukungan Swift sangat monumental. Dia memiliki pengaruh politik yang cukup untuk mendorong puluhan ribu warga Amerika untuk mendaftar sebagai pemilih, cukup dengan membagikan tautan. Namun yang lebih mengejutkan, ia juga menggunakan pengumumannya untuk mengungkapkan kekhawatirannya seputar deepfake AI.
Swift menulis di Instagram: “Baru-baru ini saya menyadari bahwa AI 'saya' mendukung secara salah Pencalonan presiden Donald Trump diunggah ke situsnya. Hal itu benar-benar membangkitkan ketakutan saya terhadap AI, dan bahaya penyebaran informasi yang salah. Hal itu membawa saya pada kesimpulan bahwa saya harus sangat transparan tentang rencana saya yang sebenarnya untuk pemilihan ini sebagai seorang pemilih. Cara paling sederhana untuk memerangi informasi yang salah adalah dengan kebenaran.”
Dengan menulis mengenai pengalamannya di-deepfake untuk menunjukkan dukungannya terhadap kandidat yang sebenarnya tidak akan ia pilih, pernyataan Swift tampak sedikit lebih personal.
“Menurut saya, pernyataannya sangat dipikirkan dan ditulis dengan cara yang meyakinkan, tetapi bagian AI memberinya sudut pandang pribadi yang tidak dimiliki orang lain tentang pemilihan ini dan apa yang dilakukan para kandidat,” kata Linda Bloss-Baum, seorang profesor di American University dalam program Bisnis dan Hiburan, kepada TechCrunch.
Para selebriti, terutama yang setenar Swift, sangat rentan terhadap deepfake, karena cukup banyak foto dan video mereka yang beredar di internet yang dapat memunculkan rekayasa AI yang sangat canggih.
“Salah satu hal yang sering saya lihat dalam praktik saya saat ini adalah munculnya peniru AI di seluruh dunia untuk mendapatkan dukungan,” kata Noah Downs, seorang pengacara kekayaan intelektual dan hiburan, kepada TechCrunch pada bulan Agustus. Dukungan AI palsu ini telah menyebar luas sehingga bahkan “Shark Tank” harus menerbitkan laporan kegiatan masyarakat untuk memperingatkan penggemar tentang maraknya penipuan yang mengatasnamakan investor acara tersebut.
Adapun Swift, artis tersebut telah menjadi subjek pornografi viral, nonkonsensual, yang dihasilkan oleh AI, yang memicu diskusi dari para pembuat undang-undang yang berusaha membuat undang-undang terhadap produk sampingan berbahaya dari AI generatif ini.
“Hal ini tentu saja terjadi sepanjang waktu pada kebanyakan orang yang sayangnya nama, gambar, dan rupa mereka telah dipalsukan dengan produk AI,” kata Bloss-Baum.
Namun ketika selebriti seperti Swift terlibat, hal itu dapat membuat para pembuat undang-undang memberi perhatian lebih.
“Sebagai pelobi lama di industri hiburan, saya dapat memberi tahu Anda bahwa Anda akan mendapat lebih banyak perhatian saat pergi ke Capitol Hill dengan para selebriti yang menceritakan kisah mereka,” katanya.
Ketika deepfake berperan dalam pemilihan salah satu kursi paling berkuasa dalam politik global, taruhannya sedikit lebih tinggi daripada versi Lori Grenier yang menjual suplemen diet. Namun, saat hari pemilihan semakin dekat, AS tidak memiliki kemampuan legislatif untuk mencegah penyebaran misinformasi ini melalui media sosial, tempat para pemilih mendapatkan berita lebih banyak dari sebelumnya.
“Sayangnya, AI memainkan peran yang lebih besar dalam pemilihan ini, hanya karena penyebaran teknologinya,” kata Bloss-Baum. “Dulu kita pernah mengalami panggilan otomatis, tetapi sekarang, teknologinya sudah sangat canggih sehingga panggilan otomatis benar-benar dapat dipalsukan sedemikian rupa sehingga penelepon tidak akan tahu bahwa itu bukan kandidat.”
Bloss-Baum mengatakan bahwa karena Swift adalah penduduk Tennessee, ia berpotensi menuntut mantan presiden Trump berdasarkan Undang-Undang ELVIS. Namun, karena undang-undang tersebut masih sangat baru, hanya ada sedikit preseden hukum. Terlepas dari itu, Bloss-Baum berpendapat bahwa konsumen dan selebritas akan memiliki kekuatan yang lebih besar untuk membela diri jika undang-undang federal disahkan. Ia melihat adanya kemungkinan bipartisan UU TANPA PALSU sebagai sesuatu yang sangat menjanjikan, tetapi tidak mungkin akan ada perubahan legislatif yang berarti sebelum pemilihan umum di awal November.
“Saya yakin ada hal positif yang bisa dilakukan kampanye dengan memanfaatkan AI, seperti pengumpulan dan analisis data, tetapi kita perlu berhati-hati agar AI tidak salah menggambarkan kandidat,” kata Bloss-Baum.
