Seorang “pakar misinformasi” Universitas Stanford dituduh menggunakan kecerdasan buatan (AI) untuk menyusun kesaksian yang kemudian digunakan oleh Jaksa Agung Minnesota Keith Ellison dalam kasus yang bermuatan politik.
Jeff Hancock, seorang profesor komunikasi dan pendiri Lab Media Sosial sekolah kebanggaan tersebut, memberikan pernyataan ahli dalam kasus yang melibatkan YouTuber konservatif satir bernama Christopher Kohls. Kasus pengadilan ini menyangkut larangan Minnesota terhadap deepfake politik, yang menurut penggugat merupakan serangan terhadap kebebasan berpendapat.
Kesaksian Hancock diajukan ke pengadilan oleh Ellison, yang mendukung hukum. Hancock “terkenal karena penelitiannya tentang bagaimana orang menggunakan penipuan dengan teknologi, mulai dari mengirim teks dan email hingga mendeteksi ulasan online palsu,” menurut situs web Stanford.
Namun pengacara penggugat telah meminta hakim federal Minnesota yang mendengarkan kasus tersebut untuk menolak kesaksian tersebut, dengan tuduhan bahwa Hancock mengutip penelitian palsu.
APA ITU KECERDASAN BUATAN (AI)?
Seorang profesor Stanford dituduh menggunakan model bahasa AI untuk menulis deklarasi ahli. (Gambar Getty)
“[The] Deklarasi Prof. Jeff Hancock mengutip penelitian yang tidak ada,” bantah para pengacara dalam memo setebal 36 halaman baru-baru ini. “Tidak ada artikel dengan judul tersebut.”
“Studi” tersebut diberi judul “Pengaruh Video Deepfake terhadap Sikap dan Perilaku Politik” dan konon diterbitkan di Jurnal Teknologi Informasi & Politik. Itu Pengajuan 16 November mencatat bahwa jurnal tersebut asli, tetapi belum pernah menerbitkan penelitian dengan nama tersebut.
“Publikasinya ada, tetapi halaman yang dikutip adalah milik artikel yang tidak terkait,” bantah para pengacara. “Kemungkinan besar penelitian ini adalah 'halusinasi' yang dihasilkan oleh model bahasa AI besar seperti ChatGPT.”
“Penggugat tidak tahu bagaimana halusinasi ini bisa muncul dalam deklarasi Hancock, namun hal ini mempertanyakan keseluruhan dokumen, terutama ketika sebagian besar komentar tidak mengandung metodologi atau logika analitik apa pun.”
Dokumen tersebut juga menentang Ellison, dengan alasan bahwa “kesimpulan yang paling diandalkan oleh Ellison tidak memiliki metodologi di belakangnya dan seluruhnya terdiri dari pendapat para ahli.”
“Hancock bisa saja mengutip penelitian nyata yang serupa dengan proposisi di paragraf 21,” kata memo itu. “Tetapi keberadaan kutipan fiksi Hancock (atau asistennya) bahkan tidak mau repot-repot mempertanyakan kualitas dan kebenaran keseluruhan deklarasi.”
PERINTAH EKSEKUTIF BIDEN UNTUK 'BANGUN' KECERDASAN BUATAN YANG DISEBUT 'KANKER SOSIAL'
Aplikasi obrolan Microsoft Bing Chat dan ChatGPT AI terlihat di perangkat seluler dalam ilustrasi foto ini di Warsawa, Polandia, pada 21 Juli 2023. (Jaap Arriens/NurPhoto melalui Getty Images)
Memorandum tersebut juga memperkuat klaim bahwa kutipan tersebut palsu, dengan mencatat berbagai pencarian yang dilakukan pengacara untuk mencoba menemukan penelitian tersebut.
“Judul artikel yang dituduhkan, dan bahkan cuplikannya, tidak muncul di mana pun di internet sebagaimana diindeks oleh Google dan Bing, mesin pencari yang paling umum digunakan,” kata dokumen tersebut. Pencarian Google Cendekia, mesin pencari khusus untuk makalah akademis dan publikasi paten, tidak menemukan artikel yang cocok dengan deskripsi kutipan yang ditulis oleh 'Hwang' [the purported author] itu termasuk istilah 'deepfake.'”
“Mungkin ini hanya kesalahan copy-paste? Sebenarnya bukan,” kata pengajuan tersebut kemudian dengan datar. “Artikel itu tidak ada.”
Para pengacara menyimpulkan bahwa, jika deklarasi tersebut dibuat sebagian, maka deklarasi tersebut sepenuhnya tidak dapat diandalkan dan harus dikeluarkan dari pertimbangan pengadilan.
“Pernyataan Prof. Hancock harus dikecualikan secara keseluruhan karena setidaknya beberapa di antaranya didasarkan pada materi palsu yang kemungkinan besar dihasilkan oleh model AI, sehingga mempertanyakan pernyataan kesimpulannya,” dokumen tersebut menyimpulkan. “Pengadilan dapat menyelidiki sumber pemalsuan tersebut dan tindakan tambahan mungkin diperlukan.”
Jaksa Agung Minnesota Keith Ellison tiba untuk berbicara di atas panggung pada hari ketiga Konvensi Nasional Partai Demokrat di United Center pada 21 Agustus 2024, di Chicago, Illinois. (Gambar Getty)
KLIK DI SINI UNTUK MENDAPATKAN APLIKASI FOX NEWS
Fox News Digital menghubungi Ellison, Hancock, dan Universitas Stanford untuk memberikan komentar.
