Klip AI yang meyakinkan – dan memecah belah

Ketika sebuah klip audio memperlihatkan seorang kepala sekolah setempat melontarkan komentar-komentar yang menghina, klip tersebut menjadi viral secara online, memicu ancaman pembunuhan terhadap sang pendidik dan menimbulkan keributan di pinggiran kota di luar kota Baltimore. Namun tak lama kemudian, foto tersebut terungkap sebagai foto palsu dan dimanipulasi oleh kecerdasan buatan – lalu mengapa orang masih percaya bahwa foto tersebut asli?

“Saya benar-benar tidak mengerti mengapa saya harus terus-menerus menghadapi orang-orang bodoh ini di sini setiap hari.”

Maka dimulailah omelan panjang dari kepala sekolah SMA Pikesville, yang diselingi dengan kata-kata rasis, antisemit, dan ofensif. Kedengarannya seperti direkam secara diam-diam.

Pembicara selanjutnya mengeluhkan “anak-anak kulit hitam yang tidak tahu berterima kasih” dan orang-orang Yahudi di komunitas tersebut.

Klip tersebut, yang pertama kali diposting pada bulan Januari, menjadi viral secara nasional. Namun hal ini benar-benar mengejutkan di daerah pinggiran Pikesville yang damai dan rindang, yang memiliki banyak komunitas kulit hitam dan Yahudi, dan di kota terdekat, Baltimore, Maryland. Kepala Sekolah Eric Eiswert diberi cuti administratif berbayar sambil menunggu penyelidikan.

Alfie Malone, seorang pria kulit hitam yang tinggal di dekat Baltimore, melihat anggota komunitasnya yang lain memposting klip tersebut dan berasumsi bahwa itu nyata.

“Dalam benak Anda, Anda berpikir mungkin inilah perasaan orang-orang terhadap kami,” kata Malone. “Dan kemudian mendengarnya benar-benar muncul dalam audio.”

Dalam upaya untuk menguatkan apa yang didengarnya, Malone memeriksa rekaman nyata Eiswert lainnya di media sosial dan ternyata suaranya sama.

Jadi tukang pos paruh waktu, podcaster paruh waktu menekan tombol bagikan ulang.

Klip tersebut mulai mendapatkan perhatian di media sosial karena semakin banyak orang yang menyebarkannya secara online. Salah satu versi yang paling banyak dibagikan sedang mencapai dua juta penayangan dalam beberapa jam. Jumlahnya sudah sekitar 60 kali lipat dari seluruh populasi Pikesville.

Namun apa yang tidak disadari oleh mereka yang membagikan klip tersebut adalah bahwa kejutan lain akan segera terjadi: klip tersebut adalah video palsu yang dibuat oleh AI.

Untuk Radio BBC 4 Mengapa Kamu Membenciku ASSaya berada di Maryland untuk menyelidiki dampak klip ini terhadap kota itu. Isinya hampir seperti sebuah dongeng tentang bahaya yang ditimbulkan oleh AI, terutama ketika komunitas lokal menjadi sasarannya.

Ketika klip itu mendarat di meja Kristen Griffith, seorang reporter pendidikan di Baltimore Banner, dia mengira itu akan menjadi cerita yang relatif lugas tentang seorang guru yang diungkap karena membuat pernyataan yang menyinggung.

Namun seperti praktik terbaik dalam jurnalisme, Ms Griffith ingin memberikan kesempatan kepada kepala sekolah untuk berkomentar dan menceritakan kisahnya dari sudut pandangnya. Jadi, dia menghubungi perwakilan serikat pekerja, yang mengatakan bahwa Eiswert tidak hanya mengutuk komentar tersebut, tetapi dia juga tidak membuat komentar tersebut.

“Dia langsung berkata, oh, menurut kami ini palsu… Kami yakin ini AI,” katanya kepada BBC. “Saya belum pernah mendengar sudut itu” sebelumnya.

Namun ketika dia menerbitkan penjelasan itu, para pembacanya tidak yakin. Alih-alih menimbulkan pertanyaan tentang kebenaran klip tersebut, hal itu justru memicu reaksi balik dari orang-orang yang menganggap tuduhan pemalsuan hanyalah alasan atau upaya untuk menghindari akuntabilitas.

Pada titik inilah polisi setempat mulai menyelidiki kasus tersebut. Staf di SMA Pikesville mengatakan kepada mereka bahwa mereka merasa tidak aman karena semua perhatian tersebut, dan mereka khawatir sekolah tersebut disadap dengan alat perekam.

Reputasi Kepala Sekolah Eiswert juga terkena dampak serius. Keamanan ditingkatkan di sekelilingnya dan sekolah. Ia menjadi sasaran kebencian dan ancaman di media sosial. Saya menemukan lusinan pesan kasar yang ditujukan padanya di media sosial.

Kemudian pada bulan April, Kepala Polisi Baltimore Robert McCullough mengonfirmasi bahwa mereka sekarang memiliki “bukti yang meyakinkan bahwa rekaman tersebut tidak asli”.

Dan mereka yakin mereka tahu siapa yang membuat yang palsu.

Polisi mendakwa Dazhon Darien, 31 tahun, direktur atletik sekolah tersebut, dengan beberapa tuduhan terkait dengan video palsu tersebut. Tuduhan termasuk pencurian, pembalasan terhadap saksi dan penguntitan.

Dia ditangkap di bandara, di mana polisi mengatakan dia berencana terbang ke Houston, Texas.

Polisi mengatakan bahwa Darien telah diselidiki oleh Kepala Sekolah Eiswert atas dugaan pencurian $1.916 (£1.460) dari sekolah. Mereka juga menuduh ada “tantangan kinerja” dan kontraknya kemungkinan tidak akan diperpanjang.

Teori mereka adalah dengan membuat rekaman deepfake, dia berharap dapat mendiskreditkan kepala sekolah sebelum dia dipecat.

Penyelidik mengatakan mereka menelusuri email yang digunakan untuk mengirim video asli ke server yang terhubung dengan Darien, dan menuduh bahwa dia menggunakan jaringan komputer Baltimore County Public Schools untuk mengakses alat AI. Dia dijadwalkan diadili pada Desember 2024.

Perwakilan hukum Darien tidak menanggapi permintaan komentar.

Pengawas Sekolah Baltimore County Myriam Rogers sebelumnya mengatakan ini adalah “masa yang sangat sulit” bagi komunitas sekolah, kepala sekolah dan keluarganya.

Perwakilan Sekolah Menengah Pikesville dan Tuan Eiswert tidak menanggapi permintaan saya untuk memberikan komentar lebih lanjut.

Karena klipnya hanya berupa audio, berarti tidak ada tampilan visual, seperti gerakan robot yang biasanya mengungkap manipulasi AI. Disebutkan juga jargon, seperti “ekspektasi tingkat kelas”, dan detail lainnya, seperti nama staf, yang hanya diketahui oleh orang-orang yang dekat dengan sekolah.

Namun, jika Anda mendengarkan dengan cermat, ada pengeditan yang jelas di antara kalimat – dan suaranya, meskipun mirip dengan suara utama, terdengar cukup monoton. Kecerdasan buatan dapat menggunakan beberapa menit rekaman nyata – misalnya, aktor film favorit Anda atau kandidat presiden yang sedang berpidato – untuk kemudian menghasilkan klip yang membuatnya terdengar seolah-olah mereka mengatakan sesuatu yang tidak pernah mereka lakukan.

Tapi mungkin alasan terbesar mengapa orang percaya video itu nyata adalah karena video itu terasa benar, kata Mr Malone kepada saya.

Hal ini memanfaatkan pengalaman rasismenya sendiri sebagai pria kulit hitam yang tinggal di Baltimore.

Ketika Malone mendengar kepala sekolah menggambarkan siswa berkulit hitam sebagai siswa yang malas, hal itu langsung mengingatkannya pada penghinaan dan diskriminasi yang ia temui di sekolah dan tempat kerja.

Beberapa bulan kemudian, efek klip audio palsu tersebut masih terasa di Pikesville. Tuan Eiswert telah pindah pekerjaan dan bekerja di sekolah lain. Meskipun beberapa anggota komunitas mengatakan kepada saya bahwa mereka sekarang menerima bahwa video tersebut palsu, kerusakan sudah terjadi.

“Ini adalah lingkungan Yahudi dan mengatakan sesuatu yang sangat menghasut masyarakat adalah hal yang mengecewakan,” kata seorang wanita bernama Sharon kepada saya saat dia memasukkan kereta bayi cucunya ke dalam mobil di sebuah rumah di seberang sekolah menengah atas pada bulan Agustus lalu.

Selama beberapa menit, Sharon berbicara kepadaku seolah-olah klip itu nyata.

“Saya pikir ketika orang-orang mengatakan hal seperti itu, orang lain akan ikut serta dan itu membuat saya semakin takut.”

Ketika suaminya menimpali dari mobil, mengingatkan bahwa klip itu sebenarnya palsu, dia mengakui bahwa dia “kemudian mengetahui bahwa klip itu dibuat oleh AI”. Tapi dia bilang dia masih marah karenanya.

Saya menemukan bahwa bagi orang-orang seperti Sharon, yang percaya bahwa klip itu nyata, bahkan untuk waktu yang singkat, klip tersebut tetap melekat pada mereka – terutama ketika pesan tersebut mencerminkan pengalaman asli rasisme dan diskriminasi. Hal ini mengingatkan saya pada sesuatu yang saya dengar berkali-kali saat menyelidiki misinformasi dan teori konspirasi: “Yah, meskipun itu tidak nyata, menurut saya itulah yang mereka pikirkan.”

Semua perusahaan media sosial besar mengatakan bahwa mereka memiliki kebijakan untuk memberi label, menghapus, dan membatasi penyebaran postingan yang dibuat oleh AI. Namun tindakan itu hanya terjadi jika terbukti klip tersebut palsu. Pada saat itu, jumlahnya sudah bisa mencapai jutaan orang.

Alfie Malone mengatakan sebelumnya pada hari itu, dia berbicara dengan seorang teman yang masih tidak tahu bahwa klip itu dibuat oleh AI.

“Sejujurnya, saya yakin banyak orang di kota ini yang tidak tahu bahwa hal itu tidak benar,” katanya.

Dia mengatakan dia merasa menyesal karena Eiswert, kepala sekolah, dituduh melontarkan komentar tersebut. Dia juga khawatir episode tersebut telah merusak pengalaman rasisme yang sebenarnya.

Dia bilang dia akan berpikir dua kali sebelum membagikan ulang klip seperti ini lagi.

“Saya pernah terbakar api satu kali. Saya tidak akan menyentuh kompor lagi.”