Meta memperluas pengujian pengenalan wajah sebagai tindakan anti-penipuan untuk memerangi iklan penipuan selebriti dan lebih luas lagi, pemilik Facebook mengumumkan pada hari Senin.
Monika Bickert, Wakil Presiden Kebijakan Konten Meta, menulis dalam sebuah postingan blog bahwa beberapa pengujian bertujuan untuk memperkuat langkah-langkah anti-penipuan yang ada, seperti pemindaian otomatis (menggunakan pengklasifikasi pembelajaran mesin) yang dijalankan sebagai bagian dari sistem peninjauan iklannya, untuk mempersulit penipu untuk tidak terdeteksi dan menipu pengguna Facebook dan Instagram untuk mengeklik iklan palsu.
“Penipu sering kali mencoba menggunakan gambar tokoh masyarakat, seperti pembuat konten atau selebritas, untuk memancing orang agar terlibat dengan iklan yang mengarah ke situs web penipuan yang meminta mereka untuk membagikan informasi pribadi atau mengirim uang. Skema ini, yang biasa disebut 'celeb-bait', melanggar kebijakan kami dan berdampak buruk bagi orang-orang yang menggunakan produk kami,” tulisnya.
“Tentu saja, selebritis ditampilkan dalam banyak iklan yang sah. Namun karena iklan umpan selebriti sering kali dirancang agar terlihat nyata, tidak selalu mudah untuk mendeteksinya.”
Pengujian tersebut tampaknya menggunakan pengenalan wajah sebagai back-stop untuk memeriksa tanda-tanda iklan yang dicurigai oleh sistem Meta yang ada ketika iklan tersebut berisi gambar tokoh masyarakat yang berisiko disebut “umpan selebritis”.
“Kami akan mencoba menggunakan teknologi pengenalan wajah untuk membandingkan wajah dalam iklan dengan gambar profil Facebook dan Instagram figur publik tersebut,” tulis Bickert. “Jika kami mengonfirmasi kecocokan dan iklan tersebut adalah penipuan, kami akan memblokirnya.”
Meta mengklaim fitur tersebut tidak digunakan untuk tujuan lain selain untuk memerangi iklan penipuan. “Kami segera menghapus data wajah apa pun yang dihasilkan dari iklan untuk perbandingan satu kali ini, terlepas dari apakah sistem kami menemukan kecocokan, dan kami tidak menggunakannya untuk tujuan lain apa pun,” katanya.
Perusahaan tersebut mengatakan uji coba awal terhadap pendekatan ini – dengan “sekelompok kecil selebriti dan tokoh masyarakat” (tidak disebutkan siapa) – telah menunjukkan hasil yang “menjanjikan” dalam meningkatkan kecepatan dan kemanjuran dalam mendeteksi dan menegakkan hukum terhadap penipuan jenis ini.
Meta juga mengatakan kepada TechCrunch bahwa penggunaan pengenalan wajah akan efektif untuk mendeteksi iklan penipuan deepfake, di mana AI generatif telah digunakan untuk menghasilkan citra orang-orang terkenal.
Raksasa media sosial ini telah dituduh selama bertahun-tahun gagal menghentikan penipu yang menyalahgunakan wajah orang-orang terkenal dalam upaya menggunakan platform iklannya untuk menyebarkan penipuan seperti investasi kripto yang meragukan kepada pengguna yang tidak menaruh curiga. Jadi ini adalah saat yang menarik bagi Meta untuk mendorong langkah-langkah anti-penipuan berbasis pengenalan wajah untuk mengatasi masalah ini, pada saat perusahaan secara bersamaan mencoba mengambil sebanyak mungkin data pengguna untuk melatih model AI komersialnya (sebagai bagian dari perebutan industri yang lebih luas untuk membangun alat AI generatif).
Dalam beberapa minggu mendatang, Meta mengatakan akan mulai menampilkan notifikasi dalam aplikasi kepada lebih banyak tokoh masyarakat yang terkena umpan selebritis – memberi tahu mereka bahwa mereka terdaftar dalam sistem.
“Tokoh masyarakat yang terdaftar dalam perlindungan ini dapat memilih untuk tidak ikut serta dalam Pusat Akun mereka kapan saja,” kata Bickert.
Meta juga menguji penggunaan pengenalan wajah untuk mengenali akun-akun selebriti — misalnya, di mana penipu berusaha menyamar sebagai tokoh masyarakat di platform untuk memperluas peluang mereka melakukan penipuan — sekali lagi dengan menggunakan AI untuk membandingkan gambar profil pada akun yang mencurigakan dengan a gambar profil Facebook dan Instagram tokoh masyarakat.
“Kami berharap dapat segera menguji hal ini dan pendekatan baru lainnya,” tambah Bickert.
Video selfie plus AI untuk membuka kunci akun
Selain itu, Meta telah mengumumkan bahwa mereka sedang menguji coba penggunaan pengenalan wajah yang diterapkan pada video selfie untuk memungkinkan pembukaan kunci akun yang lebih cepat bagi orang-orang yang telah terkunci dari akun Facebook/Instagram mereka setelah mereka diambil alih oleh penipu (misalnya jika seseorang ditipu untuk menyerahkan kata sandi mereka).
Hal ini tampaknya dimaksudkan untuk menarik pengguna dengan mempromosikan kegunaan teknologi pengenalan wajah untuk verifikasi identitas — dengan Meta yang menyiratkan bahwa ini akan menjadi cara yang lebih cepat dan mudah untuk mendapatkan kembali akses akun daripada mengunggah gambar tanda pengenal yang dikeluarkan pemerintah (yang merupakan cara biasa). rute untuk membuka kunci akses sekarang).
“Verifikasi video selfie memperluas pilihan bagi orang-orang untuk mendapatkan kembali akses akun, hanya membutuhkan waktu satu menit untuk menyelesaikannya dan merupakan cara termudah bagi orang-orang untuk memverifikasi identitas mereka,” kata Bickert. “Meskipun kami tahu peretas akan terus mencoba mengeksploitasi alat pemulihan akun, metode verifikasi ini pada akhirnya akan lebih sulit disalahgunakan oleh peretas dibandingkan verifikasi identitas berbasis dokumen tradisional.”
Metode identifikasi selfie video berbasis pengenalan wajah yang sedang diuji Meta akan mengharuskan pengguna mengunggah video selfie yang kemudian akan diproses menggunakan teknologi pengenalan wajah untuk membandingkan video tersebut dengan gambar profil di akun yang mereka coba akses.
Meta mengklaim metodenya mirip dengan verifikasi identitas yang digunakan untuk membuka kunci ponsel atau mengakses aplikasi lain, seperti FaceID Apple di iPhone. “Begitu seseorang mengunggah video selfie, video itu akan dienkripsi dan disimpan dengan aman,” tambah Bickert. “Itu tidak akan pernah terlihat di profil mereka, di teman, atau di orang lain di Facebook atau Instagram. Kami segera menghapus data wajah apa pun yang dihasilkan setelah perbandingan ini terlepas dari apakah ada kecocokan atau tidak.”
Mengkondisikan pengguna untuk mengunggah dan menyimpan video selfie untuk verifikasi ID dapat menjadi salah satu cara Meta memperluas penawarannya di bidang identitas digital — jika cukup banyak pengguna yang memilih untuk mengunggah biometrik mereka.
Tidak ada tes di Inggris atau UE — untuk saat ini
Semua tes pengenalan wajah ini dijalankan secara global, menurut Meta. Namun perusahaan tersebut mencatat, dengan cukup mencolok, bahwa pengujian saat ini tidak dilakukan di Inggris atau Uni Eropa – di mana peraturan perlindungan data yang komprehensif berlaku. (Dalam kasus khusus biometrik untuk verifikasi ID, kerangka perlindungan data blok tersebut memerlukan persetujuan eksplisit dari individu yang terkait untuk kasus penggunaan tersebut.)
Mengingat hal ini, pengujian yang dilakukan Meta tampaknya sesuai dengan strategi humas yang lebih luas yang telah dilakukan di Eropa dalam beberapa bulan terakhir untuk mencoba menekan anggota parlemen lokal agar melemahkan perlindungan privasi warga negara. Kali ini, alasan yang mendorong mereka untuk mendesakkan pemrosesan data tanpa batas untuk AI bukanlah gagasan (yang mementingkan diri sendiri) mengenai keragaman data atau klaim atas kehilangan pertumbuhan ekonomi namun tujuan yang lebih jelas adalah memerangi penipu.
“Kami terlibat dengan regulator Inggris, pembuat kebijakan, dan pakar lainnya sambil melakukan pengujian,” kata juru bicara Meta Andrew Devoy kepada TechCrunch. “Kami akan terus mencari masukan dari para ahli dan melakukan penyesuaian seiring dengan perkembangan fitur.”
Namun, meskipun penggunaan pengenalan wajah untuk tujuan keamanan yang sempit mungkin dapat diterima oleh sebagian orang – dan, tentu saja, mungkin dilakukan oleh Meta berdasarkan aturan perlindungan data yang ada – menggunakan data orang untuk melatih model AI komersial adalah hal yang sangat sulit.
