Lemparkan batu dan kemungkinan besar Anda akan mendapatkan deepfake. Komoditisasi AI generatif telah menyebabkan ledakan konten palsu online: Menurut platform verifikasi ID Sumsub, terjadi peningkatan 4x lipat dalam deepfake di seluruh dunia dari tahun 2023 hingga 2024. Pada tahun 2024, deepfake menyumbang 7% dari semua penipuan, menurut Sumsub , mulai dari peniruan identitas dan pengambilalihan akun hingga kampanye rekayasa sosial yang canggih.
Dengan harapan dapat memberikan kontribusi yang berarti dalam memerangi deepfake, Meta merilis alat untuk menerapkan tanda air yang tidak terlihat pada klip video yang dihasilkan AI. Diumumkan pada hari Kamis, alat tersebut, yang disebut Meta Video Seal, tersedia dalam sumber terbuka dan dirancang untuk diintegrasikan ke dalam perangkat lunak yang ada. Alat ini bergabung dengan alat watermarking Meta lainnya, Watermark Anything (dirilis ulang hari ini di bawah lisensi permisif) dan Audio Seal.
“Kami mengembangkan Video Seal untuk memberikan solusi watermarking video yang lebih efektif, khususnya untuk mendeteksi video yang dihasilkan AI dan melindungi orisinalitas,” kata Pierre Fernandez, ilmuwan riset AI di Meta, kepada TechCrunch dalam sebuah wawancara.
Video Seal bukanlah teknologi pertama dari jenisnya. SynthID DeepMind dapat memberi watermark pada video, dan Microsoft memiliki metodologi watermarking videonya sendiri.
Namun Fernandez menegaskan bahwa banyak pendekatan yang ada gagal.
“Meskipun ada alat watermarking lainnya, alat ini tidak menawarkan ketahanan yang memadai terhadap kompresi video, yang sangat umum terjadi saat berbagi konten melalui platform sosial; tidak cukup efisien untuk dijalankan dalam skala besar; tidak terbuka atau dapat direproduksi; atau berasal dari watermarking gambar, yang kurang optimal untuk video,” kata Fernandez.
Selain tanda air, Video Seal dapat menambahkan pesan tersembunyi ke video yang nantinya dapat diungkap untuk menentukan asal-usulnya. Meta mengklaim bahwa Video Seal tahan terhadap pengeditan umum seperti pengaburan dan pemotongan, serta algoritma kompresi populer.
Fernandez mengakui bahwa Video Seal memiliki keterbatasan tertentu, terutama trade-off antara seberapa jelas tanda air alat tersebut dan ketahanannya secara keseluruhan terhadap manipulasi. Kompresi yang berat dan pengeditan yang signifikan dapat mengubah tanda air atau menjadikannya tidak dapat dipulihkan, tambahnya.
Tentu saja, masalah terbesar yang dihadapi Video Seal adalah pengembang dan industri tidak punya banyak alasan untuk mengadopsinya, terutama mereka yang sudah menggunakan solusi berpemilik. Dalam upaya untuk mengatasi hal tersebut, Meta meluncurkan papan peringkat publik, Meta Omni Seal Bench, yang didedikasikan untuk membandingkan kinerja berbagai metode watermarking, dan menyelenggarakan lokakarya tentang watermarking tahun ini di ICLR, sebuah konferensi besar AI.
“Kami berharap semakin banyak peneliti dan pengembang AI yang akan mengintegrasikan beberapa bentuk watermarking ke dalam pekerjaan mereka,” kata Fernandez. “Kami ingin berkolaborasi dengan industri dan civitas akademika untuk maju lebih cepat di bidangnya.”
