Sebuah startup baru yang berangkat untuk memerangi momok deepfake dan bukti palsu di era AI memamerkan dagangannya di panggung Startup Battlefield di TechCrunch Disrupt 2024 minggu ini. Medan Kekuatan sedang membangun serangkaian API “yang menunggu paten” yang diberi nama MARQ, yang pertama dirancang untuk mengautentikasi konten.
Untuk konteksnya, tahun 2022 laporan dari lembaga penegak hukum Eropa, Europol, memperkirakan bahwa 90% dari seluruh konten online akan dihasilkan oleh AI pada tahun 2026. Internet sudah dipenuhi dengan konten yang dimanipulasi – baik yang seluruhnya dihasilkan oleh mesin, atau dibuat dengan bantuan AI – yang memaksa perusahaan teknologi besar untuk melakukannya. mengembangkan alat baru untuk mengatasi masalah tersebut. Google bulan lalu mengumumkan bahwa mereka akan segera mulai menandai gambar yang dihasilkan AI di mesin pencarinya, mengikuti jejak Meta, yang sudah melakukan hal yang sama di Facebook dan Instagram – meskipun akurasinya masih dipertanyakan.
Sementara itu, YouTube kini mengizinkan orang untuk meminta penghapusan konten yang meniru wajah atau suara mereka.
Masalah konten “palsu” masih terus berlanjut, dan ini merupakan masalah yang telah memunculkan banyak startup yang mengatasi masalah tersebut melalui berbagai cara, seperti Clarity, Reality Defender, dan Truepic, yang semuanya telah mengangkat isu yang cukup besar. jumlah dari pendukung nama besar dalam beberapa tahun terakhir.
ForceField, pada bagiannya, berfokus pada tingkat perangkat daripada konten — artinya setiap aliran data, di perangkat apa pun, yang dilengkapi teknologi ForceField. Ini bisa berupa aplikasi seluler dengan API ForceField yang terintegrasi, atau sistem manajemen video kamera pengintai atau perangkat keras drone — aplikasi ini dapat “menandatangani dan melakukan hash untuk verifikasi” secara real-time.
'Rantai hak asuh'
Produk pertama ForceField, disebut HashMarqmemverifikasi kiriman konten dan memberi label sebagai asli, lengkap dengan lencana keaslian. Daripada menggunakan teknik tangensial seperti AI yang bermusuhan (yaitu melawan AI dengan AI) atau watermarking, teknologi Forcefield membentuk “rantai pengawasan” untuk menetapkan asal usulnya dengan mencari tahu apakah suatu konten tertentu telah diubah — hal ini dilakukan dengan melihat metadata dari aliran data dan perangkat yang terhubung. Apa yang kita bicarakan di sini adalah teknologi blockchain, meskipun pendiri dan CEO ForceField MC Spano (gambar di atas) menekankan bahwa ini bukanlah startup “web3”.
“Kami memanfaatkan blockchain, kami tidak menggunakan koin atau kripto — kami bukan perusahaan web3,” kata Spano kepada TechCrunch. “Kami menggunakan blockchain dengan cara yang paling alami dan terarah, yaitu kontrak cerdas. Kami mengautentikasi apa pun yang dikumpulkan, seperti video, foto, file audio, tangkapan layar di perangkat seluler — namun kami juga mengamankan dan mengautentikasi multimedia apa pun yang dikumpulkan di IoT apa pun, mulai dari BlackBerry hingga robot. Tapi data streaming apa pun yang dikumpulkan, kami menandatanganinya, kami melakukan hashing, dan kemudian kami menggunakan teknologi buku besar.”
“Kontrak pintar” ini ada di blockchain (meskipun ForceField tidak mengungkapkan yang mana) untuk memastikan keamanan, transparansi, dan kekekalannya — kontrak tersebut tidak dapat diubah. Pelanggan perusahaan – yang dapat mencakup siapa saja mulai dari kepala petugas informasi hingga tim kepercayaan dan keselamatan – dapat mengakses teknologi melalui API atau SDK yang mereka integrasikan ke dalam aplikasi mereka sendiri. Jadi HashMarq pada dasarnya berfungsi sebagai sertifikat digital untuk konten yang telah lolos pemeriksaan pembuktian.
“Kami membangun teknologi untuk orang-orang baik – kami mengantisipasi bahwa pasar, yang berarti pemerintah, perusahaan, perusahaan kecil, bahkan individu, perlu membuktikan bahwa apa yang mereka tawarkan adalah nyata,” kata Spano. “Hal ini dibandingkan dengan apa yang dilakukan Meta dan perusahaan lain, di mana mereka pada dasarnya memberi label pada sesuatu yang dihasilkan oleh AI.”
Jadi, apa sebenarnya yang dilihat oleh teknologi ForceField saat menilai kebenaran suatu aset?
“Kami sedang mencari sekitar 90 poin bukti, tapi saya tidak bisa membagikan semuanya,” kata Spano. “Gagasan kami adalah kami melihat kecerdasan geospasial di sekitar perangkat itu, apa yang ada di sekitar pada saat itu, sinyal apa, perangkat lain apa, dan waktu. Jam berapa perangkat ini, khususnya, mengumpulkan video ini? Dan berapa lama dari pengumpulan hingga penyerahannya? Poin-poin tersebut saja dapat memberi tahu para jurnalis, organisasi berita, atau penegak hukum lebih dari apa yang mereka ketahui sebelumnya, dan juga dapat menunjukkan dengan tepat lokasi geografis.”
Meskipun ForceField secara resmi mulai membuahkan hasil pada tahun 2021, Spano mengatakan asal mula produk tersebut muncul pada tahun 2018 ketika dia diserang di New York City, dan kemudian menghadapi kendala besar baik dalam mengumpulkan dan menyerahkan bukti yang diperlukan oleh penegak hukum.
“Saya tahu ada kamera, saya tahu buktinya bisa dikumpulkan,” kata Spano. “Tetapi ketika saya berurusan dengan NYPD untuk mendapatkan bukti, mereka tidak mendapat panggilan pengadilan — jadi saya harus menemui pemilik kamera sendiri untuk meminta rekamannya. Saya merekamnya dengan telepon saya, dan ketika saya mengubah rekaman itu ke NYPD, mereka mengatakan itu tidak diperbolehkan. Dan saat itulah saya menyadari bahwa sistem peradilan dimulai jauh lebih awal dibandingkan di pengadilan.”
Dan hal ini menjadi inti masalah yang coba dipecahkan oleh Spano dan ForceField – masalah yang menjadi lebih besar di era AI generatif, di mana siapa pun yang memiliki laptop dapat membuat “bukti” yang masuk akal, namun sepenuhnya palsu. ”
Bukti konsep
Ini masih tahap awal, tetapi ForceField sedang mengembangkan bukti konsep (PoC) dengan raksasa asuransi Eriesementara Spano mengatakan perusahaan juga memiliki surat niat yang ditandatangani dengan tiga pelanggan tambahan, dengan rencana untuk menyelesaikan PoC dan meluncurkannya secara komersial pada Q1 2025.
Meskipun asuransi akan menjadi pasar yang besar bagi ForceField pada awalnya, Spano mengatakan bahwa dengan munculnya AI dan kemampuan bagi hampir semua orang untuk membuat aset yang tampak asli, tidak ada batasan nyata pada industri di mana asuransi dapat diterapkan. Seorang jurnalis warga, misalnya, yang telah merekam video di perangkat selulernya, dapat mengirimkannya ke stasiun berita, yang akan berintegrasi dengan API ForceField untuk menentukan keaslian sumber data. Penegakan hukum juga dapat menggunakan teknologi ini untuk memverifikasi laporan saksi atau korban.
Dalam hal pembiayaan, perusahaan sejauh ini didanai melalui campuran bootstrapping (Spano menjual perusahaan sebelumnya) dan modal yang disediakan oleh angel, termasuk aktor Debra Messing, serta Wilfredo Fernandezkepala urusan pemerintahan X dan pramuka di perusahaan VC Lightspeed. ForceField juga menerima uang melaluinya partisipasi dalam Techstars tahun lalu, saat perusahaan ini baru saja menerima pendanaan institusional pertamanya melalui investasi strategis dari pelanggannya, Erie Insurance.
Spano juga mengatakan bahwa dia berharap dapat menyelesaikan putaran pendanaan pada akhir tahun ini, seraya menambahkan bahwa dia yakin salah satu aspek terpenting dari perusahaan ini adalah bahwa perusahaan tersebut sepenuhnya dipimpin oleh perempuan dan lingkungannya sangat didominasi oleh laki-laki.
“Ada masalah besar dalam mendanai tim solo wanita di Amerika,” kata Spano. “Saya satu-satunya perempuan yang membangun teknologi semacam ini saat ini, semua pesaing lainnya dipimpin oleh laki-laki — jadi memiliki suara perempuan, transparansi, kejujuran, dan kebenaran… sangatlah penting.”
