Gedung Putih memiliki diumumkan bahwa beberapa vendor AI utama, termasuk OpenAI dan Microsoft, telah berkomitmen untuk mengambil langkah-langkah guna memerangi deepfake nonkonsensual dan materi pelecehan seksual anak.
Adobe, Cohere, Microsoft, OpenAI, dan penyedia data Common Crawl mengatakan bahwa mereka akan “secara bertanggung jawab” mencari sumber dan menjaga dataset yang mereka buat dan gunakan untuk melatih AI dari pelecehan seksual berbasis gambar. Organisasi-organisasi ini — kecuali Common Crawl — juga mengatakan bahwa mereka akan memasukkan “loop umpan balik” dan strategi dalam proses pengembangan mereka untuk menjaga agar AI tidak menghasilkan gambar pelecehan seksual. Dan Adobe, Microsoft, dan OpenAI (tetapi bukan Cohere) mengatakan bahwa mereka akan berkomitmen untuk menghapus gambar telanjang dari dataset pelatihan AI “bila perlu dan tergantung pada tujuan model.”
Perlu dicatat bahwa komitmen tersebut bersifat sukarela. Banyak vendor AI memilih untuk tidak berpartisipasi (misalnya Anthropic, Midjourney, dll.). Dan janji OpenAI khususnya patut dipertanyakan, mengingat CEO Sam Altman mengatakan pada bulan Mei bahwa perusahaan akan mengeksplorasi cara untuk “secara bertanggung jawab” menghasilkan pornografi AI.
Meski begitu, Gedung Putih menyebutnya sebagai kemenangan dalam upaya yang lebih luas untuk mengidentifikasi dan mengurangi bahaya dari gambar telanjang deepfake.
