Bulan ini, ChatGPT meluncurkan generator gambar baru sebagai bagian dari model 4O -nya yang jauh lebih baik dalam menghasilkan teks di dalam gambar.
Orang-orang sudah menggunakannya untuk menghasilkan tanda terima restoran palsu, berpotensi menambahkan alat lain ke toolkit AI Deepfake yang sudah ekstensif yang digunakan oleh penipu.
Poster Media Sosial Prolifik dan VC Deedy Das Diposting di x Foto kwitansi palsu untuk (nyata) San Francisco Steakhouse yang katanya dibuat dengan 4O.
Yang lain dapat meniru hasil yang serupa, termasuk satu dengan noda makanan atau minuman agar terlihat lebih otentik:
Contoh TechCrunch yang paling nyata ditemukan sebenarnya dari Prancis, di mana pengguna LinkedIn diposting Kwitansi AI yang dihasilkan AI untuk rantai restoran setempat:
TechCrunch diuji 4o dan juga dapat menghasilkan tanda terima palsu untuk Applebee's di San Francisco:
Tapi upaya kami memiliki beberapa hadiah mati yang dipalsukan. Untuk satu, totalnya menggunakan koma, bukan periode. Untuk yang lain, matematika tidak bertambah. LLMS masih berjuang untuk melakukan matematika dasar, jadi ini tidak terlalu mengejutkan.
Tetapi tidak akan sulit bagi penipu untuk dengan cepat memperbaiki beberapa angka dengan perangkat lunak pengeditan foto atau, mungkin, permintaan yang lebih tepat.
Jelas bahwa membuatnya sangat mudah untuk menghasilkan tanda terima palsu menghadirkan peluang besar untuk penipuan. Tidak akan sulit membayangkan teknologi semacam ini digunakan oleh aktor buruk untuk “diganti” untuk biaya yang sepenuhnya palsu.
Juru bicara Openai, Taya Christianson mengatakan kepada TechCrunch bahwa semua gambarnya termasuk metadata yang menunjukkan bahwa mereka dibuat oleh Chatgpt. Christianson menambahkan bahwa Openai “mengambil tindakan” ketika pengguna melanggar kebijakan penggunaannya dan bahwa itu “selalu belajar” dari penggunaan dan umpan balik dunia nyata.
TechCrunch kemudian bertanya mengapa chatgpt memungkinkan orang untuk menghasilkan tanda terima palsu di tempat pertama, dan apakah ini sejalan dengan openai kebijakan penggunaan (Penipuan Ban yang mana.)
Christianson menjawab bahwa “tujuan Openai adalah untuk memberi pengguna kebebasan kreatif sebanyak mungkin” dan bahwa penerimaan AI palsu dapat digunakan dalam situasi yang tidak dipahami seperti “mengajar orang tentang literasi keuangan” bersama dengan menciptakan seni asli dan iklan produk.
