ChatGPT Search, mesin pencari bertenaga AI yang diluncurkan bulan ini, dapat tertipu karena menghasilkan ringkasan yang sepenuhnya menyesatkan, surat kabar Inggris Penjaga telah menemukannya.
Fitur pencarian ChatGPT dimaksudkan untuk mempercepat penjelajahan dengan melakukan hal-hal seperti merangkum ulasan produk halaman web. Namun The Guardian menemukan bahwa ChatGPT dapat mengabaikan ulasan negatif dan menghasilkan ringkasan yang “sepenuhnya positif” dengan memasukkan teks tersembunyi ke dalamnya. situs web yang dibuatnya. Pencarian ChatGPT juga dapat dibuat untuk mengeluarkan kode berbahaya menggunakan metode ini.
Serangan teks tersembunyi seperti ini merupakan risiko yang umum terjadi pada model bahasa besar, namun ini tampaknya merupakan pertama kalinya hal ini ditunjukkan pada produk penelusuran langsung yang didukung AI. Google, pemimpin dalam pencarian, memiliki lebih banyak pengalaman dalam menangani masalah serupa, kata The Guardian.
OpenAI tidak berkomentar mengenai kejadian spesifik ini ketika TechCrunch menghubunginya, namun mengatakan pihaknya menggunakan berbagai metode untuk memblokir situs web jahat dan terus melakukan perbaikan.
TechCrunch memiliki buletin yang berfokus pada AI! Daftar di sini untuk mendapatkannya di kotak masuk Anda setiap hari Rabu.
