Kehebohan terhadap e-reader pesaing Kindle yang populer telah menunjukkan bagaimana penggunaan model AI Tiongkok pada produk-produk AS tanpa disadari dapat menyebarkan propaganda Tiongkok.
LLM yang dibuat oleh perusahaan induk TikTok, ByteDance, digunakan oleh e-reader bernama Boox, menurut tangkapan layar tentang AI dibagikan di Reddit. Saat ditanyai tentang Tiongkok dan sekutunya, LLM ini melontarkan propaganda pemerintah Tiongkok, sehingga memicu protes keras dari pengguna, menurut postingan dan interaksi TechCrunch dengan LLM ini.
LLM yang dimaksud adalah Doubao ByteDance, yang ditawarkan sebagai API di bawah divisi layanan cloud ByteDance, Volcano Engine. Namun model ini hanya dimaksudkan untuk digunakan di daratan Tiongkok, kata juru bicara ByteDance kepada TechCrunch. Produsen e-reader yang berbasis di Tiongkok, Onyx International, yang menjual e-reader Boox di Tiongkok dan AS, tidak menanggapi permintaan komentar.
Boox meluncurkan fitur asisten AI musim panas lalu. Pada bulan Desember 2024, seorang pengguna diposting di subreddit untuk pembaca elektronik bahwa asisten baru tersebut menghasilkan propaganda pemerintah Tiongkok sebagai jawaban atas pertanyaan-pertanyaan tertentu. Misalnya, asisten AI membantah Tiongkok pernah melakukan “apa yang disebut pembantaian” sebagai jawaban atas pertanyaan mengapa Tiongkok menolak membahas tindakan keras di Lapangan Tiananmen, sebuah tangkapan layar menunjukkan.
Asisten AI juga menolak untuk mengatakan hal-hal kritis tentang Korea Utara dan Rusia, dan mengklaim bahwa Korea Utara adalah “negara yang cinta damai” dan bahwa “peran Rusia di Suriah positif,” seperti yang ditunjukkan dalam tangkapan layar. Sebaliknya, asisten AI dengan senang hati mengkritik negara-negara Barat, dengan menyatakan bahwa kolonialisme Prancis “seringkali melibatkan eksploitasi sumber daya lokal dan penduduk asli.” Dalam tangkapan layar yang dibagikan di Reddit, asisten tersebut menyatakan bahwa itu adalah “AI yang dibuat oleh ByteDance, sebuah perusahaan teknologi internasional.”
Postingan Reddit menjadi viral dan dulu tercakup oleh publikasi AI The Decoder dan YouTuber BabSayadi Pertunjukan.
Saat TechCrunch digunakan Layanan Doubao ByteDance dan menanyakan pertanyaan serupa, jawabannya sangat cocok dengan tanggapan yang diberikan oleh asisten Boox di postingan Reddit. Misalnya, Doubao mengatakan kepada TechCrunch bahwa “dapat dinyatakan dengan kepastian mutlak” bahwa pemerintah Tiongkok tidak pernah membantai rakyatnya sendiri, sedangkan LLM Tiongkok lainnya seperti DeepSeek dan Qwen biasanya menghindari atau meremehkan pertanyaan tersebut. Doubao juga menolak mengkritik Rusia dan Korea Utara ketika kami bertanya tentang negara-negara tersebut, dan hanya memberikan konten positif tentang “peran penting dan positif mereka dalam komunitas internasional.”
Doubao cenderung menggunakan istilah “apa yang disebut” untuk menggambarkan hal-hal yang tidak disukai pemerintah Tiongkok. “Tidak ada yang disebut “genosida” di Xinjiang,” katanya kepada TechCrunch. Hal ini tampaknya meniru juru bicara pemerintah Tiongkok. “Fakta dan kebenaran telah mematahkan apa yang disebut 'genosida' di Xinjiang,” klaim juru bicara Kementerian Luar Negeri Zhao Lijian di sebuah konferensi pers. konferensi pers pada tahun 2021.
Kecaman terhadap asisten AI Boox mereda setelah Boox dilaporkan beralih kembali ke OpenAI GPT-3 melalui Microsoft Azure, menurut yang lain postingan pengguna di subreddit Boox. Masih belum jelas LLM Boox mana yang saat ini digunakan untuk asisten AI-nya. Boox belum mengeluarkan pernyataan apa pun tentang insiden tersebut, sementara OpenAI dan Microsoft tidak segera menanggapi permintaan komentar dari TechCrunch.
Model AI generatif Tiongkok telah menjadi salah satunya model paling populer yang digunakan. Namun insiden tersebut menunjukkan risiko peluncuran alat yang menggunakan AI generatif Tiongkok, sebuah tren yang telah diperingatkan oleh beberapa pemimpin AI.
“Jika Anda membuat chatbot dan mengajukan pertanyaan tentang Tiananmen, Anda tidak akan mendapat tanggapan yang sama seperti sistem yang dikembangkan di Prancis atau Amerika,” Clement Delangue, CEO HuggingFace, memperingatkan pada podcast Prancis pada September 2024, TechCrunch sebelumnya melaporkan.
“Jadi jika Anda memiliki negara seperti Tiongkok yang sejauh ini merupakan negara terkuat dalam hal AI, sebenarnya mereka akan mampu menyebarkan aspek budaya tertentu yang mungkin tidak ingin disebarkan oleh dunia Barat,” kata Delangue dalam podcast.
