Platform media sosial mengubah Grok setelah adanya keluhan karena menghasilkan informasi palsu tentang batas waktu pemungutan suara di negara bagian AS.
Platform media sosial X telah membuat perubahan pada chatbot AI-nya setelah lima menteri luar negeri Amerika Serikat memperingatkan bahwa chatbot tersebut menyebarkan informasi yang salah mengenai pemilu.
Pejabat tinggi pemilu dari Michigan, Minnesota, New Mexico, Pennsylvania, dan Washington mengirim surat bulan ini kepada Elon Musk yang mengeluhkan bahwa chatbot AI platform tersebut, Grok, menghasilkan informasi palsu tentang batas waktu pemungutan suara negara bagian tak lama setelah Presiden Joe Biden keluar dari pemilihan presiden 2024.
Para sekretaris negara meminta agar chatbot mengarahkan pengguna yang mengajukan pertanyaan terkait pemilu ke CanIvote.org, situs web informasi pemungutan suara yang dikelola oleh Asosiasi Sekretaris Negara Nasional.
Sebelum mencantumkan tanggapan terhadap pertanyaan terkait pemilu, chatbot tersebut kini mengatakan, “Untuk informasi akurat dan terkini tentang Pemilu AS 2024, silakan kunjungi Vote.gov.”
Kedua situs web tersebut adalah “sumber terpercaya yang dapat menghubungkan pemilih dengan pejabat pemilihan setempat”, kata kelima sekretaris negara bagian dalam pernyataan bersama.
“Kami menghargai tindakan X untuk meningkatkan platform mereka dan berharap mereka terus melakukan perbaikan yang akan memastikan pengguna mereka memiliki akses ke informasi yang akurat dari sumber yang tepercaya di tahun pemilu yang penting ini,” kata mereka.
Grok hanya tersedia bagi pelanggan X versi premium. Namun, para menteri luar negeri yang menandatangani surat tersebut mengatakan bahwa misinformasi pemilu dari Grok telah dibagikan ke berbagai platform media sosial dan menjangkau jutaan orang.
Grok terus mengulang informasi palsu selama 10 hari sebelum diperbaiki, kata sekretaris.
Platform tersebut tidak menanggapi permintaan komentar.
Perubahan yang mempromosikan tautan ke situs web pemungutan suara resmi tampaknya tidak mengatasi kemampuan Grok untuk membuat gambar-gambar yang menyesatkan yang dihasilkan oleh AI terkait dengan pemilihan umum. Orang-orang telah menggunakan alat tersebut untuk membanjiri platform dengan gambar-gambar palsu para kandidat, termasuk Wakil Presiden AS Kamala Harris dan mantan Presiden Donald Trump.
Grok memulai debutnya tahun lalu untuk pelanggan premium dan premium plus X dan disebut-sebut oleh Musk sebagai chatbot AI “pemberontak” yang akan menjawab “pertanyaan pedas yang ditolak oleh sebagian besar sistem AI lainnya”.
Platform media sosial telah menghadapi pengawasan ketat atas peran mereka dalam menyebarkan informasi yang salah, termasuk tentang pemilu.
Surat itu juga memperingatkan bahwa ketidakakuratan mungkin terjadi pada produk AI, terutama chatbot seperti Grok yang didasarkan pada model bahasa besar.
Sejak Musk membeli Twitter pada tahun 2022 dan mengganti namanya menjadi X, kelompok pengawas telah menyuarakan kekhawatiran atas lonjakan ujaran kebencian dan misinformasi yang berkembang di platform tersebut, serta pemangkasan staf yang memoderasi konten.
