Bluesky pada hari Jumat menerbitkannya laporan moderasi selama setahun terakhir, mencatat pertumbuhan signifikan yang dialami jaringan sosial pada tahun 2024 dan bagaimana hal ini memengaruhi beban kerja tim Trust & Safety. Laporan tersebut juga mencatat bahwa jumlah terbesar laporan datang dari pengguna yang melaporkan akun atau postingan yang berisi pelecehan, trolling, atau intoleransi – sebuah masalah yang mengganggu Bluesky seiring berkembangnya, dan bahkan terkadang menyebabkan protes berskala luas atas keputusan moderasi individu.
Laporan perusahaan tidak membahas atau menjelaskan mengapa mereka mengambil tindakan atau tidak mengambil tindakan terhadap pengguna individu, termasuk mereka yang aktif daftar yang paling banyak diblokir.
Perusahaan menambahkan lebih dari 23 juta pengguna pada tahun 2024, karena Bluesky menjadi tujuan baru bagi mantan pengguna Twitter/X karena berbagai alasan. Sepanjang tahun, jejaring sosial ini mendapat manfaat dari beberapa perubahan di X, termasuk keputusannya untuk mengubah cara kerja pemblokiran dan melatih AI pada data pengguna. Pengguna lain meninggalkan X setelah hasil pemilihan presiden AS, berdasarkan bagaimana politik pemilik X, Elon Musk, mulai mendominasi platform. Aplikasi ini juga mengalami lonjakan pengguna sementara X dilarang sementara di Brasil pada bulan September.
Untuk memenuhi permintaan yang disebabkan oleh pertumbuhan ini, Bluesky meningkatkan tim moderasinya menjadi sekitar 100 moderator, katanya, dan terus merekrut. Perusahaan juga mulai menawarkan konseling psikologis kepada anggota tim untuk membantu mereka menghadapi pekerjaan sulit karena terus-menerus terpapar konten grafis. (Area yang kami harap akan diatasi oleh AI suatu hari nanti, karena manusia tidak diciptakan untuk menangani jenis pekerjaan ini.)
Secara total, terdapat 6,48 juta laporan ke layanan moderasi Bluesky, naik 17x lipat dari tahun 2023 yang hanya berjumlah 358.000 laporan.
Mulai tahun ini, Bluesky akan mulai menerima laporan moderasi langsung dari aplikasinya. Mirip dengan X, ini akan memungkinkan pengguna melacak tindakan dan pembaruan dengan lebih mudah. Nantinya, ini juga akan mendukung banding dalam aplikasi.
Ketika pengguna di Brasil membanjiri Bluesky pada bulan Agustus, perusahaan tersebut melihat sebanyak 50.000 laporan per hari, pada puncaknya. Hal ini menyebabkan keterlambatan dalam menangani laporan moderasi dan mengharuskan Bluesky mempekerjakan lebih banyak staf berbahasa Portugis, termasuk melalui vendor kontrak.
Selain itu, Bluesky mulai mengotomatiskan lebih banyak kategori laporan selain spam untuk membantu mengatasi masuknya laporan tersebut, meskipun hal ini terkadang menyebabkan kesalahan positif. Namun, otomatisasi membantu mengurangi waktu pemrosesan menjadi hanya “detik” untuk akun “kepastian tinggi”. Sebelum otomatisasi, sebagian besar laporan ditangani dalam waktu 40 menit. Kini, moderator manusia selalu mendapat informasi untuk mengatasi positif palsu dan mengajukan banding, jika tidak selalu menangani keputusan awal.
Bluesky mengatakan bahwa 4,57% pengguna aktifnya (1,19 juta) membuat setidaknya satu laporan moderasi pada tahun 2024, turun dari 5,6% pada tahun 2023. Sebagian besar – 3,5 juta laporan – ditujukan untuk postingan individual. Profil akun dilaporkan 47.000 kali, sering kali berupa gambar profil atau foto spanduk. Daftar dilaporkan 45.000 kali; DM dilaporkan sebanyak 17.700 kali, dengan feed dan Paket Pemula masing-masing menerima 5.300 dan 1.900 laporan.
Sebagian besar laporan mengenai perilaku anti-sosial, seperti trolling dan pelecehan – sebuah sinyal dari pengguna Bluesky bahwa mereka ingin melihat jejaring sosial yang tidak terlalu beracun, dibandingkan dengan X.
Laporan lainnya ditujukan untuk kategori berikut, kata Bluesky:
- Konten yang menyesatkan (peniruan identitas, misinformasi, atau klaim palsu tentang identitas atau afiliasi): 1,20 juta
- Spam (sebutan berlebihan, balasan, atau konten berulang): 1,40 juta
- Konten seksual yang tidak diinginkan (konten ketelanjangan atau konten dewasa tidak diberi label dengan benar): 630.000
- Masalah ilegal atau mendesak (pelanggaran nyata terhadap hukum atau persyaratan layanan Bluesky): 933.000
- Lainnya (masalah yang tidak sesuai dengan kategori di atas): 726.000
Perusahaan juga menawarkan pembaruan pada layanan pelabelannya, yang melibatkan label yang ditambahkan ke postingan dan akun. Pelaku label manusia menambahkan 55.422 label “sosok seksual”, diikuti oleh 22.412 label “kasar”, 13.201 label “spam”, 11.341 label “intoleransi”, dan 3.046 label “ancaman”.
Pada tahun 2024, 93.076 pengguna mengajukan total 205.000 banding atas keputusan moderasi Bluesky.
Ada juga 66.308 penghapusan akun dari moderator dan 35.842 penghapusan akun otomatis. Bluesky juga mengajukan 238 permintaan dari penegak hukum, pemerintah, dan firma hukum. Perusahaan menanggapi 182 permintaan dan memenuhi 146 permintaan. Sebagian besar permintaan adalah permintaan penegakan hukum dari Jerman, AS, Brasil, dan Jepang, katanya.
Laporan lengkap Bluesky juga menyelidiki jenis masalah lainnya, termasuk klaim merek dagang dan hak cipta serta laporan keselamatan anak/CSAM. Perusahaan mencatat telah menyerahkan 1.154 laporan CSAM yang dikonfirmasi ke Pusat Nasional untuk Anak Hilang & Tereksploitasi (NCMEC).
