Tasikmalayahitz.com, Jakarta – Platform komunikasi Discord mengakui adanya bug pada sistem moderasi berbasis kecerdasan buatan (AI) yang menyebabkan lebih dari 8.000 akun pengguna diblokir secara tidak sengaja selama beberapa bulan terakhir. Perusahaan menyatakan seluruh akun yang terdampak telah dipulihkan, meski sebagian pengguna masih mengaku belum mendapatkan kembali akses ke akun mereka. Hari Ini (10/7).
Dikutip dari Kompas.com, permasalahan ini mencuat setelah seorang pengguna platform X dengan akun @tallcowyt mengungkap dugaan kesalahan pada sistem moderasi AI Discord. Dalam unggahannya, ia menyebut sistem AI keliru mengidentifikasi gambar berpola kotak-kotak sebagai konten berbahaya.
Akibatnya, sejumlah pengguna menerima pemblokiran akun permanen meskipun hanya mengunggah gambar dari permainan Minecraft, papan catur, atau gambar lain dengan pola serupa.
Menanggapi laporan tersebut, Discord menjelaskan bahwa sistem moderasi mereka bekerja dengan mencocokkan konten yang diunggah pengguna dengan basis data materi berbahaya yang telah diketahui.
Baca juga: Kenalkan Teknologi AI, UBSI Kampus Tasikmalaya Adakan Workshop Chatbot Telegram di SMAN 1 Cineam
“Sistem kami menandai konten dengan mencocokkannya dengan materi berbahaya yang diketahui. Pencocokan kesamaan dapat menghasilkan positif palsu, dan anggota tim kami selalu meninjau konten yang ditandai sebelum tindakan apa pun diambil,” tulis Discord melalui akun resminya di platform X.
Namun, perusahaan mengakui terdapat bug yang menyebabkan mekanisme pengamanan tersebut tidak berjalan sebagaimana mestinya. Seharusnya, sistem hanya menahan sementara unggahan hingga proses peninjauan selesai, bukan langsung memblokir akun pengguna.
“Kami memiliki bug yang malah mengeluarkan pemblokiran. Bug yang sama mencegah pemblokiran dicabut secara otomatis,” jelas pihak Discord.
Discord mengungkapkan sekitar 8.200 akun terdampak bug tersebut sejak Mei 2026 hingga pekan lalu. Selain itu, sekitar 200 akun lainnya juga terkena dampak pada akhir pekan lalu.
Perusahaan mengklaim seluruh akun yang terdampak telah dipulihkan dan menyampaikan permohonan maaf atas insiden tersebut.
“Kami telah mencabut pemblokiran semua orang yang terpengaruh oleh bug ini.”
Discord juga mengakui terlambat mendeteksi masalah tersebut dan berjanji meningkatkan sistem pengamanan agar kejadian serupa tidak terulang.
“Seharusnya kami bisa mendeteksi ini lebih cepat. Kami sedang berupaya meningkatkan pengamanan dan memastikan sistem keamanan kami tidak menghukum orang yang tidak melakukan kesalahan apa pun,” lanjut pernyataan perusahaan.
Meski demikian, sejumlah pengguna di platform X masih melaporkan bahwa akun mereka belum sepenuhnya dipulihkan. Bahkan, fitur Community Notes pada salah satu unggahan Discord menyebut klaim bahwa seluruh akun telah kembali aktif belum sepenuhnya sesuai dengan kondisi di lapangan.
Insiden ini kembali menjadi sorotan terhadap penggunaan sistem moderasi otomatis berbasis AI pada platform digital. Kasus tersebut menunjukkan bahwa meskipun teknologi AI mampu mempercepat proses moderasi konten, pengawasan manusia tetap diperlukan untuk meminimalkan kesalahan yang dapat merugikan pengguna.
