Special Plan: Discord Blokir Ribuan Pengguna Akibat Bug Moderasi AI
Special Plan – Diskord, platform komunikasi digital yang digunakan oleh jutaan pengguna di seluruh dunia, kini terlibat dalam skandal moderasi AI yang menimbulkan keluhan signifikan. Sebuah Special Plan diungkapkan oleh perusahaan ini setelah sistem otomatisnya salah mengenali konten yang aman sebagai materi berbahaya. Kesalahan ini menyebabkan lebih dari 8.000 akun pengguna diblokir secara permanen selama sekitar dua bulan terakhir. Bug dalam alat deteksi konten kecerdasan buatan menjadi penyebab utama insiden ini, dengan gambar berpola kotak-kotak atau tekstur transparan yang justru ditangguhkan tanpa alasan jelas.
Konten yang Terjebak dalam Kesalahan Otomatis
Konten yang diblokir secara keliru mencakup berbagai jenis gambar yang sehari-hari digunakan oleh pengguna untuk komunikasi dan kolaborasi. Contohnya, spreadsheet, papan catur, desain grafis, atau latar belakang transparan berwarna putih dan abu-abu. Sistem moderasi AI Diskord bekerja dengan membandingkan gambar tersebut dengan database berisi konten yang dianggap tidak pantas. Mekanisme ini bertujuan mengurangi beban tim moderasi manusia, tetapi dalam kasus ini justru menimbulkan kebingungan.
“Kami menyadari bahwa Special Plan kami masih perlu penyesuaian untuk menghindari kesalahan seperti ini,” kata perwakilan Diskord dalam pernyataan resmi di platform X.
Kesalahan otomatis terjadi karena algoritma AI kesulitan membedakan pola grid dari konten yang berpotensi berbahaya. Beberapa pengguna menyebutkan bahwa AI terlalu sensitif terhadap pola berbentuk kotak, sehingga memblokir gambar yang sebenarnya tidak melanggar aturan platform.
Impact pada Pengguna dan Proses Moderasi
Insiden ini mengganggu aktivitas banyak pengguna, terutama mereka yang mengandalkan Diskord untuk bekerja atau mengelola komunitas. Akun yang diblokir secara permanen sulit dikembalikan, dan pengguna terpaksa mengirimkan permohonan ke Diskord untuk meninjau ulang status mereka. Sebagian besar keluhan berasal dari pengguna kecil dan menengah yang tidak memiliki sumber daya untuk mengajukan banding.
Banyak yang menilai kesalahan moderasi AI ini terjadi karena ketidakseimbangan antara kecepatan pemrosesan otomatis dan akurasi. Meski sistem AI mampu memfilter konten dengan cepat, kejadian seperti ini mengurangi kepercayaan pengguna terhadap kemampuan platform dalam menjaga lingkungan komunikasi yang aman. Special Plan Diskord juga menjadi alasan utama untuk mengubah strategi moderasi secara lebih terarah.
Langkah Pemecahan Masalah dan Peningkatan Sistem
Setelah mengungkap masalah ini, Diskord berkomitmen untuk memperbaiki sistem moderasi AI dan mencegah kesalahan serupa terjadi lagi. Perusahaan ini menyatakan sedang melakukan uji coba algoritma baru yang lebih cermat dalam memilah konten. Selain itu, tim moderasi manusia akan diberikan wewenang tambahan untuk memeriksa kasus-kasus yang dianggap kontroversial.
Salah satu langkah Special Plan Diskord adalah menambahkan fitur penjelasan lebih detail kepada pengguna yang diblokir. Mereka juga berencana memperluas database referensi konten untuk mencakup berbagai jenis gambar yang umum digunakan, termasuk spreadsheet dan desain grafis. Dengan demikian, sistem akan lebih memahami konteks penggunaan gambar dalam komunikasi digital.
Analisis Kesalahan AI dan Persaingan dengan Platform Lain
Kesalahan ini mengilustrasikan tantangan teknologi AI dalam moderasi konten. Meskipun algoritma canggih ini bisa mengurangi kebutuhan manusia, kesalahan interpretasi tetap bisa terjadi. Hal ini membuat Diskord harus memperbaiki mekanisme kesalahan sistem agar tidak merugikan pengguna yang tidak bermaksud melanggar aturan. Special Plan ini juga menunjukkan bahwa platform digital harus beradaptasi dengan kebutuhan pengguna yang semakin beragam.
Kejadian serupa juga terjadi di platform lain seperti Instagram dan Facebook Groups pada 2025, menunjukkan bahwa masalah moderasi AI adalah fenomena global. Namun, Diskord menjadi perusahaan pertama yang secara terbuka mengungkapkan kegagalan sistem ini. Dengan Special Plan yang terus diperbaiki, harapan muncul bahwa kejadian serupa akan semakin langka.
