Evaluasi Sistem: Komdigi mendorong Meta untuk melakukan audit terhadap sistem moderasi konten mereka agar kejadian serupa tidak terulang kembali pada pengguna lain di Indonesia.
Pihak kementerian menekankan bahwa peran pemerintah adalah memastikan ekosistem digital yang sehat, di mana hak-hak pengguna terlindungi namun keamanan dari konten negatif tetap terjaga melalui mekanisme yang transparan.
Meta Akui Kesalahan Sistem: Bukan Sengaja Menyasar Aktivis
Kabar yang paling dinantikan publik akhirnya datang dari Meta. Perusahaan induk WhatsApp tersebut memberikan klarifikasi yang cukup mengejutkan. Meta mengakui bahwa pemblokiran yang menimpa akun Botok Pati merupakan dampak dari kesalahan sistem atau system error yang menyebabkan terjadinya pemblokiran massal (mass blocking).
Menurut penjelasan teknis yang dihimpun, sistem deteksi otomatis (automated detection system) milik WhatsApp mengalami malfungsi dalam mengklasifikasikan aktivitas pengguna. Algoritma yang seharusnya menyaring spam atau aktivitas melanggar ketentuan layanan, justru salah mengidentifikasi pola komunikasi organik dari akun Botok Pati sebagai aktivitas yang melanggar aturan.
Bagaimana Algoritma Meta Bekerja?
Untuk memahami mengapa kesalahan ini bisa terjadi, perlu diketahui bahwa Meta menggunakan kecerdasan buatan (AI) untuk melakukan moderasi dalam skala besar. Berikut adalah beberapa faktor yang dapat memicu kesalahan sistem tersebut:
False Positive: Kondisi di mana sistem menganggap sebuah aktivitas yang sah sebagai pelanggaran. Dalam kasus ini, intensitas pengiriman pesan atau pola distribusi informasi oleh aktivis mungkin terbaca sebagai pola bot atau spam oleh mesin.
Update Algoritma: Pembaruan sistem secara berkala terkadang membawa "bug" atau ketidaksempurnaan yang dapat berdampak pada akurasi deteksi konten.
Skalabilitas Moderasi: Karena volume pesan di WhatsApp sangat masif, moderasi manusia tidak mungkin dilakukan secara real-time untuk setiap akun, sehingga ketergantungan pada AI menjadi sangat tinggi.
Meta menyampaikan permohonan maaf secara implisit melalui pengakuan kesalahan ini dan menyatakan bahwa mereka sedang dalam proses melakukan pemulihan bagi akun-akun yang terdampak oleh kesalahan sistem tersebut.
Ancaman Automasi Moderasi Terhadap Suara Kritis
