Nepal Desak Meta dan TikTok Segera Hapus Konten AI Hoaks Terkait Banjir Bandang
KATHMANDU – Situasi pascabencana banjir bandang yang melanda Nepal kini tidak hanya menghadapi tantangan pemulihan fisik dan evakuasi korban, tetapi juga ancaman baru yang kian berbahaya: gelombang misinformasi berbasis kecerdasan buatan (AI). Pemerintah Nepal secara resmi telah melayangkan desakan keras kepada raksasa teknologi dunia, Meta dan TikTok, untuk segera mengambil tindakan tegas dalam menghapus konten hoaks yang dihasilkan oleh AI terkait bencana tersebut.
Kehadiran konten palsu yang tampak sangat nyata ini dikhawatirkan dapat memperburuk situasi di lapangan, memicu kepanikan massal di tengah masyarakat yang sedang berduka, hingga mengganggu proses koordinasi bantuan kemanusiaan yang tengah berlangsung.
Ancaman Misinformasi di Tengah Tragedi Kemanusiaan
Banjir bandang yang menerjang wilayah Nepal baru-baru ini telah meninggalkan jejak kerusakan yang masif. Namun, di tengah upaya pemerintah dan lembaga kemanusiaan untuk menjangkau wilayah-wilayah terdampak, media sosial justru dipenuhi oleh narasi-narasi menyesatkan. Penggunaan teknologi generative AI memungkinkan oknum tidak bertanggung jawab untuk menciptakan gambar, video, bahkan rekaman suara yang sangat mirip dengan kejadian nyata.
Konten-konten ini sering kali menampilkan visualisasi kerusakan yang dilebih-lebihkan atau klaim-klaim palsu mengenai jumlah korban dan lokasi bencana yang tidak akurat. Meskipun secara teknis merupakan rekayasa, tingkat realisme yang dihasilkan oleh AI modern membuat masyarakat awam sulit membedakan mana fakta lapangan dan mana konten fabrikasi.
Pemerintah Nepal menilai bahwa keberadaan konten hoaks ini bukan sekadar gangguan informasi, melainkan ancaman keamanan nasional. Ketika informasi salah mengenai arah aliran banjir atau peringatan dini palsu menyebar, hal tersebut dapat mendorong warga ke wilayah yang justru lebih berbahaya, atau sebaliknya, menjauhkan mereka dari zona evakuasi yang aman.
Tuntutan Terhadap Perbaikan Algoritma Platform
Dalam desakannya, pemerintah Nepal menekankan bahwa metode moderasi konten yang ada saat ini—yang sangat bergantung pada laporan pengguna (*user report*)—sudah tidak lagi memadai untuk menghadapi kecepatan penyebaran konten AI. Mereka menuntut Meta (induk perusahaan Facebook, Instagram, dan WhatsApp) serta TikTok untuk melakukan langkah proaktif melalui pembaruan teknologi internal mereka.
