Selain masalah data, cara algoritma memproses informasi juga memainkan peran penting. Proses pembobotan informasi dalam model bahasa besar (Large Language Model/LLM) dapat menyebabkan algoritma memberikan penekanan lebih pada narasi-narasi yang paling sering muncul di internet, meskipun narasi tersebut bersifat bias atau tidak akurat secara faktual. Tanpa filter moderasi yang sangat ketat dan sensitif terhadap konteks agama, AI akan terjebak dalam "ruang gema" (echo chamber) digital yang bias.
Dampak Sosial dan Kepercayaan Pengguna
Kontroversi ini bukan sekadar masalah teknis, melainkan memiliki dampak sosial yang mendalam. Ketika teknologi yang dianggap sebagai "masa depan pengetahuan" menunjukkan perilaku yang diskriminatif, kepercayaan publik terhadap teknologi tersebut akan runtuh. Bagi umat Muslim, jawaban-jawaban dari Gemini AI bukan hanya sekadar kesalahan algoritma, melainkan serangan terhadap identitas dan nilai-nilai yang mereka yakini.
Beberapa poin utama yang menjadi kekhawatiran publik antara lain:
Normalisasi Prasangka: Penggunaan AI yang bias dapat menormalisasi stereotip negatif dalam percakapan sehari-hari, sehingga stigma terhadap umat Muslim semakin sulit dihapuskan.
Disinformasi Agama: Jawaban yang tidak akurat mengenai hukum atau sejarah Islam dapat menyesatkan pengguna yang mencari informasi dasar melalui AI.
Erosi Kepercayaan terhadap Big Tech: Kegagalan Google dalam mengantisipasi masalah ini memperlemah posisi mereka sebagai pemimpin teknologi yang bertanggung jawab secara sosial.
Potensi Diskriminasi Sistemik: Jika AI digunakan dalam pengambilan keputusan yang lebih luas (seperti dalam filter konten atau moderasi), bias ini bisa berdampak pada hak-hak sipil kelompok tertentu.
Menanti Langkah Konkret dari Google
Hingga saat ini, tekanan publik terhadap Google terus meningkat. Para pengamat menuntut transparansi yang lebih besar mengenai bagaimana Google melatih Gemini AI dan langkah apa yang akan diambil untuk memperbaiki bias sistemik tersebut. Google sendiri telah berulang kali menyatakan komitmen mereka terhadap pengembangan AI yang aman dan bertanggung jawab, namun insiden ini menunjukkan adanya celah besar antara retorika perusahaan dan realitas produk mereka.
