Waspada! Riset Terbaru Ungkap AI Bisa Lebih Bias dari Manusia dalam Rekrutmen Karyawan
Penggunaan Large Language Models (LLM) dalam dunia kerja berisiko memperkuat stereotip sosial dan menciptakan ketidakadilan sistemik yang lebih sulit dideteksi dibandingkan bias manusia.
Ancaman di Balik Efisiensi: Sisi Gelap Automasi HR
Dunia korporasi saat ini sedang mengalami transformasi besar-besaran seiring dengan integrasi kecerdasan buatan (AI) dalam hampir setiap lini operasional. Salah satu departemen yang paling terdampak adalah Human Resources (HR) atau departemen sumber daya manusia. Penggunaan AI untuk menyaring ribuan resume, melakukan wawancara awal melalui chatbot, hingga memberikan skor kompetensi kandidat dianggap sebagai solusi efisiensi yang revolusioner.
Namun, di balik janji efisiensi dan objektivitas tersebut, sebuah temuan riset terbaru memberikan peringatan keras bagi para pelaku industri. Alih-alih menjadi wasit yang netral, model AI berbasis bahasa besar atau Large Language Models (LLM) justru menunjukkan kecenderungan untuk membentuk dan memperkuat stereotip yang ada di masyarakat. Bahkan, yang lebih mengkhawatirkan, tingkat bias yang dihasilkan oleh mesin ini ditemukan bisa jauh lebih kuat dan sistemik dibandingkan dengan bias yang dimiliki oleh manusia secara individual.
Fenomena ini menciptakan paradoks teknologi: alat yang diciptakan untuk menghilangkan subjektivitas manusia justru menjadi mesin yang mengotomatisasi prasangka. Jika hal ini dibiarkan tanpa pengawasan ketat, dunia kerja di masa depan berisiko menjadi medan tempur yang tidak adil bagi kelompok-kelompok tertentu yang secara historis telah termarginalisasi.
Mengapa AI Lebih Bias daripada Manusia?
Pertanyaan mendasar yang muncul adalah: bagaimana mungkin sebuah program komputer, yang seharusnya bekerja berdasarkan logika dan data, bisa lebih bias daripada manusia? Untuk memahami hal ini, kita harus membedah bagaimana model bahasa besar seperti ChatGPT atau model serupa lainnya bekerja.
1. Masalah Data Pelatihan (Garbage In, Garbage Out)
AI tidak memiliki kesadaran atau moralitas. Ia belajar dari pola. Model LLM dilatih menggunakan miliaran data teks yang diambil dari internet—mulai dari buku, artikel berita, forum diskusi, hingga media sosial. Masalahnya, internet adalah cerminan dari sejarah manusia yang penuh dengan prasangka, stereotip, dan ketidakadilan.
Jika dalam data pelatihan tersebut terdapat pola yang menunjukkan bahwa posisi manajerial lebih sering diasosiasikan dengan pria, atau peran administratif lebih sering dikaitkan dengan wanita, maka AI akan menyerap pola tersebut sebagai sebuah "kebenaran statistik". Akibatnya, saat AI diminta melakukan rekrutmen, ia tidak hanya meniru bias tersebut, tetapi memperkuatnya secara matematis.
2. Skala dan Kecepatan Automasi
Bias manusia biasanya bersifat individual dan terbatas. Seorang manajer HR mungkin memiliki prasangka pribadi terhadap latar belakang pendidikan tertentu, namun pengaruhnya hanya terbatas pada departemen atau perusahaan tempatnya bekerja. Namun, bias AI bersifat sistemik dan memiliki skala yang masif.
