Skalabilitas: Satu algoritma yang bias dapat digunakan oleh ribuan perusahaan sekaligus, menciptakan diskriminasi massal dalam sekejap.
Kecepatan: AI dapat menyaring ribuan kandidat dalam hitungan detik, sehingga kesalahan dalam penilaian berbasis stereotip terjadi secara instan dan masif.
Ketidakterlihatan: Bias manusia seringkali bisa didebat melalui diskusi interpersonal, sementara bias dalam algoritma seringkali tersembunyi di balik "kotak hitam" (black box) kode yang sulit dipahami bahkan oleh pengembangnya sendiri.
Manifestasi Bias dalam Proses Seleksi
Riset tersebut menyoroti beberapa bentuk stereotip yang dapat muncul saat AI bertindak sebagai pengambil keputusan atau pemberi rekomendasi dalam rekrutmen. Beberapa di antaranya meliputi:
Bias Gender dan Peran Sosial
AI cenderung mengaitkan kata-kata tertentu dengan gender tertentu. Misalnya, kata-kata yang menunjukkan sifat kepemimpinan agresif mungkin lebih sering dikaitkan dengan kandidat pria, sementara kata-kata yang menunjukkan sifat kolaboratif atau suportif lebih dikaitkan dengan kandidat wanita. Hal ini secara otomatis akan merugikan kandidat perempuan yang memiliki gaya kepemimpinan berbeda namun tetap kompeten.
Bias Etnis dan Latar Belakang Budaya
Penggunaan nama, alamat, atau institusi pendidikan tertentu dalam resume dapat menjadi pemicu bias bagi AI. Jika data historis menunjukkan bahwa orang-orang dari kelompok etnis tertentu lebih sedikit menduduki posisi tinggi, AI mungkin akan memberikan skor rendah pada kandidat dari kelompok tersebut hanya karena pola statistik yang ia pelajari, bukan karena kemampuan aktual kandidat.
Bias Sosio-Ekonomi
AI juga dapat mendeteksi pola yang berkaitan dengan status sosial ekonomi. Penggunaan diksi yang dianggap "berkelas" atau referensi terhadap hobi dan pengalaman tertentu yang hanya bisa diakses oleh kelas ekonomi atas dapat membuat AI secara tidak sadar memprioritaskan kandidat dari latar belakang ekonomi serupa, sehingga menutup pintu bagi talenta berbakat dari kelas menengah ke bawah.
Implikasi Terhadap Dunia Kerja dan Hukum
Jika tren penggunaan AI yang bias ini terus berlanjut tanpa regulasi, dampaknya akan sangat destruktif bagi ekosistem ketenagakerjaan global. Secara sosial, hal ini akan memperlebar jurang ketimpangan dan menghambat mobilitas sosial. Talenta-talenta terbaik dari kelompok minoritas atau marginal mungkin tidak akan pernah mendapatkan kesempatan, bukan karena mereka tidak mampu, tetapi karena algoritma telah memutuskan mereka "tidak cocok" berdasarkan pola masa lalu.
