Merekamindonesia – Sebuah penelitian baru dari Princeton University dan University of Chicago mengungkap temuan mengkhawatirkan tentang bias AI dalam rekrutmen. Para ilmuwan menguji model bahasa besar seperti ChatGPT, Claude, dan Gemini dengan menyuruh mereka bertindak sebagai konsultan dalam simulasi perekrutan kerja.
Poin Penting Bias AI dalam Rekrutmen
- Model AI seperti ChatGPT menunjukkan kecenderungan bias 65% lebih tinggi dibanding manusia dalam simulasi rekrutmen dengan empat kelompok etnis fiktif.
- Model dengan kemampuan penalaran lebih kuat seperti o3 justru menampilkan bias yang lebih ekstrem, mencapai skor 1,83 pada skala diskriminasi.
- Memberikan insentif keberagaman dan informasi pribadi relevan seperti pendidikan dapat mengurangi bias AI dalam proses perekrutan.
Dalam eksperimen tersebut, setiap model diminta memilih kandidat untuk 20 jenis pekerjaan mulai dari dokter, pengacara, pengasuh anak, hingga petugas kebersihan. Kandidat berasal dari empat kelompok etnis fiktif bernama Tufa, Aima, Reku, dan Weki. Semua peserta sebenarnya memiliki peluang keberhasilan yang sama, tetapi model AI tidak diberitahu hal ini.
AI Belajar Membentuk Stereotip dari Data Terbatas
Hasilnya menakjubkan dan mengecewakan sekaligus. Ketika seorang kandidat dari kelompok Aima gagal sebagai dokter, model kemudian menghindari kandidat lain dari kelompok yang sama untuk posisi serupa. Mereka cenderung menempatkannya di pekerjaan berstatus rendah seperti petugas kebersihan.
Ryan Liu, mahasiswa doktoral di Princeton dan penulis penelitian, menjelaskan mengapa ini terjadi. Menurut Liu, model bahasa besar sangat gesit dalam membuat generalisasi dari data yang sangat terbatas. “Mereka memang sangat berani untuk membuat generalisasi berdasarkan data yang terbatas. Itu merupakan sebagian besar tujuan optimalisasi yang dilakukan untuk mereka,” ujar Liu kepada MIT Technology Review pada 20 Juli.
Pada skala segregasi yang digunakan peneliti, angka 2 berarti setiap kelompok sepenuhnya terpisah ke bidang pekerjaan masing-masing. Peserta manusia dalam studi psikologi sebelumnya mencatat skor 0,84. Model AI justru mencatat skor sekitar 65% lebih tinggi. Model penalaran OpenAI o3 mencapai angka 1,83, mendekati nilai maksimum dalam skala tersebut.
Model Canggih, Bias Lebih Parah
Temuan paradoks muncul di sini: model dengan kemampuan penalaran lebih tinggi, seperti o3 dan DeepSeek R1, justru menunjukkan kecenderungan bias yang lebih kuat. Ini mengindikasikan bahwa kecerdasan bukanlah penjamin keadilan.
Penemuan ini semakin urgen karena perusahaan di seluruh dunia semakin mengintegrasikan AI untuk menyaring CV dan melakukan wawancara awal. Penggunaan fitur memori dan personalisasi pada chatbot juga dinilai dapat membuat model terlalu bergantung pada pengalaman atau pola data sebelumnya, memperkuat bias yang sudah terbentuk.
Para peneliti mencoba beberapa solusi. Ketika diminta untuk bersikap adil melalui instruksi biasa, hasilnya tidak signifikan. Namun, ketika diberi insentif tambahan untuk melakukan perekrutan yang lebih beragam, model menunjukkan pengurangan diskriminasi yang nyata.
Dalam percobaan lain, model juga jarang melakukan segregasi berbasis etnis ketika menerima informasi pribadi yang relevan, seperti usia dan latar belakang pendidikan kandidat. Sebaliknya, detail tidak relevan seperti warna rambut atau bentuk tato tidak banyak mengurangi kecenderungan bias tersebut.
Simulasi Belum Cermin Realitas
Meski penelitian ini mengungkap masalah serius, para peneliti juga mengakui keterbatasan. Studi dilakukan dalam simulasi terkontrol dan belum membuktikan bahwa semua sistem AI perekrutan di dunia nyata akan menghasilkan diskriminasi serupa.
Dalam praktik sesungguhnya, sistem penyaring CV tidak langsung mengetahui apakah pekerja yang direkrut akan berhasil atau tidak. Namun, peneliti mengingatkan bahwa umpan balik kinerja yang diterima kemudian tetap dapat memengaruhi keputusan model terhadap kandidat berikutnya, menciptakan siklus bias yang berkelanjutan.
Temuan ini menekankan pentingnya transparansi dan pengawasan saat mengimplementasikan teknologi AI dalam pengambilan keputusan penting, terutama yang menyangkut masa depan manusia. Penyelarasan nilai etika dengan kemampuan teknis AI menjadi kunci untuk memastikan sistem perekrutan yang lebih adil dan inklusif di era digital. MI/AS
Sumber: teknologi
