Jakarta, CNN Indonesia — Penelitian terbaru dari ilmuwan Princeton University dan University of Chicago mengungkapkan bahwa model kecerdasan buatan (AI) berbasis bahasa besar bisa membentuk stereotip terhadap pelamar kerja dalam simulasi rekrutmen. Bahkan, AI tersebut terbukti lebih bias dibandingkan manusia dalam memilih kandidat untuk berbagai jenis pekerjaan.
Simulasi Perekrutan dengan Model AI
Penelitian ini menguji sejumlah large language model (LLM), seperti ChatGPT, Claude, dan Gemini, dalam sebuah simulasi rekrutmen yang diadaptasi dari studi psikologi pembentukan stereotip. Setiap model diminta untuk berperan sebagai konsultan wali kota di sebuah kota fiktif dan memilih kandidat untuk berbagai jenis pekerjaan, mulai dari dokter hingga petugas kebersihan. Kandidat dalam simulasi tersebut berasal dari empat kelompok etnis fiktif, yaitu Tufa, Aima, Reku, dan Weki.
Dalam eksperimen ini, setiap model menerima empat kandidat dari masing-masing kelompok dan harus memilih satu kandidat untuk posisi pekerjaan tertentu. Hasil penelitian menunjukkan bahwa model AI lebih cenderung membentuk stereotip dan melibatkan segregasi berdasarkan etnis dalam pemilihan kandidat, meskipun semua kandidat memiliki peluang yang sama untuk sukses dalam pekerjaan tersebut.
Pentingnya Kesadaran akan Bias dalam AI
Ditemukan bahwa model AI, seperti OpenAI o3 dan DeepSeek R1, menghasilkan kecenderungan bias yang lebih kuat dibandingkan peserta manusia dalam studi sebelumnya. Hal ini menjadi relevan karena banyak perusahaan mulai menggunakan AI untuk menyaring CV dan melakukan wawancara dalam proses rekrutmen.
Peneliti menekankan pentingnya kesadaran akan bias dalam model AI dan perlunya insentif tambahan untuk mendorong perekrutan yang lebih beragam. Penggunaan informasi pribadi yang relevan, seperti usia dan pendidikan kandidat, dapat membantu mengurangi segregasi berdasarkan etnis dalam proses rekrutmen.
Meskipun penelitian dilakukan dalam simulasi, hal ini menyoroti potensi risiko diskriminasi yang bisa ditimbulkan oleh model AI dalam dunia nyata. Umpan balik kinerja dari model terhadap kandidat juga dapat memengaruhi keputusan seleksi untuk pelamar berikutnya. Perlu adanya langkah-langkah lebih lanjut untuk mengurangi bias dan stereotip dalam penggunaan AI di bidang rekrutmen. (lom)
