Jakarta, CNN Indonesia —
Sebuah Kajian terbaru Membeberkan model kecerdasan buatan (AI) berbasis bahasa besar atau large language model (LLM) dapat membentuk stereotip Di pelamar kerja Di simulasi rekrutmen, Justru lebih kuat dibandingkan manusia.
Eksperimen Dari ilmuwan Princeton University dan University of Chicago itu menguji sejumlah LLM, termasuk ChatGPT, Claude, dan Gemini, Di simulasi perekrutan yang diadaptasi Di studi psikologi mengenai pembentukan stereotip yang dirilis Di 2024.
ADVERTISEMENT
SCROLL TO CONTINUE WITH CONTENT
Dikutip Di MIT Technology Review, setiap model diminta berperan sebagai konsultan wali kota Di sebuah kota fiktif dan memilih kandidat Untuk 20 jenis pekerjaan, mulai Di Praktisi Medis, pengacara, pengasuh anak, hingga petugas kebersihan.
Kandidat Di simulasi tersebut berasal Di empat kelompok etnis fiktif, yakni Tufa, Aima, Reku, dan Weki.
Di setiap putaran, model Merasakan empat kandidat Di masing-masing kelompok. Setelahnya memilih satu kandidat, model diberi tahu apakah kandidat itu berhasil Di pekerjaannya.
Semua kandidat Di eksperimen Memperoleh Kemungkinan Prestasi yang sama Untuk setiap jenis pekerjaan. Model tidak diberi tahu soal Kemakmuran tersebut.
Setelahnya Merasakan hasil awal, model mulai mengarahkan kelompok tertentu Hingga pekerjaan tertentu.
Misalnya, ketika seorang kandidat Aima digambarkan gagal sebagai Praktisi Medis, model Lalu cenderung menghindari kandidat Aima lain Untuk posisi tersebut dan lebih sering menempatkannya sebagai petugas kebersihan.
Di skala segregasi Eksperimen, angka 2 berarti setiap kelompok sepenuhnya dipisahkan Hingga bidang pekerjaan masing-masing. Peserta manusia Di studi Sebelumnya Itu mencatat skor 0,84.
Sambil Itu, model AI mencatat skor Disekitar 65 persen lebih tinggi. Model penalaran OpenAI o3 mencapai skor 1,83, mendekati nilai maksimum Di skala tersebut.
Ryan Liu, seorang mahasiswa Langkah doktoral Di Universitas Princeton dan salah satu penulis Eksperimen tersebut, menduga LLM cepat membangun generalisasi Di data terbatas Sebab proses tersebut berkaitan Di cara model dilatih Untuk menyelesaikan persoalan matematika, Koding, dan sains.
“Mereka (LLM) memang sangat berani Untuk membuat generalisasi berdasarkan data yang terbatas. Itu merupakan sebagian besar tujuan optimalisasi yang dilakukan Untuk mereka,” kata Liu, dilansir MIT Technology Review, Senin (20/7).
Model yang Memperoleh kemampuan penalaran lebih tinggi, seperti o3 dan DeepSeek R1, justru Menunjukkan kecenderungan bias yang lebih kuat Di eksperimen tersebut.
Temuan ini menjadi relevan ketika perusahaan Lebihterus menggunakan AI Untuk menyaring curriculum vitae (CV) dan melakukan wawancara.
Penggunaan fitur memori serta personalisasi Di chatbot juga dinilai dapat membuat model terlalu mengandalkan Pengalaman Hidup atau pola data Sebelumnya Itu.
Peneliti mendapati instruksi agar model bersikap adil tidak banyak mengubah hasil. Tetapi, model menjadi lebih tidak bias ketika diberi insentif tambahan Untuk melakukan perekrutan yang beragam.
Di percobaan lain, model juga lebih jarang melakukan segregasi berdasarkan etnis ketika memperoleh informasi pribadi yang relevan, seperti usia dan Pembelajaran kandidat.
Informasi yang tidak relevan, seperti warna rambut atau bentuk tato, tidak banyak Memangkas kecenderungan tersebut.
Meski demikian, Eksperimen itu dilakukan Di simulasi dan belum membuktikan bahwa seluruh sistem AI perekrutan Di dunia nyata Berencana menghasilkan diskriminasi serupa.
Di praktiknya, sistem penyaring CV tidak langsung mengetahui apakah pekerja yang direkrut Berencana berhasil atau tidak.
Tetapi, peneliti mengingatkan umpan balik kinerja yang diterima Lalu tetap dapat memengaruhi keputusan model Di kandidat berikutnya.
(lom)
Add
as a preferred
source on Google
Artikel ini disadur –> Cnnindonesia.com Indonesia: AI Bisa Lebih Bias Di Manusia Pada Rekrut Karyawan
