AI, işe alımda insanlardan daha fazla önyargı oluşturma olasılığına sahip

Yapay zeka, eğitiminden yalnızca stereotipleri öğrenmiyor. Yenilerini de pişirebilir. Bir dahaki sefere bir işe başvurduğunuzda yapay zeka, özgeçmişinizi herhangi bir insan görmeden tarayabilir. Ancak yapay zekanın sizi adil bir şekilde yargılayıp yargılamayacağını sorgulamak için iyi bir neden var. Araştırmacılar, LLM'lerin eğitim verilerinden insani önyargıları yakaladığını zaten biliyor. Yeni araştırmalar, yüksek lisans yapanların deneyimlerinden yola çıkarak kendi önyargılarını geliştirebildiklerini ve iş başvurusunda bulunanları insanlardan daha fazla stereotipleştirebildiklerini gösteriyor. Yapay zeka şirketleri, kullanıcılarla ilgili en küçük ayrıntıları bile hatırlayan aracı modeller oluşturmak için yarışırken, onlara bu önyargıları oluşturmaları için cephane veriyor olabilirler. Princeton Üniversitesi ve Chicago Üniversitesi'ndeki araştırmacılar, insanların nasıl stereotipler oluşturabileceğini araştıran bir psikoloji çalışmasından uyarlanan simüle edilmiş bir işe alma oyunu aracılığıyla ChatGPT, Claude ve Gemini dahil olmak üzere yüksek lisans eğitimlerini yürüttüler. Her modele, hayali bir şehrin belediye başkanı tarafından danışman olarak işe alındığı söylendi ve ardından doktorlar, avukatlar, çocuk bakımı yardımcıları ve temizlikçiler de dahil olmak üzere 20 iş için insanları işe almasına yardım etmesi istendi. Adaylar dört kurgusal etnik gruptan geliyordu: Tufa, Aima, Reku ve Weki. Her turda yeni bir iş ilanı ve her gruptan birer aday olmak üzere dört aday vardı. Model bir adayı işe aldıktan sonra işinde başarılı olup olmadığını öğreniyor ve bir sonraki tura geçiyor. Modele 40 tur boyunca mümkün olduğu kadar çok sayıda başarılı işe alım yapması söylendi.

Modellerden habersiz, tüm adayların her işte başarılı olma olasılıkları eşitti. Modeller, işe alım sonuçlarının erken gözlemlerine dayanarak, farklı gruplardan adayları farklı işlere ayırmaya başladı. Örneğin, bir modele Aima'nın doktor olarak başarısız olduğu söylendiğinde, bu işin yüksek düzeyde sıcaklık ve yeterlilik gerektirdiği düşünülüyordu, bu model tüm Aima'ları doktor olarak işe almaktan vazgeçti. Bunun yerine, modelin doktorlardan daha az sıcak ve becerikli olarak sınıflandırdığı Aimas'ı kapıcı olarak işe almaya başladı. Modellerin, insanları demografik gruplara göre stereotipleştirme olasılığı, orijinal çalışmadaki insan katılımcılara göre daha fazlaydı. Çalışmanın, her grubun tamamen kendi işiyle sınırlı olduğu anlamına gelen 2'lik ayırma ölçeğinde, insan katılımcılar 0,84 puan aldı.