Desteklendiği Çağrı
HORIZON-CL4-2021-HUMAN-01-24 Tackling gender, race and other biases in AI (RIA)
Projenin CORDIS Linki
https://cordis.europa.eu/project/id/101070468
Yapay Zekâ (AI), çalışanları işe almak, eğitmek, çalışanlarla etkileşime girmek veya disiplin kovuşturmalarına yol açabilecek ihlalleri izlemek için işgücü piyasasında giderek daha fazla kullanılmaktadır. Bir yapay zekâ türü olan Doğal Dil İşleme (Natural Language Processing – NLP) çıkarımlar veya kararlar almak için metni analiz edebilen bir araçtır. Bununla birlikte, NLP tabanlı sistemler öğrendikleri modellerin örtülü önyargılarıyla karşı karşıya kalmaktadır. Bu tür önyargılar, makine öğrenimi eğitimi için kullanılan verilerde toplumumuzun klişeleri olarak çoktan kodlanmış olabilir ve bu nedenle modellere ve karar verme sürecine doğrudan yansıtılabilir.
Bu durum, European Pillar of Social Rights’ın iş ve istihdamla ilgili hedeflerine ve Birleşmiş Milletler'in Sürdürülebilir Kalkınma Hedeflerine aykırı olan kısmi kararların verilmesine sebep olabilir.
Avrupa'da istihdamda eşitliği sağlamak için var olan güçlü iradeye rağmen, Avrupa işgücü piyasalarına ilişkin çoğu araştırma, cinsiyet, milliyet veya cinsel yönelim gibi birçok faktöre dayalı ayrımcılık olduğu sonucunu ortaya çıkarmıştır. Bu nedenle, işgücü piyasasında kullanılan yapay zekanın bu ayrımcılığa nasıl bir etkide bulunduğunu veya bu ayrımcılığın hafifletilmesine nasıl yardımcı olabileceğini ele almak oldukça önemlidir. BIAS projesinin ana hedefi budur. Yani, Yapay Zekâ/NLP sistemlerinde önyargının var olup olmadığını belirleyebilmek ve azaltmak için güvenilir ve yeni teknolojiler geliştirmek ve işe alım süreçlerinde ön yargıların azaltılmasını sağlamak.
Projeden beklenen Bilimsel Çıktı/Ürün/Kazanım
• Önyargı Tespit / Azaltma Dili modelleri
• Metinde Önyargı Tespiti/ Azaltma (başvuru mektupları)
• Önyargı Tespiti / Karar Vermeyi Azaltma
• BIAS-free Helix
• Kapasite geliştirme amacıyla kamuya açık eğitim kaynakları
Projenin Hedef Grubu
• Çalışanlar, özellikle yeterince temsil edilmeyen gruplar ve azınlıklar
• Yapay Zeka araştırmacıları, özellikle NLP ve CBR
• Yapay Zeka geliştiricileri, özellikle NLP
• İnsan kaynakları yönetim uzmanları, şirket yöneticileri
• İşe alma hizmetleri sağlayıcıları, örn. işe alım siteleri
• Yapay Zeka düzenleyicileri ve politika yapıcılar
Bilimsel/Sosyal/Ekonomik İnovatif Katkı (Ürün ve süreçler yanında hizmetlerdeki inovasyon da dâhil)
Bilimsel: Hassas kelimeleri/cümleleri kullanarak önyargıyı tespit edebilen yeni yöntemler ile, NLP önyargı tespiti alanını geliştirilecek; etnografik araştırma, çalışma sosyolojisi alanına katkı sunacaktır
Teknolojik: Daha az önyargılı yapay zekâ sistemleri daha adil dijital süreçleri ortaya çıkaracaktır
Ticari: Projeyi takiben ticari amaçlı İK önyargı azaltma uygulamasının geliştirilecektir
Toplumsal: İşgücü piyasasındaki işe alım süreçlerindeki teknolojik ve insani önyargıya ilişkin toplumsal farkındalık yaratılacaktır.
Meslekî Becerilerin ve Profesyonel yeteneklerin geliştirilmesine Katkısı
BIAS, işlerin uzun vadede sürdürülebilir olması amacıyla, kapsayıcı istihdamın sağlanması için işlerin mümkün olduğunca önyargısız olmaları gerektiğini savunuyoruz. Beceri uyumsuzluğu, çalışanların hangi işi, nasıl yapacakları konusunda eğitilerek azaltılabilir. İşe alım süreçlerinde kullanılan yapay zekâ teknolojik ilerlemesiyle, dikkate alınması gereken birkaç etik konu vardır. Bu nedenle BIAS, çalışanların teknolojiden çeşitli şekillerde nasıl etkilendiğini daha iyi anlamak amacıyla SSH ampirik analizine büyük ölçüde odaklanmaktadır.
İnsan Kaynağının Geliştirilmesine Katkısı
Daha eşit ve daha adil uygulamalar oluşturarak işe alım sürecindeki önyargıları azaltmayı hedefleyen BIAS, kuruluşlardaki insan kaynakları süreçlerinin geliştirecektir.
Projenin diğer ortakları ile ilgili bilgiler
BIAS Projesi’nin 9 ortağı, AI çözümlerini programlamak amacıyla teknolojik bilgi birikim katkısında bulunan ve SSH know-how’ını aktaran dört üniversite ortağından (NTNU, HI, BFH, LEI) oluşmaktadır. Dört akademik kurum, en son yapay zekâ ve çeşitlilik bilgisi ile birlikte yakın bir şekilde çalışacaktır. Ayrıca Avrupa yapay zekâ ve çeşitlilik topluluğunu akademik bulgulara dayalı olarak daha da güçlendirmek için ve ayrıca ortak oluşturma etkinliklerine ev sahipliği yapmayı hedefleyen, bilgi alışverişi etkinlikleri geliştirmek, düzenlemek, bilgi ağları oluşturmak ve görsel çalışmaları gerçekleştirmek için kullanacak olan üç iletişim ortağı (SVEN, CH, LOBA) konsorsiyum da yer almaktadır. Son olarak, büyük bir endüstri ortağı olan FARPL, önyargının tespiti ve İK uygulamalarında toplumsal cinsiyet eşitliğinin önemini geniş bir kurumsal perspektiften teşvik etme konusunda çalışmaların yapılabilmesi için veri setleri sağlayacaktır. Son olarak; bir SME olan DIGI, test ve doğrulama altyapısını sağlayacak ve ticarileştirmek amacıyla BIAS süresince çalışmalar yapacaktır.
• Norwegian University of Science and Technology (NTNU), Norveç
• Bern University of Applied Sciences (BFH), İsviçre
• University of Iceland – Haskoli Islands (HI), İzlanda
• Globaz S.A (LOBA), Portekiz
• Crowdhelix (CH), İrlanda
• Smart Venice (SVEN), İtalya
• Leiden University (LEI), Hollanda
• Digiotouch Ou (DIGI), Estonya
• Farplas (FARPL), Türkiye
Anahtar Kelimeler
işgücü piyasası; ön yargı; dışlama; kesişimsellik; Doğal Dil İşleme; Vaka Temelli Akıl Yürütme; Karar destek sistemi; iş başvuruları; ayrımcılık; İnsan kaynakları yönetimi;
