Algoritmik Ayrımcılık ve İstihdam: Polonya’da Yapay Zeka ile İşe Alım Süreçleri İçin Yasal Düzenleme Arayışı
Kişisel Verileri Koruma Kurumu (UODO) Başkanı, Aile, Çalışma ve Sosyal Politikalar Bakanlığına başvurarak iş arayanların yapay zeka tabanlı algoritmaların ayrımcılığından korunması amacıyla yasal...
Kişisel Verileri Koruma Kurumu (UODO) Başkanı, Aile, Çalışma ve Sosyal Politikalar Bakanlığına başvurarak iş arayanların yapay zeka tabanlı algoritmaların ayrımcılığından korunması amacıyla yasal düzenleme planlanıp planlanmadığını sordu. Yapay zekanın işe alım süreçlerinde geçmiş verilere dayanarak önyargı üretebileceği ve adayların veri kapsamını genişletebileceği belirtilirken, bu durumun Polonya iş hukuku ile yapay zeka olanakları arasındaki boşluğu derinleştirdiği ifade edildi. UODO, bankacılık sektöründeki düzenlemeleri referans göstererek şeffaflık, açıklanabilirlik ve insan denetimi ilkelerinin iş hukukuna uyarlanmasını önerdi. 2024 tarihli Avrupa Birliği Yapay Zeka Yasası (AI Act) kapsamında işe alım sistemleri “yüksek riskli” kategorisinde değerlendirilirken, yasal değişiklikler öncesinde gerekli etki ve risk değerlendirmelerinin yapılması tavsiye edildi.
Algoritmik Ayrımcılık Nedir?
İşe alımda kullanılan yapay zeka yüzlerce belgeyi, video kaydını veya sosyal medya profilini saniyeler içinde analiz edebilmektedir. Problem, sistemin geçmiş verilerden öğrenmesinden ve bu verilerin genellikle gizli önyargılar barındırmasından kaynaklanmaktadır. Geçmişte bir şirket teknik pozisyonlara nadiren kadın istihdam ettiyse, algoritma verilerden erkeklerin daha iyi aday olduğu sonucunu çıkarabilmektedir. Sonuç olarak, biçimsel olarak tarafsız olan seçme aracı belirli grupların şansını fiilen kısıtlamaktadır.
Buna ek olarak veri kapsamı sorunu bulunmaktadır. İş Kanunu (KP m. 22 md. 1), işverenin adaydan hangi bilgileri talep edebileceğini açıkça belirtmektedir. Buna karşın modern yapay zeka sistemleri çok daha fazlasını analiz etmekte; konuşma tarzı, ses tonu veya internetteki aktivite gibi görünüşte masum verilere dayanarak sağlık durumu, cinsel yönelim veya siyasi görüş hakkında çıkarımlarda bulunabilmektedir.
Mevcut Hukuki Durum ve UODO’nun Beklentileri
Polonya hukuku savunmasız değildir, ancak koruma birkaç farklı yasal düzenlemeye dağılmış durumdadır. Adaylar ve çalışanlar bugün üç koruma sütunundan yararlanabilmektedir. Ancak bu yasaların hiçbiri, işe alım sürecinde algoritma uygulayan bir işverenin tam olarak ne yapabileceği sorusuna doğrudan yanıt vermemektedir.
Çalışma Bakanlığına gönderdiği yazıda UODO Başkanı hazır bir yasa taslağı sunmamış, olası bir düzenlemede yer alması gereken hususların bir listesini paylaşmıştır. En önemli talepler arasında bu hususlar yer almaktadır.
Bankacılık Sektöründen Model Örneği
UODO yazısında somut bir modeli, yani Bankacılık Kanunu’nun 105a maddesinin 1a fıkrasını örnek göstermiştir.
1a. Bankalar, kredi vermeye kanunen yetkili diğer kurumlar, ödünç para veren kurumlar ve 12 Mayıs 2011 tarihli Tüketici Kredisi Kanunu’nun 59d maddesinde belirtilen kuruluşlar ile 105. maddenin 4. fıkrasına dayanarak oluşturulan kurumlar, kredi değerliliğini değerlendirmek ve kredi riskini analiz etmek amacıyla, banka sırrı teşkil edenler de dahil olmak üzere kişisel verilerin profilleme dahil yalnızca otomasyona dayalı işlenmesine dayanarak kararlar alabilirler; ancak bunun için otomasyona dayalı olarak alınan karara konu olan kişiye, alınan kararın dayanaklarına ilişkin uygun açıklamaları alma, yeniden karar alınması amacıyla insan müdahalesinden yararlanma ve kendi görüşlerini ifade etme hakkı sağlanmalıdır.
Bu hüküm, banka müşterilerine yönelik otomatik karar almayı düzenlemekte olup iş hukukundaki gelecekteki çözümler için bir referans noktası olarak kabul edilebilir. UODO Başkanı, bu hükmün İş Kanunu’na mekanik olarak kopyalanmasını önermediğini, meselenin şeffaflık, açıklanabilirlik ve insan denetimi gibi güvence fikirlerinin aktarılması olduğunu belirtmektedir.
Yapay Zeka ve Yüksek Risk Kategorisi
2024 tarihli Avrupa Birliği Yapay Zeka Yasası (AI Act), işe alım ve aday seçimi için kullanılan sistemleri doğrudan yüksek riskli yapay zeka kategorisinde sınıflandırmaktadır. Hem yazılım tedarikçilerini hem de bunları kullanan işverenleri bağlayan somut yükümlülükler bulunmaktadır. Bunlar arasında sistemin tüm yaşam döngüsü boyunca risk yönetimi, teknik dokümantasyon ve olay kaydı, faaliyet şeffaflığı, zorunlu insan denetimi, doğruluk, sağlamlık ve siber güvenlik gereklilikleri yer almaktadır.
Ek olarak, AI Act’in 86. maddesi, hukuki durumunu etkileyen bir kararın yüksek riskli sistemin sonuçlarına dayanarak verilmesi halinde her bireye açık ve esaslı bir açıklama alma hakkı tanımaktadır. Bu gereklilikler Polonya hukuk düzeninde halihazırda bağlayıcıdır, ancak ulusal usul kurallarının eksikliği bunların işe alımdaki pratik uygulanabilirliğini belirsiz kılmaktadır.
Yasal Değişiklik Öncesi Yapılması Gerekenler
Parlamento olası bir İş Kanunu değişikliğini onaylamadan önce UODO iki temel değerlendirmenin yapılmasını tavsiye etmektedir.
Bu analizler yapılmadan, önerilen kuralların adayları gerçekten koruyup korumayacağı ve aynı zamanda işe alım süreçlerini felç edip etmeyeceği değerlendirilememektedir.
Kaynak : GazetaPrawna