Do regulatory efforts in Europe regarding algorithmic discrimination caused by private actors offer emancipation for women and other marginalized groups?

Abstract

ABSTRACT: Discovery of automated extraction and processing of personal data as a massively profitable economic activity led to the new online public spheres to be intermediated by a few large corporations making use of advanced technologies to collect, manage and analyse vast amounts of data in providing real-time services. This enables significant decisions about individuals made by private companies such as access to employment and credit to be automated. Machine learning algorithms used in these ADM processes have notoriously found to be discriminating against WMG. Some argue that it is easier to fix these systems to overcome bias that is an inherent property in humans, while others argue that they are more likely to perpetuate and cement power relations in the society without regulatory intervention. Europe has become a global trendsetter on tech regulation as well as being at the forefront of democracy and human rights protection. This thesis aims at evaluating the main legislations in the EU that would apply in erecruitment context which falls under similarly significant category in Article 22 GDPR and likely to result in a high risk for the rights and freedoms of individuals, arguing that transparency and accountability obligations under GDPR could be interpreted in a manner to enhance both ex ante and ex post protection against risks of algorithmic discrimination and its human rights implications in a democratic society in combination with the EU antidiscrimination law. On the other hand, several remaining loopholes are identified, by critically questioning the role of power relations in shaping underlying values and methods of the applicable law, technologies and business models by taking an intersectional feminist stance.ÖZET: Kişisel verilerin otomatik yollarla elde edilmesi ve işlenmesinin muazzam ölçüde karlı bir ekonomik aktivite olarak keşfi, yeni çevrimiçi kamusal alanlara erişimin, veri toplama, veri yönetimi ve analizinde gelişmiş teknolojiler kullanan az sayıda yer ve sosyal ağ sağlayıcı şirket üzerinden gerçekleşmesi sonucunu getirdi. Bu gelişme, gerçek kişiler hakkında özel şirketler tarafından verilen istihdam ve krediye erişim gibi önemli kararların otomasyonunu mümkün kılmakta. Bu otomatik karar alma süreçlerinde kullanılan makine öğrenmesi algoritmaları kadınlar ve diğer marjinalize edilmiş gruplar aleyhine ayrımcılığa neden olmaları ile bilinmekte. Bazıları, insanlara içkin bir özellik olan önyargıyla mücadele için bu sistemlerin düzeltilmesinin daha kolay olduğunu savunurken, diğerleri yasal düzenleme ile müdahale edilmemesi halinde toplumdaki güç ilişkilerini sürdürme ve sabitlemelerinin daha olası olduğunu öne sürmektedirler. Demokrasi ve insan hakları korumasında önde gelen Avrupa, teknoloji düzenlemelerinde global trend belirleyici konumuna gelmiştir. Bu tez, Genel Veri Koruma Tüzüğü’nün 22. maddesinde yer alan “benzer biçimde kayda değer şekilde etkileyen” kategorisine giren ve gerçek kişilerin hakları ve özgürlükleri açısından yüksek bir riske sebebiyet vermesi muhtemel olan elektronik işe alım bağlamında uygulanabilecek olan AB yasal düzenlemelerini değerlendirecektir. Bu değerlendirmede, Genel Veri Koruma Tüzüğünde düzenlenen şeffaflık ve hesap sorulabilirlik yükümlülüklerinin, Avrupa Birliği Ayrımcılıkla mücadele hukukuyla birlikte uygulandığında, algoritmik ayrımcılık riskleri ve insan hakları etkilerine hem ex ante hem de ex post koruma sağlayabilecek şekilde yorumlanabileceği savunulacaktır. Öte yandan, kesişimsel feminist bir bakış açısından, güç ilişkilerinin bu bağlamda uygulanan hukuk kurallarının temelinde yer alan değer ve yöntemlerin, teknolojinin ve iş modellerinin şekillenmesindeki rolü eleştirel bir sorguya tabii tutularak bu yasal düzenlemelerde baki kalan açıklar belirlenecektir.