Gender diversity, discrimination, and bias in AI
Yükleniyor...
Tarih
2021
Yazarlar
Dergi Başlığı
Dergi ISSN
Cilt Başlığı
Yayıncı
İstanbul Bilgi Üniversitesi
Erişim Hakkı
info:eu-repo/semantics/openAccess
Özet
ABSTRACT: In this study, I analyze the gender distribution, diversity, discrimination, and bias in AI in Turkey focusing on the workplace dynamics and algorithmic systems from the perspectives of AI developers. I aim to demonstrate “How do the AI developers in Turkey perceive gender diversity, gender discrimination, and the gender bias in AI teams and algorithms? How is the current gender distribution in the AI workforce in Turkey? Why and from which reasons the gender biases occur in AI systems according to developers’ perspectives?” I analyze my research questions by using two different methods to gain a broader perspective on gender diversity, discrimination, and bias. I conducted semi-structured interviews with 22 Turkey-based AI developers as the main method of the research to understand their perceptions on the issue. I also select quantitative data collection as a complementary method to support the research. I collect the employee data of AI startups in Turkey through LinkedIn and student data in Computer Science related departments to examine gender distribution and diversity by statistical numbers. The study shows that the rate of women in AI with technical occupations is around 9% at the AI startups in Turkey. The participants of the study, AI developers, are aware of the lack of women in the field and state their concerns about gender-related issues in society. However, they perceive that there is no common ground to discuss gender and AI together. They have a tendency to divide the technical and societal from each other in which the AI systems and algorithms belong to the “technical” world which cannot contain any kind of bias and discrimination. Therefore, according to them, gender belongs to the social world in where the societal problems about it should be solved within the culture, families, people, and society. While the perspectives of developers differentiate in some topics, it is seen that there is a consensus in some of them. In this study, I try to draw a comprehensive framework on gender diversity, discrimination, and bias in AI in Turkey looking for the perspectives of AI developers who are the everyday creators and developers of these systems. So, I aim to contribute to the literature by featuring the perspectives of developers in the first place, bringing together the workplace gender diversity, discrimination, and bias with algorithmic bias as an interpenetrating problem and presenting a framework about gender and AI from Turkey.
ÖZET: Bu çalışmada, yapay zeka geliştiricilerinin bakış açılarına göre işyeri dinamikleri ve algoritmik sistemlere odaklanarak Türkiye'de yapay zekadaki cinsiyet dağılımı, çeşitliliği, ayrımcılığı ve önyargısı analiz edilmektedir. “Türkiye'deki yapay zeka geliştiricileri, yapay zeka ekiplerinde ve algoritmalarında cinsiyet çeşitliliğini, cinsiyet ayrımcılığını ve cinsiyet önyargısını nasıl algılıyor? Türkiye'de yapay zeka iş gücünün mevcut cinsiyet dağılımı nasıl? Geliştiricilerin bakış açılarına göre yapay zeka sistemlerinde cinsiyet önyargıları hangi nedenlerle ortaya çıkıyor?” sorularının yanıtlarını ortaya koymak hedeflenmektedir. Cinsiyet çeşitliliği, ayrımcılık ve önyargı konularında daha geniş bir bakış açısı kazanmak için araştırma soruları iki farklı yöntem kullanarak analiz edilmektedir. Araştırmanın ana yöntemi olarak Türkiye temelli 22 yapay zeka geliştiricisi ile konuyla ilgili algılarını anlamak için yarı yapılandırılmış mülakatlar gerçekleştirilmiştir. Ayrıca araştırmayı desteklemek için tamamlayıcı bir yöntem olarak nicel veri toplama yönteminden yararlanılmıştır. Cinsiyet dağılımını ve çeşitliliğini istatistiksel sayılarla incelemek için Türkiye'deki yapay zeka girişimlerinin çalışan verileri LinkedIn üzerinden toplanmıştır ve “Bilgisayar Bilimleri” ile ilgili departmanlardaki öğrenci verileri analiz edilmiştir. Araştırma, Türkiye'deki yapay zeka girişimlerinde yapay zeka ile ilgili teknik işlerde çalışan kadınların oranının %9 civarında olduğunu göstermektedir. Çalışmanın katılımcıları olan yapay zeka geliştiricileri, alanda kadın çalışanların sayılarının az olduğunun farkındadırlar ve toplumda mevcut olan toplumsal cinsiyetle ilgili sorunlara dair endişelerini dile getirmektedirler. Ancak, toplumsal cinsiyet ve yapay zekayı birlikte tartışmak için ortak bir zemin olmadığına dair bir algıları mevcuttur. Yapay zeka sistemleri ve algoritmalarının herhangi bir önyargı ve ayrımcılığı barındırmayan “teknik” dünyaya ait olduğu, teknik ve toplumsalı birbirinden ayırma eğilimleri olduğu görülmektedir. Bu nedenle, onlara göre toplumsal cinsiyet, toplumsal sorunların kültür,aile, insan ve toplum içinde çözülmesi gereken toplumsal dünyaya aittir. Yapay zeka geliştiricilerinin bakış açıları bazı konularda farklılık gösterirken bazılarında fikir birliği olduğu görülmektedir. Bu çalışmada, bu sistemlerin günlük yaratıcıları ve geliştiricileri olan yapay zeka geliştiricilerinin bakış açılarına odaklanarak Türkiye'de yapay zeka alanında cinsiyet çeşitliliği, ayrımcılık ve önyargı hakkında kapsamlı bir çerçeve çizmek hedeflenmektedir. Bu nedenle, geliştiricilerin bakış açılarını öne çıkararak, işyeri cinsiyet çeşitliliği, ayrımcılık ve önyargı ile algoritmik önyargıyı iç içe geçmiş bir sorun olarak bir araya getirerek ve Türkiye'de toplumsal cinsiyet ve yapay zeka ile ilgili bir çerçeve sunarak literatüre katkıda bulunmak amaçlanmaktadır.
ÖZET: Bu çalışmada, yapay zeka geliştiricilerinin bakış açılarına göre işyeri dinamikleri ve algoritmik sistemlere odaklanarak Türkiye'de yapay zekadaki cinsiyet dağılımı, çeşitliliği, ayrımcılığı ve önyargısı analiz edilmektedir. “Türkiye'deki yapay zeka geliştiricileri, yapay zeka ekiplerinde ve algoritmalarında cinsiyet çeşitliliğini, cinsiyet ayrımcılığını ve cinsiyet önyargısını nasıl algılıyor? Türkiye'de yapay zeka iş gücünün mevcut cinsiyet dağılımı nasıl? Geliştiricilerin bakış açılarına göre yapay zeka sistemlerinde cinsiyet önyargıları hangi nedenlerle ortaya çıkıyor?” sorularının yanıtlarını ortaya koymak hedeflenmektedir. Cinsiyet çeşitliliği, ayrımcılık ve önyargı konularında daha geniş bir bakış açısı kazanmak için araştırma soruları iki farklı yöntem kullanarak analiz edilmektedir. Araştırmanın ana yöntemi olarak Türkiye temelli 22 yapay zeka geliştiricisi ile konuyla ilgili algılarını anlamak için yarı yapılandırılmış mülakatlar gerçekleştirilmiştir. Ayrıca araştırmayı desteklemek için tamamlayıcı bir yöntem olarak nicel veri toplama yönteminden yararlanılmıştır. Cinsiyet dağılımını ve çeşitliliğini istatistiksel sayılarla incelemek için Türkiye'deki yapay zeka girişimlerinin çalışan verileri LinkedIn üzerinden toplanmıştır ve “Bilgisayar Bilimleri” ile ilgili departmanlardaki öğrenci verileri analiz edilmiştir. Araştırma, Türkiye'deki yapay zeka girişimlerinde yapay zeka ile ilgili teknik işlerde çalışan kadınların oranının %9 civarında olduğunu göstermektedir. Çalışmanın katılımcıları olan yapay zeka geliştiricileri, alanda kadın çalışanların sayılarının az olduğunun farkındadırlar ve toplumda mevcut olan toplumsal cinsiyetle ilgili sorunlara dair endişelerini dile getirmektedirler. Ancak, toplumsal cinsiyet ve yapay zekayı birlikte tartışmak için ortak bir zemin olmadığına dair bir algıları mevcuttur. Yapay zeka sistemleri ve algoritmalarının herhangi bir önyargı ve ayrımcılığı barındırmayan “teknik” dünyaya ait olduğu, teknik ve toplumsalı birbirinden ayırma eğilimleri olduğu görülmektedir. Bu nedenle, onlara göre toplumsal cinsiyet, toplumsal sorunların kültür,aile, insan ve toplum içinde çözülmesi gereken toplumsal dünyaya aittir. Yapay zeka geliştiricilerinin bakış açıları bazı konularda farklılık gösterirken bazılarında fikir birliği olduğu görülmektedir. Bu çalışmada, bu sistemlerin günlük yaratıcıları ve geliştiricileri olan yapay zeka geliştiricilerinin bakış açılarına odaklanarak Türkiye'de yapay zeka alanında cinsiyet çeşitliliği, ayrımcılık ve önyargı hakkında kapsamlı bir çerçeve çizmek hedeflenmektedir. Bu nedenle, geliştiricilerin bakış açılarını öne çıkararak, işyeri cinsiyet çeşitliliği, ayrımcılık ve önyargı ile algoritmik önyargıyı iç içe geçmiş bir sorun olarak bir araya getirerek ve Türkiye'de toplumsal cinsiyet ve yapay zeka ile ilgili bir çerçeve sunarak literatüre katkıda bulunmak amaçlanmaktadır.
Açıklama
Anahtar Kelimeler
Gender Diversity, Gender Discrimination, Gender Bias, Artificial Intelligence, Algorithmic Bias, Cinsiyet Çeşitliliği, Cinsiyet Ayrımcılığı, Cinsiyet Önyargısı, Yapay Zeka, Algoritmik Önyargı
