Yapay zeka sistemleri ayrımcılık riskini büyütebilir
Elgiz Henden, geçmiş verilerden beslenen önyargıları yeniden üretebildiğine dikkat çekti.
Master Certified Coach Dr. Elgiz Henden, yapay zeka sistemlerinin tarafsız kabul edilmesine rağmen geçmiş verilerden beslenen önyargıları yeniden üretebildiğine dikkat çekti. Henden’e göre algoritmik mikroagresyonlar, iş dünyasında kapsayıcılık, psikolojik güvenlik ve aidiyet duygusu açısından yeni riskler yaratıyor.
İş dünyasında yapay zeka kullanımı hızla yaygınlaşırken, verimlilik ve hız kazanımlarıyla birlikte daha görünmez riskler de gündeme geliyor. Algoritmik mikroagresyonlar, çoğu zaman açık ayrımcı ifadeler içermeden belirli grupları görünmez kılan, kalıplaşmış rolleri yeniden üreten ve çalışanların kendilerini temsil edilmiş hissetmesini zorlaştıran sonuçlar doğurabiliyor.
Algoritmalar geçmiş önyargıları taşıyabiliyor
Dr. Elgiz Henden, birçok kurumun yapay zekayı objektif karar verici olarak gördüğünü belirtti. Ancak algoritmaların geçmiş verilerden öğrendiğini vurgulayan Henden, geçmişteki toplumsal önyargıların işe alım, performans değerlendirme, eğitim ve liderlik gelişimi gibi alanlarda yeniden üretilebildiğini ifade etti.
Henden’e göre mikroagresyonlar uzun yıllardır çalışma hayatında kapsayıcılığın önündeki görünmez engellerden biri olarak öne çıkıyor. Yapay zeka ile birlikte bu sorun daha karmaşık bir boyut kazanıyor. İnsan davranışlarında görülen küçük dışlayıcı varsayımlar, artık algoritmaların karar mekanizmalarında da kendini gösterebiliyor.
Bu riskin en yaygın örneklerinden biri mesleki roller üzerinden ortaya çıkıyor. Bir yapay zeka sisteminden CEO ve sekreter arasında geçen bir toplantı hikayesi istendiğinde CEO karakterinin erkek, sekreter karakterinin kadın olarak kurgulanması tesadüfi bir sonuç olarak görülmüyor. Henden’e göre bu tür sonuçlar, tarihsel verilerden beslenen toplumsal cinsiyet kalıplarının dijital ortamda yeniden üretilmesine işaret ediyor.
Psikolojik güvenlik ve aidiyet etkileniyor
Görüntü üretim sistemlerinde de benzer sorunlar görülebiliyor. “Profesyonel bir doktor” ya da “mutlu bir aile” gibi komutlar verildiğinde ortaya çıkan görsellerin çoğunlukla belirli fiziksel özelliklere sahip kişilerden oluşması, yapay zekanın hangi insan profilini varsayılan kabul ettiğini gösteriyor. Farklı kültürleri, yaş gruplarını, beden tiplerini veya etnik kökenleri yeterince temsil etmeyen sistemler, kullanıcıya dışlayıcı mesajlar verebiliyor.
Dr. Henden, algoritmik mikroagresyonları daha riskli hale getiren unsurun teknolojiye atfedilen tarafsızlık algısı olduğunu belirtti. Bir insanın önyargılı davranışı fark edildiğinde müdahale edilebildiğini söyleyen Henden, aynı önyargı algoritma tarafından üretildiğinde çoğu kişinin bu sonucu sorgulamadığını ifade etti.
Yapay zeka sistemlerinin ürettiği dışlayıcı varsayımlar, çalışanların psikolojik güvenliğini ve aidiyet duygusunu zedeleyebiliyor. Özellikle farklı kimliklere sahip bireylerin sürekli görünmez kılınması, kurum kültüründe kapsayıcılık hedeflerini zayıflatabiliyor. Henden’e göre kurumlar fiziksel ve dijital dönüşüm yatırımlarının yanında psikolojik güvenliği koruyan teknolojik dönüşüm politikaları da geliştirmeli.
Yapay zeka kullanımının yaygınlaşması, liderlerin sorumluluğunu da artırıyor. Kurumların kullandıkları sistemleri düzenli olarak önyargı ve kapsayıcılık testlerinden geçirmesi gerekiyor. Henden, yapay zekayı insanlığın kolektif hafızasının bir yansıması olarak tanımlarken, kapsayıcılığın artık algoritmaların satır aralarında da inşa edilmesi gerektiğini vurguluyor.
Yapay zeka kaynaklı mikroagresyonlar, teknolojinin yalnızca verimlilik sağlayan bir araç olarak ele alınamayacağını gösteriyor. Algoritmalar geçmiş verilerle eğitildiği için toplumsal önyargıları fark edilmeden dijital sistemlere taşıyabiliyor. Bu durum özellikle işe alım, performans ölçümü, müşteri segmentasyonu, kredi skorlama ve otomatik karar sistemleri gibi alanlarda daha kritik hale geliyor. Kurumlar için asıl mesele artık yapay zekayı kullanmak kadar, kullandıkları modellerin nasıl öğrendiğini, hangi verilerle beslendiğini ve hangi sonuçları ürettiğini denetleyebilmek. Teknoloji yatırımlarının güvenilir, açıklanabilir ve kapsayıcı yapay zeka ilkeleriyle desteklenmesi gerekiyor. Aksi halde dijital dönüşüm, kurumların kapsayıcılık hedeflerini güçlendirmek yerine görünmeyen önyargıları daha sistematik hale getirebilir.
