Yapay zekâ sistemlerinde cinsiyet ve ırk önyargısı tespit edildi
Birleşmiş Milletler Kadın Birimi verilerine göre incelenen 133 yapay zekâ sisteminin yüzde 44’ünde toplumsal cinsiyet yanlılığı, yüzde 26’sında ise toplumsal cinsiyet ve ırksal önyargı görüldü. Metin, bu önyargıların işe alım, kredi onayı ve hukuki kararlar gibi alanlarda kadınları daha fazla etkileyebileceğine dikkat çekiyor.
Yapay zekâ devlerinin, geçtiğimiz günlerde yapay zekânın kontrolden çıkabileceğine ve bu nedenle yavaşlamamız gerektiğine yönelik uyarıları çoğumuzu silkeledi. Bu haberleri duyduğum anda gözümün önüne gelen ilk sahne, başını ellerinin arasına almış “Bir canavar yarattım” diye bağıran bir Doktor Frankestein oldu.
Altında politik nedenler de olsa, bir fon arayışı da olsa, yıllar önce “Bulutların Güneşe Bakan Yanı” kitabımda söz etttiğim gibi bir “yapay zeka tanrı” ütopyasına (veya distopyasına) koşar adım ilerlediğimize yönelik bir kanıt da olsa, bu uyarılarda gerçeklik payı bulunduğu ve bu fenomenin kendi yaratıcısı tarafından bile ne yöne evrileceğinin öngörülemediği tartışma götürmüyor.
Image
Ancak ben bu yazımda olası sonuçlardan çok yapay zekânın şu anki durumuna değinmek istiyorum. Yapay zekâ yaşamlarımıza girdiğinden beri, “işimizi mi kaybediyoruz, sanatımızı mı kaybediyoruz, düşünme yetimizi mi kaybediyoruz?” gibi dertlerin defalarca konuşulduğunu duyduk ama tüm bu kaybedişleri “Kadınlar ve erkekler eşit deneyimliyor mu?” sorusu pek de aklımıza gelmiyor.
Çünkü öğrenme sistemi insan verilerine dayanan yapay zekâ, ister istemez var olan toplumsal önyargıları ve kalıpları dijital dünyaya taşıdı, taşıyor ve bu nedenle kadınları ve erkekleri aynı göremiyor. Örneğin yönetici veya mühendis rolleri genellikle erkeklerle eşleştirilirken, ev işleri ve çocuk bakımı ise kadınlara atanıyor.
Haliyle bu pekiştirilmiş önyargılar da insan kaynakları, kredi onayları ve hukuki kararlar gibi alanlarda kadın ve erkek için yapay zekânın ayrıştırıcı davranmasına neden olabiliyor. Yani bir kayıp varsa her zamanki gibi kadınlar daha çok kaybediyor.
SAYILARLA CİNSİYET EŞİTSİZLİĞİ Birleşmiş Milletler Kadın Birimi’nin (UN Women) haziran ayında yayımladığı verilere göre 133 yapay zekâ sisteminin incelendiği bir araştırmada sistemlerin yüzde 44’ünde toplumsal cinsiyet yanlılığı tespit edilirken yüzde 26’sında ise hem toplumsal cinsiyet hem de ırksal önyargı görülmüş.
Aslında bunda şaşırtıcı bir taraf yok çünkü yapay zekâ, dünyayı kendi başına gözlemleyerek öğrenmedi. Ona insanlar tarafından üretilmiş devasa miktarda metin, görüntü ve veri gösterildi. Eh, toplumda yıllardır var olan eşitsizlikler, önyargılar ve klişeler de haliyle bu veri havuzunun içindeydi.
Tabii bunda kadınların yapay zekâ araçlarını kullanmaya erkeklerden daha mesafeli yaklaşmasının da etkisi vardır ama ir insanın önyargılı olmasıyla bir algoritmanın önyargılı olması arasında önemli bir fark bulunuyor: Bir insanın söylediği yanlış bir cümle, o kişi devlet başkanı veya ruhani lider olmadığı sürece yalnızca birkaç kişiyi etkileyebilirken aynı önyargı milyonlarca insanın kullandığı bir sisteme yerleştiğinde çok daha geniş bir alana nüfuz edebilir.
YAPAY ZEKA DESTEKLİ SİDDET! Bir başka sorun ise “deepfake”, yani yapay zekâ kullanılarak gerçeği taklit eden sahte görüntüler. UN Women verilerine göre araştırmaya katılan kadın insan hakları savunucuları, aktivistler ve gazetecilerin yaklaşık dörtte biri yapay zeka destekli çevrimiçi şiddete maruz kaldığını bildirirken yüzde 6’sı deepfake veya manipüle edilmiş görüntü ve videolarla hedef alındığını söylemiş.
“Yapay zekâ kadın düşmanı” demiyorum elbette ama her ne kadar yapay zekâ kendi başına kadınlardan nefret etmese de onu eğiten dünyada bir kadın düşmanlığı olduğunu inkar edemeyiz.
Dünyaca bir olup bir bebek yetiştirdiğimizi düşünün, arada idealist ebeveynler çıksa da çoğunluğumuz bazen bile bile kötü olduğundan bazen de henüz gözümüzü açmamış olduğumuzdan yetiştirdiğimiz bebek giderek masumiyetini yitiriyor ve tek dişi kalmış bir canavara öykünen kitlenin bir parçası oluyor: Irkçı ve cinsiyetçi… Haliyle insanın aklına şu soru geliyor: Neolitik dönemde, anaerkil toplumlarda yapay zekâ bulunmuş olsaydı günümüzdeki toplum nereye evrilirdi?
Bir dijital platform dizisinde birgün karşımıza çıkar belki bu konu. Çerezimizi yiyip bir solukta sezonu bitirirken “vah vah deriz, halimize dertleniriz. Sonra da yine unutur gideriz. Öyleyse hadi kadınlar kaldığımız yerden ev işlerine… Daha çamaşırlar bekler. * https://news. un. org/en/story/2026/06/1167776 * https://shorturl. at/fFoIU