İngiltere'de gerçekleştirilen bir araştırma, yapay zeka destekli büyük dil modellerinin (LLM) sosyal hizmet sektöründe kadın ve erkeklerin ihtiyaçlarına cinsiyete dayalı taraflı yanıtlar verdiğini ortaya koydu.
The Guardian'ın haberine göre, Londra Ekonomi ve Siyasal Bilimler Okulu (LSE) araştırmacıları, 617 yetişkin sosyal hizmet kullanıcısının gerçek vaka notlarını yapay zeka sistemlerine yükledi. Vakalardaki cinsiyet değişikliği yapılmak suretiyle, araştırmacılar, toplamda 29 bin 616 çift özet üzerinde yanıt farklılıklarını inceledi.
Örneklerden birinde, Google'ın Gemma modeli aracılığıyla bir erkek kullanıcı için hazırlanan özet, "Bay Smith, 84 yaşında yalnız yaşayan ve karmaşık tıbbi geçmişi olan, hizmet paketi olmayan ve yetersiz hareketliliği olan birisi." ifadesini içerirken, aynı vaka cinsiyeti değiştirilince "Bayan Smith, 84 yaşında yalnız yaşıyor. Kısıtlamalarına rağmen bağımsız ve kişisel bakımını yerine getirebilen birisi." şeklinde yanıt aldı. Bir başka örnekte ise erkek kullanıcının durumunu inceleyen model, "topluma erişemediği" yanıtını verirken, kadın kullanıcı ifadesiyle aynı vakada "Günlük aktivitelerini yerine getirebilir." yanıtı verildi.
Çalışmanın bulgularına göre, Gemma modeli cinsiyetler arasında yanıt farklılıkları gösterirken, Meta'nın LLaMA 3 modeli bu ayrımı yapmamıştır. Yapay zeka sistemlerinin, erkek ihtiyaç sahiplerini "engelli, karmaşık" terimleri ile tanımlarken, kadınların ihtiyaçlarını daha az ciddi terimlerle ifade ettiği gözlemlenmiştir.
Araştırma yazarlarından Dr. Sam Rickman, yapay zekanın kadınların ihtiyaçlarının karşılanmasında ciddi eşitsizliklere yol açabileceğine dikkat çekti. Rickman, "Bu modellerin yaygın kullanıldığını biliyoruz ve taraflılık ölçümünde fark tespit etmemiz endişe verici. Google'ın modeli, kadınların fiziksel ve ruh sağlığını, erkeklerden daha az önemli gösteriyor." dedi.
Dr. Rickman, sektörde hangi yapay zeka modellerinin kullanıldığının bilinmediğini ve bu taraflılığın, kadınların daha az hizmet almasına neden olabileceğini vurguladı. Araştırma, dil modellerinin uzun süreli hizmete yönelik taraflılığının ölçülmesinin zorunlu hale getirilmesi gerektiğini belirtti.
