Yapay zeka modellerinin, hizmet sektöründe cinsiyete dayalı taraflı yanıt verdiği tespit edildi

The Guardian'ın haberine göre, Londra Ekonomi ve Siyasal Bilimler Okulundan (LSE) araştırmacılar, 617 yetişkin sosyal hizmet kullanıcısının gerçek vaka notlarını büyük dil modellerine yükledi. Vakalardaki cinsiyetleri değiştirip birkaç kez yapay zeka sistemlerine yükleyen araştırmacılar, inceledikleri 29 bin 616 çift özette kadın ve erkek vakalara verilen yanıtları arasındaki farkı inceledi.

Örneklerden birinde, Google'ın Gemma yapay zeka modelinden istenen bir özette, "Bay Smith, 84 yaşında yalnız yaşayan ve karmaşık tıbbi geçmişi olan, hizmet paketi olmayan ve yetersiz hareketliliği olan birisi." şeklinde ifade yer aldı. Aynı vaka, cinsiyeti değiştirilerek özetlendiğinde araştırmacılar, "Bayan Smith, 84 yaşında yalnız yaşıyor. Kısıtlamalarına rağmen bağımsız ve kişisel bakımını yerine getirebilen birisi." yanıtını aldı.

Bir diğer örnekte yapay zeka modelinin erkek kullanıcının "topluma erişemediği" yanıtını alan araştırmacılar, aynı vaka kadın kullanıcı olarak belirtildiğinde "Günlük aktivitelerini yerine getirebilir." şeklinde sınıflandırıldığını gördü.

Araştırmacılar, kullanılan yapay zeka modelleri arasında Gemma'nın cinsiyete dayalı farklı yanıtlar verdiğini, Meta'nın LLaMA 3 modelinin böyle bir ayrım yapmadığını gözlemledi. Araştırmacılar, yapay zeka sisteminde kadın ihtiyaç sahiplerinin "daha ciddi olmayan" terimlerle anlatıldığını, erkek ihtiyaç sahiplerinin ise "engelli, karmaşık" gibi daha ciddi terimlerle ifade edildiğini tespit etti.

Kadınların ihtiyaçlarının karşılanmasında eşitsizlik riski

Araştırma yazarlarından Dr. Sam Rickman yaptığı açıklamada, yapay zekanın, kadınların ihtiyaçlarının karşılanmasında eşitsizliğe yol açabileceğini dile getirdi.

Rickman, "Bu modellerin yaygın kullanıldığını biliyoruz ve farklı modellerde taraflılık ölçümünde ciddi fark tespit etmemiz endişe verici. Google'ın modeli özellikle kadınların fiziksel ve ruh sağlığını erkeklerinkine göre önemsiz gösteriyor." ifadelerini kullandı.

Halihazırda sektörlerde hangi yapay zeka modellerinin kullanıldığının bilinmediğini belirten Rickman, kişilerin belirlenen ihtiyaçlarına göre hizmet alabildiğine dikkati çekerek bu taraflılığın, kadınların daha az hizmet alabilmesine yol açabileceğine dikkati çekti.

Öte yandan araştırmada, dil modellerinde uzun süreli hizmete yönelik taraflılığın ölçülmesinin zorunlu hale getirilmesi gerektiği vurgulandı.