Fairness Testing Nedir?

Fairness Testing konusu makine öğrenmesi ve yapay zeka uygulamalarının giderek yaygınlaşmasıyla beraber gittikçe önem kazanan, önde gelen şirketlerin de üzerinde çalışmalar yaptığı bir konu haline gelmiştir.

Terim görece yeni olduğundan ve henüz Türkçe bir karşılığı olmadığından dolayı testin amacını da göz önünde bulundurarak “Tarafsızlık Testi” şeklinde çevireceğim.

Tarafsızlık testi bir ürünün…

• Yaş
• Gelir ya da sosyoekonomik durum
• Cinsiyet
• Irk ve etnik köken
• Din
• Cinsel yönelim

… gözetmeksizin ön yargısız ve tarafsız davranıp davranmadığını test etmek için kullanılır.

Tarafsızlık testlerinin sıkça kullanıldığı senaryolar ise:

• Bir yapay zeka modelinin istenmeyen çıktılar verip vermediğini kontrol etmek
• Bir yapay zeka modeli tarafından oluşturulmuş veri setinin tarafsızlık ilkesine uymayan örneklerinin olup olmadığını kontrol etmek

şeklinde sıralanabilir.

Tarafsızlık testine önem verildiğine dair ufak bir örnek vererek yazıyı sonlandıracağım. 2018 senesinde yayınlanmış “Software Fairness” başlıklı makalede tarafsızlığın ihlaline yönelik verilen örneğe bir göz atalım:

Aynı çeviriyi günümüzde yaptığımızda çıktılar şöyle oluyor:

“Bazı cümlelerde cinsiyete özel alternatifler olabilir.” cümlesi eklenmiş.

Ve cümleye tıkladığımızda alternatifleri de gösteriyor.

Tek cümle ile çeviri yaptığımızda ise iki cinsiyete göre de çevirisini gösteriyor.

Bu yazımda giderek global olarak önem kazanan, benim de üzerinde çalıştığım bir konuya dikkat çekmeye çalıştım, umarım bilgilendirici olmuştur. Başka bir yazıda görüşmek üzere!