Biri siyahi biri beyaz iki kişi uzun bir görselde yükleniyor (sağdaki) ve önizleme görselinde çoğunlukla beyaz kişi (soldaki gibi) gösteriliyor. |
İnternette biraz dolaştıktan sonra bu özelliğin 2018 yılında eklendiğini farkettim. Özelliğin duyurulduğu yazıda en belirgin yüze odaklanıldığından bahsediyor. Ayrıca algoritma yüz bulumazsa görselin ortasına odaklanıyor. Bununla birlikte görüntünün en ilginç ve belirgin kısmına odaklandığından da bahsetmiş. Algoritma, beyaz yüzü daha belirgin olarak kabul edip direkt onu kabul ediyor olabilir. (Umarım daha ilginç değildir)
Paylaşım yapınca ortaya böyle bir sonuç çıkıyor. Büyük halini görmek için görsele tıklayabilirsiniz. |
Ben bu olayı farkettiğim an Polemik grubunda bir paylaşım yaptım. Yorumlarda da bayağı tartışma döndü. Geçtiğimiz günlerde Twitter bu "ırkçı" bir görüntü kırpma algoritması için özür diledi. Yetkililer; "Ekibimiz modeli yürürlüğe sokmadan önce algoritmanın ırksal veya cinsiyetçi ayrımcılık yapıp yapmadığını test etti. Ancak görünüşe göre bu testler yeterli olmamış" şeklinde bir açıklama yaptı.
Ben bu olayın kasıtlı yapıldığını düşünmüyorum. Twitter yazılım ekibinin içinde ırkçı kişiler muhakkak vardır ama bu işler tek bir kişinin elinden çıkmıyor. Mühendis ekibinin içinde Hintlisi de vardır, Afro-Amerikalısı da vardır, Müslümanı da vardır. Yeterince test edilmediğini, yapılan testlerin de beyazlar referans alınarak yapıldığını düşünüyorum. Özetle ortaya kabahat sonucu ırkçı bir algoritma çıkmış, düzeltilmesini temenni ediyoruz.
Kaynaklar:
https://blog.twitter.com/engineering/en_us/topics/infrastructure/2018/Smart-Auto-Cropping-of-Images.html
https://www.computerweekly.com/news/252489419/Twitter-investigates-image-cropping-algorithm-for-racial-bias
https://www.theguardian.com/technology/2020/sep/21/twitter-apologises-for-racist-image-cropping-algorithm
https://t24.com.tr/haber/twitter-irkci-olarak-nitelendirilen-fotograf-kesme-algoritmasi-nedeniyle-ozur-diledi,904604
Görüş ve Fikirlerim (Abdulkadir Öcal)