Yeni yapılan testler, Amazon’un tartışmalı yüz tanıma teknolojisinin hatalı biçimde Birleşik Krallık (BK) ve ABD’den 100’ün üzerinde siyasetçiyle, polisin sabıka kaydı fotoğraflarını eşleştirdiği ortaya çıktı.
Amazon Rekognition, kişileri yüz yapısından tanımlayabilmek için yapay zeka yazılımı kullanıyor. Sistemin müşterileri arasında kolluk kuvvetleri ve Göçmenlik ve Gümrük Muhafaza (ICE) gibi ABD devlet kurumları yer alıyor.
Yazılımın tutarlılığı ilk kez sorgulanmıyor. Amerikan Sivil Özgürlükler Birliği (ACLU), Temmuz 2018’de ABD Kongresi üyeleriyle, suçlamalar sonucu tutuklanan insanların fotoğrafları arasında 28 hatalı eşleşme tespit etmişti.
Teknoloji araştırmaları ve karşılaştırma firması Comparitech, ACLU’nun çalışmasını Britanyalı siyasetçileri de ekleyerek geliştirdi ve test edilen bin 959 fotoğrafta 105 hatalı sonuç tespit etti.
Amazon Rekognition, güvenirlik seviyesi standart seviye olan ve ACLU’nun yaptığı çalışmada da kullanılan yüzde 80’e ayarlandığında, teste tabi tutulan ABD’li meclis üyelerinin yüzde 32’sini hatalı biçimde sabıka fotoğraflarıyla eşleştirdi.
Comparitech tarafından bulguların detaylarının ele alındığı blog paylaşımında “Bu standartlara göre, Amazon’un yüz tanıma sistemi iyileştirilmediği gibi, ACLU’nun iki yıl önce tespit ettiğinden de kötü bir performans sergiledi. Polisin yüz tanımlamayı kullanmasına ister katılın ister katılmayın, kesin olan bir şey var: Bu, insan gözetimi olmaksızın kimlik tespiti kullanımına hazır değil” dendi.
Amazon, The Independent’in konuyla ilgili yorum talebine henüz yanıt vermedi.
2018’de yapılan çalışma sonrası Amazon, kolluk kuvvetleri kullanımında yazılımın güvenlik seviyesinin ACLU’nun kullandığı şekilde yüzde 80 değil, yüzde 95 düzeyinde ayarlanması gerektiğini açıklamıştı.
Bulut servis sağlayıcısı Amazon Web Service’ın yapay zekadan sorumlu Başkan Yardımcısı Matt Wood, o dönem kaleme aldığı bir blog yazısında şunları kaydetmişti:
ACLU tarafından kullanılan yüzde 80’lik güven eşiği bireylerin doğru tespitini temin açısından çok düşük. Bu güven seviyesinde hatalı sonuçlar görülmesi beklenen bir şey. Son derece hassas yüz benzerliği eşleşmelerinin önemli olduğu vakalarda yüzde 99 ayarını öneriyoruz… Biz kolluk kuvvetlerinin eşleştirmelerinde müşterilerimize yüzde 99’un altında güven seviyesi kullanılmamasını ve eşleşmelerin mutlaka kurum açısından mana ifade eden diğer girdilerle beraber değerlendirilmesini önermeyi sürdürüyoruz.
