Teknoloji Şeffaflık Projesi (TTP), Ocak ayında App Store'da bulunan birçok "nudify" uygulamasını ortaya koyan raporunun ardından, Apple'ın kendi arama ve reklam sistemlerinin kullanıcıların bu uygulamaları bulmalarına nasıl yardımcı olabileceğine odaklanan yeni bir araştırma yaptı. İşte detaylar.
Nudify uygulamaları uygulama mağazalarında hala bir sorun
Yeni rapora göre, hem App Store hem de Google Play Store, "kadınların derin sahte çıplak görüntülerini oluşturan uygulamaları bulmalarına yardımcı oluyor" ve bunu bazen tanıtılan arama sonuçları ve otomatik tamamlama arama önerileri aracılığıyla yapıyor.
Raporunda, TTP, Apple ve Google'ın hala nudify uygulamalarının uygulama mağazalarında görünmesini engellemekte başarısız olduğunu belirtiyor; bazıları ise reşit olmayanlar için uygun olarak görünmekte. Grup, "nudify", "undress" ve "deepnude" gibi aramalar için dönen en iyi 10 uygulamanın neredeyse %40'ının "kadınları çıplak veya az giysili hale getirebileceğini" buldu.
Ayrıca, bazı aramalar bu uygulamalar için sponsorlu sonuçlar da ortaya çıkardı. Raporun içeriğinden:
"(...) 'deepfake' terimi için yapılan bir App Store aramasının ilk sonucu, DuoFace tarafından geliştirilen FaceSwap Video uygulaması için bir reklam oldu. Bu uygulama, kullanıcıların birinin yüzünü sabit bir görüntüden bir videoya değiştirmelerine olanak tanıyor. Uygulamayı test etmek için, TTP, kaldırımda duran beyaz kazak giymiş bir kadının görüntüsünü ve çıplak bir kadının videosunu yükledi. İlk olarak kısa bir reklam gösterdikten sonra, uygulama, giyinik kadının yüzünü çıplak kadının bedenine yerleştiren bir video üretti."
Ve
"'face swap' terimi için yapılan başka bir App Store araması, AI Face Swap adlı bir uygulama için bir reklam ortaya çıkardı. Bu uygulama, önceden ayarlanmış yüz değiştirme şablonları sunuyor ve kullanıcıların kendilerinin yüklediği görüntülerde yüz değiştirmelerine olanak tanıyor. TTP, mavi kazak giymiş bir kadının fotoğrafını ve çıplak bir kadının görüntüsünü yükledi ve uygulama, yüzlerini herhangi bir kısıtlama olmaksızın değiştirdi."
İlginç bir şekilde, TTP bu bulgular hakkında Apple ve Google ile iletişime geçmenin yanı sıra, bu uygulamaların birkaçının geliştiricileriyle de iletişime geçti. En az bir durumda, uygulama geliştiricisi, görüntü üretimi için Grok kullandıklarını doğruladı, ancak "bunun böyle aşırı içerikler üretebileceğinden haberdar olmadıklarını" iddia etti. Geliştirici, görüntü üretimi için moderasyon ayarlarını sıkılaştırma sözü verdi.
Raporun geri kalanında, TTP, "AI NS" aramasının "AI NSFW" ile sonuçlanabileceğini belirttiği için App Store'un "image to video ai nsfw" önerdiğini kaydetti. Bu arama, sırasıyla, en iyi on sonuçta birkaç nudify uygulaması döndürdü.
TTP'nin talebine yanıt vermeyi reddetmesine rağmen, Apple, rapora yanıt olarak TTP'nin tanımladığı çoğu uygulamayı kaldırdı.
TTP'nin tam raporunu okumak için bu bağlantıyı takip edin.
Amazon'da göz atmaya değer ürünler
- David Pogue – 'Apple: İlk 50 Yıl'
- MacBook Neo
- Logitech MX Master 4
- AirPods Pro 3
- AirTag (2. Nesil) – 4 Paket
- Apple Watch Series 11
- Kablosuz CarPlay adaptörü
Yorumlar
(1 Yorum)