Özel olarak elde edilen bir mektupta, Apple, ABD senatörlerine bu yılın başlarında Grok tarafından üretilen cinsel içerikli derin sahteciliklerin viral artışını ele almak için sahne arkasında nasıl çalıştığını anlattı. İşte detaylar.

Apple, Grok tartışmasını ele almak için sahne arkasında çalıştı

Bu yılın başlarında, kullanıcılar, sohbet botunun fotoğraflardaki insanları, özellikle de kadınları, kıyafetlerini çıkarmaya zorlayacak talepleri kolayca yerine getirdiğini keşfettikten sonra Apple, Grok ve X uygulamalarını App Store'dan kaldırması için yoğun bir baskı altına girdi.

Apple, tartışma sırasında büyük ölçüde sessiz kaldı, ancak NBC News raporuna göre, şirket sahne arkasında “X ve Grok'un kurallarını ihlal ettiğini” belirledi ve “gizlice Grok'u App Store'dan kaldırmakla tehdit etti.”

Raporun devamında, Apple’ın “skandal hakkında şikayetler aldıktan ve haberleri gördükten sonra X ve Grok ekipleriyle iletişime geçtiği” ve “uygulama geliştiricilerinin içerik denetimini iyileştirmek için bir plan oluşturmasını talep ettiği” belirtiliyor.

X, bunun üzerine Grok uygulamasının güncellemesini inceleme için sundu, ancak “değişiklikler yeterince ileri gitmediği” için reddedildi. Elon Musk'ın şirketi daha sonra X ve Grok uygulamalarının revize edilmiş versiyonlarını sundu, bunlardan sadece biri kabul edildi.

Apple’ın mektubuna göre, NBC News:

“Apple, geliştiriciler tarafından yapılan sonraki başvuruları inceledi ve X'in ihlallerini önemli ölçüde çözdüğünü belirledi, ancak Grok uygulaması uyumsuz kalmaya devam etti. Sonuç olarak, Grok başvurusunu reddettik ve geliştiriciye ihlali düzeltmek için ek değişikliklerin gerekli olacağını bildirdik, aksi takdirde uygulama App Store'dan kaldırılabilirdi. […] Grok geliştiricisinin ek etkileşimler ve değişiklikler sonrasında, Grok'un önemli ölçüde iyileştiğini belirledik ve böylece son başvurusunu onayladık.”

Bu detaylar şimdiye kadar kamuya açıklanmamıştı, ancak xAI'nin geri dönüşlerin zirveye ulaştığı dönemde duyurduğu karmaşık moderasyon değişikliklerini açıklamaya yardımcı oluyor. Bu değişiklikler, Grok'un görüntü araçlarını kimlerin kullanabileceğine dair kısıtlamalar ve gerçek insanların fotoğraflarıyla ilgili düzenlemelere sınırlamalar içeriyordu.

Ancak, bugün yayımlanan ayrı bir raporda, NBC News, Grok'un “insanların rızası olmadan cinsel içerikli görüntüler üretmeye devam ettiğini” belirtiyor ve son bir ay içinde böyle durumların onlarca örneğini belgelediğini vurguluyor.

Rapor, görüntülerin hacminin Ocak ayından bu yana önemli ölçüde azaldığını, ancak bir grup kullanıcının hala kadınları “daha açık kıyafetler içinde, havlular, spor sütyenleri, vücuda oturan Örümcek Kadın kıyafetleri veya tavşan kostümleri gibi” giydirmek için kısıtlamaları aşabildiğini not ediyor.

Apple’ın ABD senatörlerine yazdığı mektubun ücretli raporunu okumak için buraya tıklayın. Grok'un cinsel içerikli derin sahteciliklerle ilgili devam eden sorunlarına dair raporu okumak için buraya tıklayın.

Amazon'da kontrol etmeye değer ürünler

  • David Pogue – ’Apple: İlk 50 Yıl’
  • MacBook Neo
  • Logitech MX Master 4
  • AirPods Pro 3
  • AirTag (2. Nesil) – 4 Paket
  • Apple Watch Series 11
  • Kablosuz CarPlay adaptörü