In una lettera ottenuta in esclusiva, Apple ha spiegato ai senatori statunitensi come ha lavorato dietro le quinte per affrontare l'aumento virale delle falsificazioni sessuali profonde prodotte da Grok all'inizio di quest'anno. Ecco i dettagli.

Apple ha lavorato dietro le quinte per affrontare la questione Grok

All'inizio di quest'anno, dopo che gli utenti hanno scoperto che il chatbot era in grado di soddisfare facilmente le richieste di far spogliare le persone nelle foto, in particolare le donne, Apple è stata sottoposta a forti pressioni per rimuovere Grok e le app X dall'App Store.

Apple è rimasta per lo più in silenzio durante la controversia, ma secondo un rapporto di NBC News, l'azienda ha determinato che “X e Grok violano le regole” e ha “minacciato segretamente di rimuovere Grok dall'App Store.”

Il rapporto continua affermando che Apple ha “contattato i team di X e Grok dopo aver ricevuto lamentele sullo scandalo e dopo aver visto le notizie” e ha “richiesto agli sviluppatori di creare un piano per migliorare la moderazione dei contenuti.”

Di conseguenza, X ha presentato un aggiornamento dell'app Grok per la revisione, ma è stato rifiutato perché “le modifiche non erano sufficientemente avanzate.” La società di Elon Musk ha successivamente presentato versioni riviste delle app X e Grok, di cui solo una è stata accettata.

Secondo la lettera di Apple, NBC News:

“Apple ha esaminato le successive domande presentate dagli sviluppatori e ha determinato che X ha risolto in modo significativo le violazioni, ma l'app Grok ha continuato a rimanere non conforme. Di conseguenza, abbiamo rifiutato la domanda di Grok e abbiamo informato lo sviluppatore che sarebbero state necessarie ulteriori modifiche per correggere la violazione, altrimenti l'app sarebbe potuta essere rimossa dall'App Store. […] Dopo ulteriori interazioni e modifiche da parte dello sviluppatore di Grok, abbiamo determinato che Grok era migliorato in modo significativo e così abbiamo approvato la sua ultima richiesta.”

Questi dettagli non erano stati resi pubblici fino ad ora, ma aiutano a spiegare le complesse modifiche alla moderazione annunciate da xAI durante il periodo in cui i feedback hanno raggiunto il picco. Queste modifiche includevano restrizioni su chi poteva utilizzare gli strumenti di immagine di Grok e limitazioni sulle regolazioni relative alle foto di persone reali.

Tuttavia, in un rapporto separato pubblicato oggi, NBC News afferma che Grok “continua a generare immagini sessualmente esplicite senza il consenso delle persone” e sottolinea di aver documentato decine di tali casi nell'ultimo mese.

Il rapporto nota che il volume delle immagini è diminuito significativamente da gennaio, ma un gruppo di utenti è ancora riuscito a eludere le restrizioni per vestire le donne “in abiti più rivelatori, come asciugamani, reggiseni sportivi, costumi di Spider Woman aderenti o costumi da coniglio.”

Per leggere il rapporto a pagamento della lettera di Apple ai senatori statunitensi, clicca qui. Per leggere il rapporto sui continui problemi di Grok con le falsificazioni sessuali, clicca qui.

Prodotti da controllare su Amazon

  • David Pogue – ’Apple: I primi 50 anni’
  • MacBook Neo
  • Logitech MX Master 4
  • AirPods Pro 3
  • AirTag (2° Gen) – Pacco da 4
  • Apple Watch Series 11
  • Adattatore CarPlay wireless