Em uma carta obtida exclusivamente, a Apple explicou aos senadores dos EUA como trabalhou nos bastidores para lidar com o aumento viral de deepfakes de conteúdo sexual produzidos pelo Grok no início deste ano. Aqui estão os detalhes.

Apple trabalhou nos bastidores para lidar com a controvérsia do Grok

No início deste ano, após os usuários descobrirem que o chatbot facilmente atendia a pedidos para forçar pessoas em fotos, especialmente mulheres, a se despirem, a Apple enfrentou intensa pressão para remover o Grok e o aplicativo X da App Store.

A Apple permaneceu em grande parte em silêncio durante a controvérsia, mas de acordo com um relatório da NBC News, a empresa determinou nos bastidores que “X e Grok estavam violando as regras” e “ameaçou secretamente remover o Grok da App Store.”

O relatório continua afirmando que a Apple “entrou em contato com as equipes do X e do Grok após receber reclamações sobre o escândalo e ver as notícias” e “solicitou que os desenvolvedores do aplicativo criassem um plano para melhorar a moderação de conteúdo.”

Em resposta, o X submeteu uma atualização do aplicativo Grok para revisão, mas foi rejeitada porque “as mudanças não foram suficientemente avançadas.” A empresa de Elon Musk então apresentou versões revisadas dos aplicativos X e Grok, das quais apenas uma foi aceita.

De acordo com a carta da Apple, NBC News:

“A Apple revisou as solicitações subsequentes feitas pelos desenvolvedores e determinou que o X havia resolvido significativamente as violações, mas o aplicativo Grok continuou a estar em desacordo. Como resultado, rejeitamos a solicitação do Grok e informamos ao desenvolvedor que seriam necessárias alterações adicionais para corrigir a violação, caso contrário, o aplicativo poderia ser removido da App Store. […] Após interações e alterações adicionais do desenvolvedor do Grok, determinamos que o Grok havia melhorado significativamente e assim aprovamos sua última solicitação.”

Esses detalhes não haviam sido divulgados até agora, mas ajudam a explicar as complexas mudanças de moderação que a xAI anunciou durante o pico das reclamações. Essas mudanças incluíam restrições sobre quem poderia usar as ferramentas de imagem do Grok e limitações em relação a fotos de pessoas reais.

No entanto, em um relatório separado publicado hoje, a NBC News afirma que o Grok “continuou a produzir imagens de conteúdo sexual sem o consentimento das pessoas” e enfatiza que documentou dezenas de exemplos desse tipo nos últimos meses.

O relatório observa que o volume de imagens diminuiu significativamente desde janeiro, mas um grupo de usuários ainda conseguiu contornar as restrições para vestir mulheres “com roupas mais reveladoras, como toalhas, sutiãs esportivos, trajes de Mulher-Aranha que se ajustam ao corpo ou fantasias de coelho.”

Clique aqui para ler o relatório pago da carta da Apple aos senadores dos EUA. Clique aqui para ler o relatório sobre os problemas contínuos do Grok com deepfakes de conteúdo sexual.

Produtos que valem a pena conferir na Amazon

  • David Pogue – ‘Apple: Os Primeiros 50 Anos’
  • MacBook Neo
  • Logitech MX Master 4
  • AirPods Pro 3
  • AirTag (2ª Geração) – Pacote com 4
  • Apple Watch Series 11
  • Adaptador CarPlay sem fio