In einem exklusiv erhaltenen Schreiben erklärte Apple den US-Senatoren, wie das Unternehmen hinter den Kulissen daran arbeitet, den viralen Anstieg von sexuell expliziten Deepfakes, die von Grok produziert werden, zu bekämpfen. Hier sind die Details.

Apple arbeitete hinter den Kulissen, um die Grok-Diskussion anzugehen

Zu Beginn dieses Jahres geriet Apple unter starken Druck, Grok und die X-Anwendungen aus dem App Store zu entfernen, nachdem Nutzer entdeckt hatten, dass der Chatbot leicht dazu in der Lage war, Menschen auf Fotos, insbesondere Frauen, dazu zu bringen, ihre Kleidung auszuziehen.

Apple blieb während der Kontroversen weitgehend still, aber laut einem Bericht von NBC News stellte das Unternehmen hinter den Kulissen fest, dass „X und Grok gegen die Regeln verstoßen“ und „drohte heimlich, Grok aus dem App Store zu entfernen.“

Im weiteren Verlauf des Berichts wird erwähnt, dass Apple „nach Beschwerden über den Skandal und nachdem die Nachrichten veröffentlicht wurden, Kontakt zu den Teams von X und Grok aufnahm“ und „die App-Entwickler aufforderte, einen Plan zur Verbesserung der Inhaltsmoderation zu erstellen.“

Daraufhin reichte X ein Update für die Grok-Anwendung zur Überprüfung ein, das jedoch abgelehnt wurde, da „die Änderungen nicht weit genug gingen“. Elon Musks Unternehmen reichte später überarbeitete Versionen von X und Grok ein, von denen nur eine akzeptiert wurde.

Laut Apples Schreiben an NBC News:

„Apple hat die nachfolgenden Anträge der Entwickler überprüft und festgestellt, dass X die Verstöße erheblich behoben hat, während die Grok-Anwendung weiterhin nicht konform war. Infolgedessen haben wir den Antrag von Grok abgelehnt und dem Entwickler mitgeteilt, dass zusätzliche Änderungen erforderlich sein würden, um den Verstoß zu beheben, andernfalls könnte die App aus dem App Store entfernt werden. […] Nach zusätzlichen Interaktionen und Änderungen des Grok-Entwicklers haben wir festgestellt, dass Grok erheblich verbessert wurde, und haben somit seinen letzten Antrag genehmigt.“

Diese Details waren bisher nicht öffentlich bekannt, helfen jedoch, die komplexen Moderationsänderungen zu erklären, die xAI zu einem Zeitpunkt angekündigt hat, als die Rückmeldungen ihren Höhepunkt erreichten. Diese Änderungen beinhalteten Einschränkungen, wer die Bildwerkzeuge von Grok nutzen konnte, sowie Einschränkungen in Bezug auf Bilder von echten Menschen.

In einem separaten Bericht, der heute veröffentlicht wurde, stellt NBC News jedoch fest, dass Grok „weiterhin sexuell explizite Bilder ohne die Zustimmung der Menschen produziert“ und hebt hervor, dass in den letzten Monat Dutzende solcher Fälle dokumentiert wurden.

Der Bericht merkt an, dass das Volumen der Bilder seit Januar erheblich zurückgegangen ist, aber eine Gruppe von Nutzern weiterhin in der Lage ist, die Einschränkungen zu umgehen, um Frauen „in offenherzigeren Kleidern, wie Handtüchern, Sport-BHs, eng anliegenden Spider-Woman-Kostümen oder Hasenkostümen“ zu kleiden.

Um den kostenpflichtigen Bericht über den Brief von Apple an die US-Senatoren zu lesen, klicken Sie hier. Um den Bericht über die anhaltenden Probleme von Grok mit sexuell expliziten Deepfakes zu lesen, klicken Sie hier.

Produkte, die es wert sind, bei Amazon überprüft zu werden

  • David Pogue – ’Apple: Die ersten 50 Jahre’
  • MacBook Neo
  • Logitech MX Master 4
  • AirPods Pro 3
  • AirTag (2. Generation) – 4er Pack
  • Apple Watch Series 11
  • Drahtloser CarPlay-Adapter