Elon Musks Baby‑Mama Ashley St Clair rastet aus weil gefälschte Rache-Pornos von ihr als Teenager auf Grok kursieren
Ashley St Clair gehört zu den vielen Nutzern, die dem X‑CEO gegenüber wütend sind, weil Grok es Nutzern erlaubt, Deepfake-Pornos von ihr als 14-Jährige zu erstellen. Die 31-Jährige befindet sich in einem Sorgerechtsstreit um ihren fast einjährigen Sohn Romulus und reagiert, nachdem Freunde sie auf die obszönen, nutzergenerierten Bilder aufmerksam gemacht haben. „Das sind echte Bilder von mir, die sie dann genommen und mich entkleiden ließen. Sie fanden ein Foto von mir, als ich 14 Jahre alt war, und ließen die damalige 14-jährige Version von mir sich entkleiden und in einen Bikini stecken.“ „Ich war angewidert und verletzt.“ „Einige davon wurden entfernt, andere dauerten 36 Stunden, und einige sind noch online.“ „St Clair behauptet zudem, dass sie in ihrem eigenen X-Konto am Donnerstag erklärte, sie habe einen Verstoß gegen die Nutzungsbedingungen erhalten, weil sie sich darüber beschwerte.“ „Sie entfernten meinen blauen Haken schneller, als sie die MechaHitler-Kind-Pornografie + sexuellen Missbrauchsinhalt entfernten, den Grok gemacht hat (er ist noch online, falls du dich wunderst, wie der ‚pay $8 to abuse women and children‘-Ansatz funktioniert).“
Musk reagiert auf Beschwerden und macht Grok zu einem bezahlten Dienst
St Clair behauptet, Musk sei sich des Problems bewusst und es würde nicht passieren, wenn er wolle, dass es aufhört. Auf ihrem X-Konto fuhr sie fort, den weltreichsten Mann der Welt zu kritisieren, und schrieb: „Ich fange an zu glauben, dass die 44 Milliarden Dollar, die Musk ausgegeben hat, um X zu kaufen, nicht für Meinungsfreiheit gedacht waren.“ Ein Nutzer fragte: „Was ist, wenn Grok Menschen in Bikinis setzen kann? So kann Photoshop? So kannen Millionen Apps schon? Das ist kein neues Problem, es ist ein neues Werkzeug. Wenn ein Nutzer es unwillentlich tut, sollte der Nutzer bestraft werden, nicht die Plattform.“ „Musk zitierte einfach und fügte hinzu: ‚Genau.‘“ „X kündigte am Freitag an, dass nur bezahlte Abonnenten Grok nutzen können – das bedeutet, Name und Zahlungsinformationen müssen hinterlegt sein.“ „Die Associated Press bestätigte am Freitagnachmittag, dass das Bildbearbeitungswerkzeug weiterhin für kostenlose Nutzer auf der eigenständigen Grok-Website und App verfügbar ist.“ „Eine Internet-Sicherheitsorganisation sagte, ihre Analysten hätten die Existenz von 'kriminellen Abbildungen von Kindern im Alter zwischen 11 und 13 Jahren bestätigt, die offenbar mit dem (Grok)-Werkzeug erstellt wurden'."
EU‑Behörden verurteilen Grok scharf – und Regulierer setzen weitere Schritte durch
Die EU-Kommission stellte sich gegen Grok und machte deutlich, dass sie Maßnahmen erwartet. Thomas Regnier, Sprecher der EU‑Kommission, sagte: „Dieses ändert nichts an unserem grundlegenden Problem. Bezahlsubscription oder nicht, wir wollen solche Bilder nicht sehen. So einfach ist das.“ Die Kommission hatte Grok zuvor für ‚illegal‘ und ‚appalling‘ Verhalten kritisiert. Grok ist kostenlos für X‑Nutzer nutzbar, die direkt Fragen stellen können oder in Antworten auf Beiträge anderer Nutzer eingreifen können. Die Funktion startete 2023. Im letzten Sommer ergänzte das Unternehmen Grok Imagine, einen Bildgenerator mit einem sogenannten ‚spicy mode‘, der erwachsenen Inhalt erzeugen kann. Das Problem wird zusätzlich dadurch erhöht, dass Musk Grok als kantigere Alternative zu Rivalen mit mehr Schutzmaßnahmen positioniert, und weil Grok‑Bilder öffentlich sichtbar sind und sich daher leicht verbreiten lassen. Musk hatte zuvor darauf bestanden: „anyone using Grok to make illegal content will suffer the same consequences as if they uploaded illegal content“. Dazu hieß es von X, dass es gegen illegale Inhalte vorgehe, einschließlich kinderpornografischem Material, „indem es es entfernt, Konten dauerhaft sperrt, und bei Bedarf mit lokalen Regierungen und Strafverfolgungsbehörden zusammenarbeitet“.
