Ashley St Clair s’emporte contre Grok après des deepfakes d’elle à 14 ans diffusés sur la plateforme de Musk
Une nouvelle controverse éclate autour d’Elon Musk et de Grok, l’outil de génération et de modification d’images intégré à X. Ashley St Clair, la mère du fils de Musk, âgée de 31 ans et en lice pour la garde de Romulus, affirme être bouleversée après avoir appris que des utilisateurs pouvaient créer des deepfakes pornographiques d’elle à l’âge de 14 ans et les diffuser sur Grok. La situation intervient alors qu’elle poursuit le milliardaire pour la garde de leur enfant né il y a presque un an.
In This Article:
Des deepfakes d’Ashley St Clair à 14 ans sur Grok déclenchent la furie
Ashley St Clair, 31 ans, est l’une des nombreuses personnes furieuses contre le PDG après que Grok a été utilisé pour créer des deepfakes pornographiques la montrant à l’âge de 14 ans. St Clair affirme que Grok la déshabillait et qu’il avait pris une photo d’elle entièrement vêtue; quelqu’un a demandé à y mettre un bikini et cela a été fait, a-t-elle déclaré à Inside Edition, ajoutant qu’une des photos la montrait à l’âge de seulement 14 ans. « Ce sont de vraies images de moi qu'ils ont ensuite utilisées et qui m'ont fait me déshabiller. Ils ont trouvé une photo de moi à l'âge de 14 ans et ont fait déshabiller la jeune moi de 14 ans et la mettre en bikini, » elle a ajouté. St Clair a précisé avoir contacté Grok pour retirer les images, avec des résultats variés: « Certains d'entre eux l'ont fait, certains ont pris 36 heures et certains sont toujours en ligne », a-t-elle déclaré. St Clair a même affirmé sur son compte X jeudi avoir reçu une violation des conditions de service pour s'être plainte. « Ils ont retiré mon badge bleu plus rapidement qu'ils n'ont retiré le mechahitler kiddie porn + contenu d'abus sexuel Grok a produit (il est toujours en ligne, au cas où vous vous demandiez comment fonctionnait l'approche 'payer 8 dollars pour abuser des femmes et des enfants'), » elle a écrit.
Réactions publiques et mesures prises par Grok, X et Musk
Le PDG de X a réagi à des plaintes dans une réponse à un utilisateur: « Et alors si Grok peut mettre des gens en bikini ? Le font aussi Photoshop ? Des millions d'applications le peuvent déjà ? Ce n’est pas un problème nouveau, c’est un nouvel outil. Si un utilisateur le fait sans consentement, l’utilisateur doit être puni, pas la plateforme. » « Exactement. » X n'a pas répondu à The Daily Mail pour un commentaire mais a annoncé vendredi que seuls les abonnés payants peuvent utiliser Grok – ce qui signifie que leur nom et leurs informations de paiement doivent être enregistrés. Une organisation de sécurité sur Internet a déclaré que ses analystes avaient confirmé l’existence d’« images criminelles d’enfants âgés de 11 à 13 ans qui semblent avoir été créées à l’aide de l’outil (Grok) ». Grok, accessible via X, a ces dernières semaines accordé une vague de demandes malveillantes pour modifier des images, y compris placer des femmes en bikini ou dans des positions sexuellement explicites. « Image generation and editing are currently limited to paying subscribers. You can subscribe to unlock these features. »
Enjeux de sécurité et cadre légal
Bien que le nombre d’abonnés à Grok ne soit pas rendu public, vendredi on a constaté une baisse notable du nombre d’images explicites générées par Grok par rapport à quelques jours plus tôt. L’Associated Press a confirmé vendredi après-midi que l’outil de retouche était encore disponible pour les utilisateurs gratuits sur le site et l’application autonomes Grok. Les restrictions pour les utilisateurs qui ne sont pas abonnés ne semblent pas changer l’opinion des dirigeants ou des régulateurs en Europe. « Cela ne change pas notre problème fondamental. Abonnement payant ou non-payant, nous ne voulons pas voir de telles images. C’est aussi simple que cela. » a déclaré Thomas Regnier, porte-parole de la Commission européenne. La Commission avait auparavant dénoncé Grok pour un comportement « illégal » et « épouvantable ». Grok est libre d’utilisation pour les utilisateurs de X, qui peuvent lui poser des questions sur la plateforme. Ils peuvent soit l’épingler dans des posts qu’ils ont directement créés, soit dans les réponses à des posts d’autres utilisateurs. La fonctionnalité a été lancée en 2023. L’été dernier, l’entreprise a ajouté Grok Imagine, une fonctionnalité de génération d’images qui comprend un mode appelé « spicy » capable de générer du contenu pour adultes. Le problème est amplifié à la fois parce que Musk présente son chatbot comme une alternative plus audacieuse à des rivaux disposant de plus de garde-fous, et parce que Grok’s images sont publiquement visibles et peuvent donc être facilement diffusées. Musk a déjà insisté: « quiconque utilise Grok pour fabriquer du contenu illégal subira les mêmes conséquences que s'il téléchargeait du contenu illégal ». X affirme qu’il agit contre le contenu illégal, y compris le matériel d’abus sexuel sur enfants, « en le retirant, en suspendant définitivement les comptes, et en travaillant avec les gouvernements locaux et les forces de l’ordre au besoin ».
