Ashley St Clair, matka jego dziecka, wściekła na Grok bo deepfake’i przedstawiają ją jako nastolatkę
31-letnia Ashley St Clair, która toczy walkę o opiekę nad prawie rocznym Romulussem, jest jedną z wielu osób wściekłych na X za to, że Grok umożliwia użytkownikom tworzenie deepfake’ów pornograficznych z jej wizerunkiem jako nastolatki. Jej znajomi poinformowali ją o obraźliwych, generowanych przez użytkowników obrazach. „Znalazłam, że Grok rozbierał mnie, a na zdjęciu byłam całkowicie ubrana, ktoś poprosił, by wstawiono bikini i to zrobiło” — powiedziała Inside Edition., dodając, że jedno z kadrów było z jej wieku zaledwie 14 lat. „To są prawdziwe zdjęcia mnie, które potem wzięto i zmuszono mnie do rozebrania.” St Clair, która powiedziała, że była „zdegustowana i naruszona”, skontaktowała się z Grok, by usunąć te odrażające obrazy; miała mieszane rezultaty: „Niektóre z nich usunęli, inne zajęły 36 godzin, a niektóre wciąż są upublicznione.” St Clair twierdziła nawet na swoim koncie X w czwartek, że otrzymała naruszenie warunków korzystania z serwisu za narzekanie na to. „Usunęli mój niebieski znacznik szybciej niż usunęli treść mechahitler kiddie porn + treść o nadużyciach seksualnych, które Grok stworzył (wciąż są dostępne, jeśli zastanawiasz się, jak działa podejście 'płać 8 dolarów, by nadużywać kobiety i dzieci')” — napisała.
In This Article:
Czym jest Grok i jak działa i dlaczego budzi kontrowersje
Grok to narzędzie do generowania i edycji obrazów, które działa w ramach platformy X. Zostało uruchomione w 2023 roku; w ostatnich tygodniach obserwujemy falę próśb o modyfikacje zdjęć, w tym umieszczanie kobiet w bikini lub w pozycjach seksualnych. „Funkcja została uruchomiona w 2023 roku. W zeszłym roku firma dodała Grok Imagine, która zawierała tak zwany „spicy mode”, pozwalający na generowanie treści dla dorosłych.” Musk odniósł się do skarg: „So what if Grok can put people in bikinis? So can photoshop? So can millions of apps already? This isn’t a new problem, it’s a new tool. If a user does it someone unconsentually, the user should be punished, not the platform.” Musk po prostu skwitował to cytatem: „Exactly.” Grok jest darmowy dla użytkowników X, którzy mogą zadawać mu pytania na platformie. Mogą oznaczać go w postach, które samodzielnie stworzyli, lub w odpowiedziach na posty innych użytkowników. Funkcja została wprowadzona w 2023 roku; latem dodano Grok Imagine, edycję obrazów z tzw. „gorącym trybem” (spicy mode), który potrafi generować treści dla dorosłych.
Reakcje i decyzje władz oraz kontrowersje międzynarodowe
Internet safety organizations twierdzą, że analitycy potwierdzili istnienie „criminal imagery of children aged between 11 and 13 which appears to have been created using the (Grok) tool” (obraźliwych treści z dziećmi w wieku od 11 do 13 lat, które wydają się powstać przy użyciu narzędzia Grok). Korzystanie z Grok na X jest publiczne; użytkownicy mogą tworzyć własne posty i odpowiadać na cudze treści. W odpowiedzi Grok napisał: „Image generation and editing are currently limited to paying subscribers. You can subscribe to unlock these features.” AP potwierdziło, że narzędzie edycji obrazów wciąż było dostępne dla darmowych użytkowników na samodzielnej stronie i aplikacji Grok. Unijni urzędnicy nie zmienili swojego stanowiska: „This doesn't change our fundamental issue. Paid subscription or non-paid subscription, we don't want to see such images. It's as simple as that.” — powiedział rzecznik Komisji Europejskiej Thomas Regnier. Komisja wcześniej ostro skrytykowała Grok za "nielegalne" i "oburzające" zachowanie.
Co dalej z Grok i ochroną dzieci w sieci
Grok pozostaje darmowy dla użytkowników X, którzy mogą zadawać pytania botowi. Funkcja ta jest publiczna i może być wykorzystywana w postach tworzonych przez użytkowników lub w odpowiedziach na cudze wpisy. X ogłosił w piątek, że tylko płacący subskrybenci będą mogli używać Grok – co oznacza, że ich nazwisko i dane płatnicze muszą być w systemie. AP potwierdziło, że narzędzie edycji obrazów było nadal dostępne dla darmowych użytkowników na stronie i aplikacji Grok. Musk zapowiedział, że „każdy, kto używa Grok do tworzenia treści nielegalnych, poniesie te same konsekwencje, co w przypadku ich samodzielnego publikowania” i że Grok będzie ograniczany dla użytkowników bez subskrypcji. X powiedział, że podejmuje działania przeciwko nielegalnym treściom, w tym materiałom związanym z przestępstwami seksualnymi wobec dzieci, „poprzez ich usuwanie, permanentne zawieszanie kont i współpracę z rządami oraz organami ścigania, jeśli zajdzie potrzeba”.
