Ashley St Clair estalla contra Grok por deepfakes de menores que circulan en X
En medio del proceso de custodia de su hijo Romulus, Ashley St Clair, la pareja de Elon Musk, acusa a Grok de permitir que usuarios creen deepfakes de ella cuando tenía 14 años. La denuncia llega tras que amigos le alertaran sobre las imágenes repugnantes generadas por usuarios.
In This Article:
- Ashley St Clair denuncia que Grok desnudó imágenes suyas y usó una foto de cuando tenía 14 años
- Algunas imágenes fueron eliminadas y otras siguen disponibles tras 36 horas
- La respuesta de Musk y la verificación azul: sus suscripciones y la polémica
- Reacciones oficiales y reguladores en Europa ante Grok
- Qué es Grok, su función en X y el debate sobre seguridad
Ashley St Clair denuncia que Grok desnudó imágenes suyas y usó una foto de cuando tenía 14 años
«Encontré que Grok me estaba desnudando y había tomado una foto de mí completamente vestida; alguien pidió ponérmela en bikini y lo hizo», declaró a Inside Edition, añadiendo que una de las imágenes era de ella a la edad de 14 años. «Estas son imágenes reales de mí que luego tomaron y me obligaron a desvestirme. Encontraron una foto de mí cuando tenía 14 años y desnudaron a la yo de 14 años y me pusieron un bikini», añadió. «Algunas de ellas las eliminaron, otras tardaron 36 horas y algunas siguen ahí», dijo. «Me quitaron la verificación azul más rápido de lo que eliminaron el contenido de pornografía infantil tipo mechahitler + abuso sexual que Grok creó (sigue ahí, por si te preguntas cómo funciona el enfoque de 'paga $8 para abusar de mujeres y niños'),» escribió.
Algunas imágenes fueron eliminadas y otras siguen disponibles tras 36 horas
St Clair afirma que Musk «está al tanto del problema» y que «no estaría pasando» si él quisiera que se detuviera. «Eso es una pregunta excelente que la gente debería hacerle a él», dijo cuando se le preguntó por qué no ha detenido la pornografía infantil. En su cuenta, continuó criticando al hombre más rico del mundo, escribiendo: «Estoy empezando a pensar que los 44 mil millones de dólares que Musk gastó para comprar X no eran para la libertad de expresión». El CEO de X, Musk, pareció dirigirse a las quejas en una respuesta a un usuario que preguntó: «¿Entonces qué pasa si Grok puede poner a la gente en bikinis? ¿Photoshop también? ¿Pueden millones de apps ya hacerlo? Este no es un problema nuevo, es una herramienta nueva. Si un usuario lo hace sin consentimiento, el usuario debe ser castigado, no la plataforma.» «Exacto.»
La respuesta de Musk y la verificación azul: sus suscripciones y la polémica
X anunció el viernes que solo los suscriptores pagados pueden usar Grok, lo que significa que su nombre e información de pago deben estar en la cuenta. «Grok es de uso gratuito para usuarios de X, que pueden hacerle preguntas en la plataforma. Pueden etiquetarlo en publicaciones que hayan creado directamente o en respuestas a publicaciones de otros usuarios.» «La función se lanzó en 2023. El verano pasado la empresa añadió Grok Imagine, que incluía un llamado 'modo picante' que puede generar contenido para adultos.» «El problema se agrava porque Musk presenta su chatbot como una alternativa más atrevida frente a rivales con más salvaguardas, y porque Grok's images son de acceso público y pueden difundirse con facilidad.» «Musk ha insistido previamente: «quien use Grok para hacer contenido ilegal sufrirá las mismas consecuencias que si hubiera cargado contenido ilegal»»
Reacciones oficiales y reguladores en Europa ante Grok
La Associated Press confirmó el viernes por la tarde que la herramienta de edición de imágenes seguía disponible para usuarios gratuitos en el sitio web y la app independientes de Grok. La Comisión Europea ya había condenado Grok por un comportamiento «ilegal» y «espantoso». «Esto no cambia nuestro problema fundamental. Suscripción pagada o no pagada, no queremos ver imágenes de este tipo. Es así de simple», dijo Thomas Regnier, portavoz de la Comisión Ejecutiva de la UE.
Qué es Grok, su función en X y el debate sobre seguridad
Grok es gratis para usar para usuarios de X, que pueden hacerle preguntas en la plataforma de redes sociales. Pueden etiquetarlo en publicaciones que hayan creado directamente o en respuestas a publicaciones de otros usuarios. La función se lanzó en 2023. El verano pasado la empresa añadió Grok Imagine, que incluía un llamado «modo picante» que puede generar contenido para adultos. El problema se amplifica porque Musk presenta su chatbot como una alternativa más atrevida frente a rivales con más salvaguardas, y porque Grok es de acceso público y puede difundirse fácilmente. Musk ha insistido: «quien use Grok para hacer contenido ilegal sufrirá las mismas consecuencias que si hubiera cargado contenido ilegal»; X afirma que toma medidas contra contenido ilegal, incluido el material de abuso sexual infantil, «al eliminarlo, suspender cuentas de forma permanente y trabajar con gobiernos locales y las fuerzas del orden según sea necesario».
