El malware ya usa IA para reescribirse y evadir la detección
Investigadores del Grupo de Inteligencia de Amenazas de Google (GTIG) han descubierto que los hackers están creando malware que puede aprovechar el poder de los grandes modelos de lenguaje (LLMs) para reescribirse en tiempo real. Una familia de malware experimental llamada PROMPTFLUX, identificada por GTIG en una entrada de blog reciente, puede reescribir su propio código para evitar la detección. Es una escalada que podría hacer que el malware futuro sea mucho más difícil de detectar, subrayando las preocupaciones de ciberseguridad provocadas por la llegada y adopción generalizada de la IA generativa.
In This Article:
- PROMPTFLUX, el troyano que aprende a modificarse
- ¿Cómo funciona PROMPTFLUX?
- Estado de desarrollo y pruebas
- Estado real de la amenaza
- Riesgo y actores del crimen cibernético
- Amenaza real y actores estatales
- Respuestas de seguridad y marco de defensa
- IA frente a IA en una guerra de ciberseguridad
- Sobre el autor
PROMPTFLUX, el troyano que aprende a modificarse
PROMPTFLUX es una familia de malware experimental identificada por GTIG en una entrada de blog reciente, y puede reescribir su propio código para evitar la detección. Interactúa con la API del modelo Gemini de Google para aprender cómo modificar su código en tiempo real para evadir la detección.
¿Cómo funciona PROMPTFLUX?
«Herramientas como PROMPTFLUX generan dinámicamente scripts maliciosos, ofuscan su propio código para evadir la detección y aprovechan modelos de IA para crear funciones maliciosas bajo demanda, en lugar de codificarlas en el malware», escribió GTIG. PROMPTFLUX es un troyano que interactúa con la API del modelo Gemini de Google para aprender a modificar su código para evitar la detección al instante. «Este enfoque de just-in-time representa un paso significativo hacia un malware más autónomo y adaptable.»
Estado de desarrollo y pruebas
«Un examen más detallado de PROMPTFLUX muestras sugiere que esta familia de código está actualmente en una fase de desarrollo o pruebas, ya que algunas características incompletas están comentadas y existe un mecanismo para limitar las llamadas a la API Gemini del malware», escribió el grupo. Además, afirman que la muestra está en una fase de desarrollo y pruebas, con características por completar y límites en las llamadas a la API.
Estado real de la amenaza
Afortunadamente, el exploit aún no ha sido observado infectando máquinas en el mundo real, ya que «el estado actual de este malware no demuestra la capacidad de comprometer una red o un dispositivo de una víctima», Google señaló. «Hemos tomado medidas para desactivar los activos asociados con esta actividad».
Riesgo y actores del crimen cibernético
No obstante, GTIG señaló que malware como PROMPTFLUX parece estar «asociado con actores con motivaciones financieras». El equipo advirtió sobre un «mercado subterráneo para herramientas de IA ilícitas», lo que podría reducir la «barrera de entrada para actores menos sofisticados».
Amenaza real y actores estatales
Según Google, «agentes patrocinados por Estados de Corea del Norte, Irán y la República Popular de China» ya están manipulando la IA para ampliar sus operaciones.
Respuestas de seguridad y marco de defensa
En respuesta a la amenaza, GTIG presentó un nuevo marco conceptual destinado a asegurar los sistemas de IA. Aunque la IA generativa puede usarse para crear malware casi imposible de detectar, también puede usarse para el bien. Por ejemplo, Google recientemente presentó un agente de IA, llamado Big Sleep, que está diseñado para usar IA para identificar vulnerabilidades de seguridad en el software.
IA frente a IA en una guerra de ciberseguridad
En otras palabras, es IA enfrentándose a IA en una guerra de ciberseguridad que evoluciona rápidamente. Más sobre IA y ciberseguridad: Un serio hack descubierto contra el nuevo navegador de IA de OpenAI.
Sobre el autor
Soy editor senior en Futurism, donde escribo y edito sobre la NASA y el sector espacial privado, así como temas que van desde SETI e inteligencia artificial hasta políticas tecnológicas y médicas.
