Actualidad · Tecnología · Confirmado

Grupos extremistas usan IA para crear propaganda en formato de dibujos animados

Un informe del Instituto de Diálogo Estratégico (ISD) documentó cómo simpatizantes del Estado Islámico y Al Qaeda usan inteligencia artificial generativa para crear memes y caricaturas en TikTok, alcanzando a nuevas audiencias.

Publicado a las 10:11 · Última actualización: · Fecha del hecho:

Actualización automatizada — supervisada por la redacción

Esta pieza fue generada por el Radar de Actualidad de El Desarrollo y publicada de forma automática, sin revisión humana previa. Cada afirmación fue verificada automáticamente contra las fuentes citadas antes de publicarse. La redacción la supervisa a posteriori —puede corregirla o retirarla— y esta etiqueta cambiará cuando una persona la haya revisado. Las fuentes están al pie, con su fecha de consulta. Política de uso de IA del medio.

Ilustración editorial conceptual generada por inteligencia artificial para la sección tecnologia. No es una fotografía del hecho.
Ilustración generada por IA — El Desarrollo

Qué pasó

Un informe del Instituto de Diálogo Estratégico (ISD) identificó una tendencia denominada “Slop Jihad”, en la que jóvenes simpatizantes del Estado Islámico y Al Qaeda utilizan inteligencia artificial generativa para transformar contenido extremista en dibujos animados y memes. El objetivo es captar a una nueva generación de seguidores en internet, principalmente a través de la plataforma TikTok.

Un ejemplo documentado es la conversión de un video de hace más de una década, donde el Estado Islámico ahogaba a hombres en una jaula, en un dibujo animado de Bob Esponja que circula en TikTok. El investigador Moustafa Ayad identificó en dicha plataforma 150 clips de este tipo, provenientes de 71 cuentas, que acumularon más de 5,4 millones de visualizaciones. La mayoría de este contenido se concentró en TikTok, con una presencia limitada en Instagram y Facebook.

El uso de IA por parte de estos grupos no es nuevo. En 2024, el programa News Harvest, afiliado al Estado Islámico, comenzó a usar presentadores generados por IA. Sin embargo, la estética de “Slop Jihad” es diferente y ha generado rechazo en sectores tradicionalistas, aunque algunas cuentas de propaganda oficial han comenzado a republicar estos videos. Esta adaptación a nuevos medios se observó previamente en el movimiento “Alt Jihad” de principios de la década de 2020, que incorporó estéticas de la extrema derecha estadounidense.

TikTok cuestionó las conclusiones del informe del ISD, afirmando que prohíben la presencia de organizaciones violentas. La plataforma eliminó decenas de los clips identificados por el ISD después de que la revista Wired, que tuvo acceso exclusivo al documento, los compartiera. No obstante, el investigador Moustafa Ayad señaló que muchas de las cuentas eliminadas tienen perfiles de respaldo y que parte del contenido evade los sistemas de moderación durante meses.

Por qué importa

Tecnología: El fenómeno “Slop Jihad” evidencia cómo la inteligencia artificial generativa puede ser utilizada para eludir los sistemas de moderación de contenido. El material, al ser transformado en formatos como dibujos animados, se vuelve más difícil de detectar para los modelos de IA diseñados para identificar propaganda terrorista, presentando un nuevo desafío para la seguridad de las plataformas digitales.

Sociedad: La difusión de propaganda extremista en formatos de entretenimiento como memes y caricaturas reduce la barrera de acceso para audiencias jóvenes. Según Adam Hadley, CEO de Tech Against Terrorism, esto facilita que los usuarios se encuentren con contenido que glorifica la violencia sin buscarlo activamente, y la interacción con este material puede llevar a que los algoritmos recomienden contenido progresivamente más explícito.

Lo confirmado

  • Un informe del Instituto de Diálogo Estratégico (ISD) documentó la tendencia “Slop Jihad”.
  • Simpatizantes de Al Qaeda y el Estado Islámico usan IA generativa para crear propaganda.
  • Un video de ahogamientos del Estado Islámico fue recreado como un dibujo animado de Bob Esponja.
  • En TikTok se identificaron 150 clips de “Slop Jihad” en 71 cuentas, con más de 5,4 millones de vistas.
  • En 2024, el programa News Harvest, ligado al Estado Islámico, empezó a utilizar presentadores de noticias creados con IA.
  • Un informe de la OCDE incluyó a TikTok entre las principales plataformas usadas para difundir contenido extremista.
  • TikTok eliminó decenas de videos de “Slop Jihad” tras ser notificada por la revista Wired.
  • Moustafa Ayad, investigador del ISD, observó que muchas cuentas eliminadas disponen de perfiles de respaldo.
  • Adam Hadley, de Tech Against Terrorism, confirmó que este tipo de contenido facilita el acceso de jóvenes a material extremista.

Lo que falta saber

  • ¿Qué herramientas específicas de inteligencia artificial generativa se están utilizando para crear el contenido de 'Slop Jihad'?
  • ¿Cuál es la fecha exacta de difusión del video original del Estado Islámico que fue recreado como caricatura?
  • ¿Cuál es el número preciso de videos que TikTok eliminó tras la notificación de Wired?
  • ¿Cuál es el perfil demográfico detallado de los creadores y consumidores de este tipo de contenido, más allá de ser 'jóvenes simpatizantes'?

Qué observar ahora

  • La evolución de las políticas y tecnologías de moderación de contenido en plataformas como TikTok para contrarrestar el material extremista generado por IA.
  • La persistencia y crecimiento del contenido de “Slop Jihad” y la efectividad de las cuentas de respaldo para eludir las suspensiones.
  • Futuras investigaciones de organismos como el ISD sobre la adaptación de grupos extremistas a las nuevas tecnologías de comunicación.

Fuentes

← Volver al flujo de actualidad

Grupos extremistas usan IA para crear propaganda en formato de dibujos animados | El Desarrollo