¡La noticia que leí ayer me voló la cabeza! Me hizo cuestionar: ¿por qué los seres humanos siempre encontramos formas de usar indebidamente incluso las mejores herramientas tecnológicas? Y de cara a esto… ¿Cuáles serán los límites del marketing de contenido sintético? Permíteme compartirte la noticia más relevante de la semana y después analicémosla desde una perspectiva de marketing y ética.
Todos los días, gracias a las tareas programadas de ChatGPT, recibo un resumen de noticias y actualizaciones de inteligencia artificial (IA); mayormente son novedades tecnológicas o de marketing, pero ayer incluyeron un caso que me dejó boquiabierto.
Básicamente era la historia de un reciente operativo internacional para atrapar a un grupo de individuos (¡25 en total!) que utilizaba las herramientas de IA para crear y comercializar imágenes de pornografía infantil sintética (es decir, generadas artificialmente).
Las mismas tecnologías con las que tú y yo generamos contenido con IA: imágenes, videos, audios y textos para marketing, están siendo explotadas en mercados ilícitos. Esto, aunque lamentable, podría no ser sorprendente.
Lo sorprendente es la defensa que estos criminales pretendían esgrimir señalando que las imágenes creadas no representaban a víctimas reales, es decir, no se dañaba a ninguna persona. Eran producto creativo de la IA.
La realidad es que aunque es verdad que no hay una víctima tangible, el impacto ético, cultural, sicológico y social de estas actividades es enorme e incuestionable. La creación y marketing de estos contenidos perpetúan la demanda de abuso infantil y normalizan conductas criminales.
Analicemos un poco este paradigma, con ojos de marketing y claro, añadamos a la ética.
¿Qué es el contenido sintético?
El contenido sintético es cualquier tipo de material digital—imágenes, videos, audios o textos—generado total o parcialmente por inteligencia artificial.
Herramientas como ChatGPT, Midjourney, DALL·E o ElevenLabs permiten crear desde artículos hasta rostros hiperrealistas sin intervención humana. Si bien esta tecnología ha abierto un mundo de posibilidades para el marketing digital, el entretenimiento y la educación, también ha sido aprovechada para fines más oscuros, como la desinformación, la manipulación mediática y la distribución de contenido ilegal.
Crear estos visuales es tremendamente sencillo. Esta imagen, por ejemplo es completamente realista pero es contenido sintético y puedes ver que fue desarrollado con Grok IA (esquina inferior derecha).
1. Un modelo de negocio astuto y escalable
Desde un punto de vista comercial, el uso de IA en la generación de contenido sintético es un modelo de negocio altamente eficiente. No requiere fotógrafos, actores ni escenarios físicos, y puede producirse en segundos a un costo casi nulo.
¿Cómo funciona?
Las herramientas de generación de imágenes como Midjourney, DALL·E o Stable Diffusion han demostrado que es posible crear contenido visual de alta calidad con solo unos clics. Esto ha dado lugar a un auge en el marketing de contenido sintético, donde marcas y creadores utilizan IA para producir materiales publicitarios, publicaciones para redes sociales y contenido web optimizado.
Sin embargo, este mismo modelo de negocio ha sido adoptado en mercados ilícitos, donde la facilidad de producción y distribución global ha permitido la proliferación de contenido altamente perjudicial.
Muchos recordarán la foto de Katy Perry en la Met Gala a donde ni siquiera había asistido; no se trató de un ilícito, sin embargo la foto se hizo viral, engañando a miles, incluyendo a medios, que pensaron que efectivamente la artista estaba allí.
Las claves del modelo de negocio ilícito
- Bajos costos de producción: la IA genera contenido sin necesidad de recursos físicos.
- Escalabilidad masiva: se pueden crear miles de imágenes en minutos.
- Operaciones minimalistas: una sola persona con conocimientos técnicos puede gestionar la producción.
- Distribución global sin restricciones: sin costos de almacenamiento ni barreras logísticas.
Empresas legítimas como Synthesia, que crea videos con presentadores digitales, o ElevenLabs, que desarrolla voces artificiales, utilizan estas tecnologías para optimizar el marketing de contenido sintético en entornos legales. De hecho, ambas apps pueden clonar personas de la vida real, tanto en video como en audio. Sin embargo, este tipo de tecnología o similares, en manos equivocadas es la misma que está alimentando mercados oscuros y difíciles de rastrear.
Hace unas semanas se levantó una fuerte polémica por un video viral creado con inteligencia artificial en el que supuestamente varias celebridades, como Scarlett Johansson, Jerry Seinfield, Steven Spielberg y Sacha Baron Cohen, criticaban a Kanye West por acciones antisemitas y otros comportamientos controvertidos.
Polémica
— luismaram (@luismaram) March 1, 2025: Otro video falso creado con #IA muestra a celebridades como Johansson, Seinfeld y Spielberg criticando a Kanye West por acciones de antisemitismo.
pic.twitter.com/uSALS75J3U
El video, aunque falso, ha generado un intenso debate sobre el uso de la IA para crear contenido engañoso que puede confundir al público y amplificar narrativas negativas.
Como podemos ver, desde un punto de vista netamente mercadológico, la creación y distribución de contenido sintético es una idea de miles de dólares, sin embargo el impacto social y las cuestiones éticas son la frontera. Hablemos de ellas.
2. Impacto social y ético: ¿quién es la víctima?
Uno de los argumentos más usados por quienes defienden el uso de IA para la generación de pornografía sintética es que «no hay víctimas reales».
Pero esta afirmación ignora un problema mayor: estos contenidos perpetúan la demanda de abuso infantil y normalizan conductas criminales.
¿Por qué esto es un problema?
- Refuerza la cultura del abuso: Quienes consumen este contenido podrían ser incentivados a buscar personas reales.
- Dificulta la persecución del crimen: La delgada línea entre contenido sintético y real complica la labor de las autoridades.
- Crea mercados autosostenibles: La facilidad de producción elimina barreras de entrada y facilita el acceso inmediato al contenido por cantidades muy pequeñas de dinero pero a niveles masivos.
Así que aunque no haya una víctima directa, el daño social es profundo. La infancia en general se convierte en víctima de un ecosistema digital que difumina los límites entre lo real y lo artificial.
3. Marketing de contenido sintético
El éxito de cualquier producto digital radica en su capacidad para ser encontrado y distribuido. Desde simples wallpapers, a canciones, películas y hasta NFTs; ya cada uno de ellos es susceptible de crearse con IA. Por supuesto que estos productos usan para su comercialización el marketing digital: anuncios en motores de búsqueda, redes sociales, mailings, marketing de afiliados, guest blogging, display ads, etc.
En el caso de contenido ilícito generado por IA, esto no es posible claramente; por lo que las estrategias de marketing son más sofisticadas.
¿Cómo se promociona este contenido?
- SEO en mercados oscuros: Uso de palabras clave cifradas para evitar la detección.
- Dark web y foros privados: Distribución a través de redes anónimas como TOR.
- Publicidad encubierta en redes sociales: Uso de hashtags y cuentas falsas para atraer clientes sin alertar a moderadores.
- Modelos de suscripción con criptomonedas: Monetización a través de Bitcoin y otras divisas para evitar rastreos.
Las técnicas de marketing digital que han sido utilizadas en el marketing de contenido sintético legal, (incluyendo la optimización de campañas con IA generativa) son usadas de forma amañanada y con otras herramientas en el mercado ilegal, adaptando las tácticas para evadir regulaciones y explotar vulnerabilidades.
El dilema entre innovación y regulación
Grok, de X, prácticamente carece de filtros para su uso y por eso es tan riesgoso. Sin embargo, otras plataformas como OpenAI, Google y Meta, apps de ilustración y/o video, han implementado políticas para evitar el uso de sus modelos en la creación de contenido dañino. Sin embargo, el código abierto permite que cualquiera con conocimientos técnicos entrene modelos sin restricciones.
Esto plantea un reto gigantesco: la IA tiene el potencial de revolucionar el marketing digital, pero su uso indebido exige una regulación urgente.
El desafío ético del marketing digital en la era de la IA
La IA ha demostrado ser una herramienta poderosa para el marketing digital y especialmente el marketing de contenidos. Pero su uso indebido puede derivar en mercados que perpetúan el abuso y la explotación.
OmniHUman-1, la nueva IA de ByteDance puede crear videos incluso de cantantes a partir de una sola imagen y una señal de movimiento, como audio o video. Este segmento de Taylor Swift cantando «Ao No Sora» es una muestra de lo brutalmente poderosa y riesgosa que se está volviendo la tecnología.
El marketing de contenido sintético es una mina de oro, pero es urgente dibujar la línea de hasta qué punto podemos llegar… porque actualmente es muy difusa.
La verdad incómoda es: la IA no distingue entre un producto legal y uno ilegal; todo depende de quién la use y con qué propósito.
Para la industria del marketing, esto representa un desafío ético crítico.
A medida que la IA siga evolucionando, el marketing digital deberá encontrar un equilibrio entre innovación, rentabilidad y responsabilidad social.
Si no actuamos ahora, corremos el riesgo de que los mismos algoritmos que optimizan nuestras campañas sean utilizados para normalizar crímenes sin precedentes en el mundo digital.
Alguna vez un conferencista, cuyo nombre no puedo recordar, expresó una idea que es completamente real y aplicable a esta tecnología: nosotros, como seres humanos, tenemos el futuro en nuestras manos, y podemos decidir si es una utopía de civilización como Star Trek o una distopía como Terminator. ¡Cuánta razón tenía!
Si quieres mantenerte al día con artículos como este, puedes recibir los contenidos en tu mail.
Y si necesitas una capacitación, o bien, asesoría para tu negocio solo dilo. Amamos saber de ti.
Deja un comentario