Avance en la tecnología de IA para crear deepfakes resulta en un engaño publicitario en TikTok
El mundo de las redes sociales ha experimentado un incidente que plantea serias preguntas sobre la seguridad y la moderación de contenido. Un anuncio fraudulento de MrBeast, uno de los creadores más influyentes de YouTube, logró burlar la tecnología de moderación de anuncios de TikTok y se coló en la plataforma. En este anuncio, el famoso creador parecía estar ofreciendo a 10.000 espectadores un iPhone 15 Pro por tan solo 2 dólares.
"Muchas personas están recibiendo este anuncio de estafa deepfake de mí... ¿están las plataformas de redes sociales preparadas para manejar el auge de los deepfakes de IA? Este es un problema serio", tuiteó MrBeast el 3 de octubre de 2023.
MrBeast y su impacto en las redes sociales
MrBeast, cuyo verdadero nombre es Jimmy Donaldson, es un creador de contenido de 25 años con más suscriptores que cualquier otro individuo en YouTube. Se hizo famoso por crear vídeos de acrobacias cada vez más absurdas en las que regala casas y coches gratuitos sin ningún tipo de condición (siempre y cuando acepten aparecer en su vídeo). Por lo tanto, para aquellos que no están familiarizados con la detección de estafas, el anuncio de MrBeast podría parecer legítimo.
¿Cómo pudo suceder esto?
Podría parecer sorprendente que un anuncio deepfake se aprobara en TikTok. La plataforma utiliza una combinación de moderación humana y tecnología asistida por IA para revisar los anuncios antes de publicarlos. En este caso, la IA de TikTok luchó contra la IA detrás del deepfake de MrBeast y perdió.
TikTok informó que retiró el anuncio unas horas después de su publicación, ya que violaba las políticas publicitarias de la plataforma. TikTok no prohíbe completamente a los anunciantes el uso de medios sintéticos o manipulados, pero requiere que estos revelen claramente si están utilizando este tipo de tecnología.
Un problema más amplio
Las deepfakes engañosas no son algo nuevo, pero a medida que la IA se vuelve especialmente popular entre inversores y consumidores por igual, la tecnología es más fácil de acceder que nunca. Mientras que celebridades de internet como MrBeast atraen a las generaciones más jóvenes, los consumidores mayores también están siendo engañados.
Solo esta semana, el actor Tom Hanks y la presentadora de CBS Gayle King advirtieron a sus seguidores que se estaban utilizando deepfakes de ellos en anuncios fraudulentos.
Consecuencias a largo plazo
La FTC ya ha emitido advertencias sobre el marketing deepfake, pero la práctica ha demostrado ser difícil de regular a gran escala. Y con las elecciones globales en el horizonte, las consecuencias de esta publicidad engañosa podrían ser más graves.
La pregunta sigue siendo: ¿están las plataformas de redes sociales preparadas para lidiar con el aumento de los deepfakes de IA y qué medidas se están tomando para combatir este problema emergente?
Otras noticias • IA
Genesis AI lanza GENE-26.5, mano robótica innovadora y ética
Genesis AI presenta su modelo GENE-26.5, una innovadora mano robótica diseñada para replicar la anatomía humana, facilitando la recolección de datos. Con una financiación de...
Google mejora búsqueda con IA, pero surgen dudas de veracidad
Google está evolucionando su motor de búsqueda mediante inteligencia artificial, incorporando opiniones de foros y personalizando resultados. Aunque esto enriquece la experiencia, plantea preocupaciones sobre...
Apple pagará 250 millones por exagerar capacidades de inteligencia artificial
Apple ha acordado pagar 250 millones de dólares para resolver una demanda colectiva por exagerar las capacidades de su inteligencia artificial, afectando la confianza de...
Aplicaciones de citas se reinventan para atraer a jóvenes
Las aplicaciones de citas, como Match Group, enfrentan un cambio generacional, con una disminución en el uso entre los jóvenes que buscan conexiones más auténticas....
Samsung alcanza un billón de dólares gracias a chips AI
Samsung ha alcanzado una valoración de un billón de dólares, impulsada por la demanda de chips para inteligencia artificial. A pesar de sus éxitos financieros,...
QuTwo recauda 25 millones y busca liderar IA en Europa
QuTwo, un laboratorio finlandés de IA fundado por Peter Sarlin, ha recaudado 25 millones de euros y se valora en 325 millones. Su producto principal,...
Altara revoluciona la gestión de datos con inteligencia artificial
Altara, fundada en 2025, utiliza inteligencia artificial para optimizar la gestión de datos en la industria tecnológica, facilitando el diagnóstico de fallos en productos físicos....
Pensilvania demanda a Character.AI por engaños en salud digital
La demanda de Pensilvania contra Character.AI destaca la necesidad de regular la inteligencia artificial en salud, tras acusaciones de engañar a usuarios haciéndose pasar por...
Lo más reciente
- 1
Lachy Groom invierte en Pronto, impulsando servicios a domicilio en India
- 2
xAI y Anthropic transforman la industria tecnológica con nueva alianza
- 3
Snap cancela acuerdo con Perplexity ante desafíos de innovación
- 4
Barry Diller apoya a Sam Altman y la ética en IA
- 5
Microsoft lucha entre IA y sostenibilidad energética para 2030
- 6
Robinhood democratiza inversión en empresas privadas para minoristas
- 7
Braintrust revela vulnerabilidad en seguridad de claves API en AWS

