Avance en la tecnología de IA para crear deepfakes resulta en un engaño publicitario en TikTok
El mundo de las redes sociales ha experimentado un incidente que plantea serias preguntas sobre la seguridad y la moderación de contenido. Un anuncio fraudulento de MrBeast, uno de los creadores más influyentes de YouTube, logró burlar la tecnología de moderación de anuncios de TikTok y se coló en la plataforma. En este anuncio, el famoso creador parecía estar ofreciendo a 10.000 espectadores un iPhone 15 Pro por tan solo 2 dólares.
"Muchas personas están recibiendo este anuncio de estafa deepfake de mí... ¿están las plataformas de redes sociales preparadas para manejar el auge de los deepfakes de IA? Este es un problema serio", tuiteó MrBeast el 3 de octubre de 2023.
MrBeast y su impacto en las redes sociales
MrBeast, cuyo verdadero nombre es Jimmy Donaldson, es un creador de contenido de 25 años con más suscriptores que cualquier otro individuo en YouTube. Se hizo famoso por crear vídeos de acrobacias cada vez más absurdas en las que regala casas y coches gratuitos sin ningún tipo de condición (siempre y cuando acepten aparecer en su vídeo). Por lo tanto, para aquellos que no están familiarizados con la detección de estafas, el anuncio de MrBeast podría parecer legítimo.
¿Cómo pudo suceder esto?
Podría parecer sorprendente que un anuncio deepfake se aprobara en TikTok. La plataforma utiliza una combinación de moderación humana y tecnología asistida por IA para revisar los anuncios antes de publicarlos. En este caso, la IA de TikTok luchó contra la IA detrás del deepfake de MrBeast y perdió.
TikTok informó que retiró el anuncio unas horas después de su publicación, ya que violaba las políticas publicitarias de la plataforma. TikTok no prohíbe completamente a los anunciantes el uso de medios sintéticos o manipulados, pero requiere que estos revelen claramente si están utilizando este tipo de tecnología.
Un problema más amplio
Las deepfakes engañosas no son algo nuevo, pero a medida que la IA se vuelve especialmente popular entre inversores y consumidores por igual, la tecnología es más fácil de acceder que nunca. Mientras que celebridades de internet como MrBeast atraen a las generaciones más jóvenes, los consumidores mayores también están siendo engañados.
Solo esta semana, el actor Tom Hanks y la presentadora de CBS Gayle King advirtieron a sus seguidores que se estaban utilizando deepfakes de ellos en anuncios fraudulentos.
Consecuencias a largo plazo
La FTC ya ha emitido advertencias sobre el marketing deepfake, pero la práctica ha demostrado ser difícil de regular a gran escala. Y con las elecciones globales en el horizonte, las consecuencias de esta publicidad engañosa podrían ser más graves.
La pregunta sigue siendo: ¿están las plataformas de redes sociales preparadas para lidiar con el aumento de los deepfakes de IA y qué medidas se están tomando para combatir este problema emergente?
Otras noticias • IA
Grammarly enfrenta críticas por uso indebido de nombres de expertos
La controversia sobre la función “Expert Review” de Grammarly ha generado críticas por el uso no autorizado de nombres de expertos, como Julia Angwin y...
Bumble lanza "Bee", su asistente de inteligencia artificial para citas
Bumble está introduciendo un asistente de inteligencia artificial generativa llamado "Bee" para personalizar la experiencia de citas, mejorando las coincidencias y fomentando interacciones significativas. Esta...
Gumloop transforma la automatización empresarial con IA accesible
Gumloop, cofundada por Max Brodeur-Urbas, empodera a empleados no técnicos para automatizar tareas mediante IA. Su plataforma ha revolucionado la productividad en empresas como Shopify...
Wonderful recauda 150 millones y se valora en 2.000 millones
La startup israelí Wonderful ha recaudado 150 millones de dólares, alcanzando una valoración de 2.000 millones. Su plataforma de inteligencia artificial para atención al cliente...
Amazon lanza Alexa "Sassy" con humor mordaz para adultos
Amazon ha introducido una nueva personalidad "Sassy" para Alexa, destinada a adultos y caracterizada por un humor mordaz. Esta opción busca diversificar la interacción, reflejando...
Google Maps revoluciona navegación con inteligencia artificial innovadora
Google Maps ha lanzado innovaciones impulsadas por inteligencia artificial, como "Ask Maps" y "Navegación Inmersiva", que mejoran la interacción del usuario y la planificación de...
Google presenta IA que predice inundaciones repentinas eficazmente
Investigadores de Google han desarrollado un modelo de inteligencia artificial, llamado Groundsource, que analiza artículos de noticias para predecir inundaciones repentinas. Este enfoque innovador mejora...
Ford Pro AI revoluciona la gestión de flotas comerciales
Ford ha lanzado Ford Pro AI, un asistente de inteligencia artificial para optimizar flotas comerciales, mejorando la eficiencia operativa. La compañía apuesta por la digitalización...
Lo más reciente
- 1
Nvidia revela innovaciones en IA y hardware en GTC 2023
- 2
Rox revoluciona ventas con IA y alcanza 1.200 millones
- 3
Rivian presenta SUV R2 a 45,000 dólares para 2027
- 4
Channel Surfer transforma YouTube en una experiencia televisiva social
- 5
Tinder lanza nuevas funciones para citas rápidas y seguras
- 6
Facebook Marketplace mejora experiencia con nuevas funciones de IA
- 7
Substack lanza estudio de grabación para creadores de vídeo

