Avance en la tecnología de IA para crear deepfakes resulta en un engaño publicitario en TikTok
El mundo de las redes sociales ha experimentado un incidente que plantea serias preguntas sobre la seguridad y la moderación de contenido. Un anuncio fraudulento de MrBeast, uno de los creadores más influyentes de YouTube, logró burlar la tecnología de moderación de anuncios de TikTok y se coló en la plataforma. En este anuncio, el famoso creador parecía estar ofreciendo a 10.000 espectadores un iPhone 15 Pro por tan solo 2 dólares.
"Muchas personas están recibiendo este anuncio de estafa deepfake de mí... ¿están las plataformas de redes sociales preparadas para manejar el auge de los deepfakes de IA? Este es un problema serio", tuiteó MrBeast el 3 de octubre de 2023.
MrBeast y su impacto en las redes sociales
MrBeast, cuyo verdadero nombre es Jimmy Donaldson, es un creador de contenido de 25 años con más suscriptores que cualquier otro individuo en YouTube. Se hizo famoso por crear vídeos de acrobacias cada vez más absurdas en las que regala casas y coches gratuitos sin ningún tipo de condición (siempre y cuando acepten aparecer en su vídeo). Por lo tanto, para aquellos que no están familiarizados con la detección de estafas, el anuncio de MrBeast podría parecer legítimo.
¿Cómo pudo suceder esto?
Podría parecer sorprendente que un anuncio deepfake se aprobara en TikTok. La plataforma utiliza una combinación de moderación humana y tecnología asistida por IA para revisar los anuncios antes de publicarlos. En este caso, la IA de TikTok luchó contra la IA detrás del deepfake de MrBeast y perdió.
TikTok informó que retiró el anuncio unas horas después de su publicación, ya que violaba las políticas publicitarias de la plataforma. TikTok no prohíbe completamente a los anunciantes el uso de medios sintéticos o manipulados, pero requiere que estos revelen claramente si están utilizando este tipo de tecnología.
Un problema más amplio
Las deepfakes engañosas no son algo nuevo, pero a medida que la IA se vuelve especialmente popular entre inversores y consumidores por igual, la tecnología es más fácil de acceder que nunca. Mientras que celebridades de internet como MrBeast atraen a las generaciones más jóvenes, los consumidores mayores también están siendo engañados.
Solo esta semana, el actor Tom Hanks y la presentadora de CBS Gayle King advirtieron a sus seguidores que se estaban utilizando deepfakes de ellos en anuncios fraudulentos.
Consecuencias a largo plazo
La FTC ya ha emitido advertencias sobre el marketing deepfake, pero la práctica ha demostrado ser difícil de regular a gran escala. Y con las elecciones globales en el horizonte, las consecuencias de esta publicidad engañosa podrían ser más graves.
La pregunta sigue siendo: ¿están las plataformas de redes sociales preparadas para lidiar con el aumento de los deepfakes de IA y qué medidas se están tomando para combatir este problema emergente?
Otras noticias • IA
Amazon supera un millón de robots y redefine la logística
Amazon ha alcanzado un hito de un millón de robots en sus almacenes, impulsando la automatización en la logística. Con el lanzamiento de DeepFleet y...
Grammarly adquiere Superhuman y revoluciona la gestión del correo
La adquisición de Superhuman por Grammarly transforma la gestión del correo electrónico, integrando inteligencia artificial para mejorar la productividad. Esta fusión promete personalización y eficiencia...
Genesis AI revoluciona la robótica con IA de propósito general
Genesis AI, fundada por Zhou Xian y Théophile Gervet, busca revolucionar la robótica mediante un modelo de IA de propósito general que utiliza datos sintéticos....
Clio compra vLex por mil millones y revoluciona el derecho
Clio ha adquirido vLex por 1.000 millones de dólares, ampliando su oferta en el sector legal. Esta fusión integra inteligencia artificial en la práctica del...
Levelpath recauda 55 millones para transformar el aprovisionamiento
Levelpath, una startup de software de aprovisionamiento, ha recaudado 55 millones de dólares en financiación para revolucionar el sector con una plataforma intuitiva y centrada...
Songscription revoluciona la música transformando audio en partituras instantáneamente
Songscription es una innovadora herramienta de inteligencia artificial que transforma archivos de audio en partituras musicales en minutos, facilitando el acceso a la música para...
Google Gemini revoluciona la educación con inteligencia artificial personalizada
La inteligencia artificial, impulsada por Google y su tecnología Gemini, está transformando la educación al ofrecer herramientas personalizadas para docentes y estudiantes. Estas innovaciones buscan...
Anysphere lanza app web para gestionar agentes de codificación IA
Anysphere ha lanzado una aplicación web para gestionar agentes de codificación impulsados por IA, mejorando la productividad de los desarrolladores. Esta herramienta permite asignar tareas...
Lo más reciente
- 1
Tensiones en exploración espacial entre tradición y tecnología innovadora
- 2
Figma se prepara para OPI con ingresos de 749 millones
- 3
Threads de Meta mejora comunicación pero enfrenta retos de privacidad
- 4
Google enfrenta desafíos energéticos con aumento en consumo de datos
- 5
X lanza notas comunitarias de IA para verificar hechos
- 6
Amazon alcanza un millón de robots y transforma la logística
- 7
Nothing y KEF lanzan auriculares con sonido excepcional y estilo