Avance en la tecnología de IA para crear deepfakes resulta en un engaño publicitario en TikTok
El mundo de las redes sociales ha experimentado un incidente que plantea serias preguntas sobre la seguridad y la moderación de contenido. Un anuncio fraudulento de MrBeast, uno de los creadores más influyentes de YouTube, logró burlar la tecnología de moderación de anuncios de TikTok y se coló en la plataforma. En este anuncio, el famoso creador parecía estar ofreciendo a 10.000 espectadores un iPhone 15 Pro por tan solo 2 dólares.
"Muchas personas están recibiendo este anuncio de estafa deepfake de mí... ¿están las plataformas de redes sociales preparadas para manejar el auge de los deepfakes de IA? Este es un problema serio", tuiteó MrBeast el 3 de octubre de 2023.
MrBeast y su impacto en las redes sociales
MrBeast, cuyo verdadero nombre es Jimmy Donaldson, es un creador de contenido de 25 años con más suscriptores que cualquier otro individuo en YouTube. Se hizo famoso por crear vídeos de acrobacias cada vez más absurdas en las que regala casas y coches gratuitos sin ningún tipo de condición (siempre y cuando acepten aparecer en su vídeo). Por lo tanto, para aquellos que no están familiarizados con la detección de estafas, el anuncio de MrBeast podría parecer legítimo.
¿Cómo pudo suceder esto?
Podría parecer sorprendente que un anuncio deepfake se aprobara en TikTok. La plataforma utiliza una combinación de moderación humana y tecnología asistida por IA para revisar los anuncios antes de publicarlos. En este caso, la IA de TikTok luchó contra la IA detrás del deepfake de MrBeast y perdió.
TikTok informó que retiró el anuncio unas horas después de su publicación, ya que violaba las políticas publicitarias de la plataforma. TikTok no prohíbe completamente a los anunciantes el uso de medios sintéticos o manipulados, pero requiere que estos revelen claramente si están utilizando este tipo de tecnología.
Un problema más amplio
Las deepfakes engañosas no son algo nuevo, pero a medida que la IA se vuelve especialmente popular entre inversores y consumidores por igual, la tecnología es más fácil de acceder que nunca. Mientras que celebridades de internet como MrBeast atraen a las generaciones más jóvenes, los consumidores mayores también están siendo engañados.
Solo esta semana, el actor Tom Hanks y la presentadora de CBS Gayle King advirtieron a sus seguidores que se estaban utilizando deepfakes de ellos en anuncios fraudulentos.
Consecuencias a largo plazo
La FTC ya ha emitido advertencias sobre el marketing deepfake, pero la práctica ha demostrado ser difícil de regular a gran escala. Y con las elecciones globales en el horizonte, las consecuencias de esta publicidad engañosa podrían ser más graves.
La pregunta sigue siendo: ¿están las plataformas de redes sociales preparadas para lidiar con el aumento de los deepfakes de IA y qué medidas se están tomando para combatir este problema emergente?
Otras noticias • IA
La automatización mejora atención al cliente con inteligencia artificial
La automatización en el servicio de atención al cliente, impulsada por la inteligencia artificial, está transformando la industria. Startups como Risotto buscan innovar en la...
Kimi K2.5 revoluciona IA multimodal con texto, imagen y vídeo
Kimi K2.5, el nuevo modelo de Moonshot AI, integra texto, imagen y vídeo, revolucionando el desarrollo multimodal. Entrenado con 15 billones de tokens, supera a...
Youtubers demandan a Snap por uso indebido de contenido
Un grupo de youtubers ha demandado a Snap por utilizar su contenido sin permiso para entrenar modelos de inteligencia artificial. La demanda busca proteger sus...
Claude de Anthropic transforma la productividad en entornos corporativos
Claude, el chatbot de Anthropic, revoluciona la interacción digital al integrar aplicaciones como Slack y Figma, mejorando la productividad en entornos corporativos. Su enfoque en...
Nvidia invierte 2000 millones en CoreWeave para IA
Nvidia ha invertido 2.000 millones de dólares en CoreWeave para potenciar su capacidad de computación de IA, aumentando su infraestructura. A pesar de su elevada...
Microsoft lanza chip Maia 200 para optimizar IA y sostenibilidad
Microsoft ha lanzado el chip Maia 200, diseñado para optimizar la inferencia de modelos de IA, ofreciendo más de 10 petaflops de rendimiento. Este avance...
Synthesia transforma la capacitación empresarial con vídeos interactivos IA
Synthesia, una startup británica, ha revolucionado la formación empresarial con su plataforma de vídeos interactivos impulsados por IA. Con una reciente financiación de 200 millones...
Prohibiciones de IA generan debate sobre creatividad en la era digital
La controversia sobre la inteligencia artificial generativa ha llevado a organizaciones como la SFWA y el San Diego Comic-Con a prohibir obras creadas por IA,...
Lo más reciente
- 1
Aylo bloquea acceso en Reino Unido por Ley de Seguridad
- 2
Europa busca soberanía digital ante dependencia de tecnología estadounidense
- 3
Prism de OpenAI revoluciona la investigación científica con IA
- 4
Google lanza AI Plus por $7.99 al mes globalmente
- 5
India evalúa prohibir redes sociales para menores de 16 años
- 6
Google refuerza la seguridad de Android contra robos urbanos
- 7
Google mejora su AI con preguntas de seguimiento personalizadas

