Avance en la tecnología de IA para crear deepfakes resulta en un engaño publicitario en TikTok
El mundo de las redes sociales ha experimentado un incidente que plantea serias preguntas sobre la seguridad y la moderación de contenido. Un anuncio fraudulento de MrBeast, uno de los creadores más influyentes de YouTube, logró burlar la tecnología de moderación de anuncios de TikTok y se coló en la plataforma. En este anuncio, el famoso creador parecía estar ofreciendo a 10.000 espectadores un iPhone 15 Pro por tan solo 2 dólares.
"Muchas personas están recibiendo este anuncio de estafa deepfake de mí... ¿están las plataformas de redes sociales preparadas para manejar el auge de los deepfakes de IA? Este es un problema serio", tuiteó MrBeast el 3 de octubre de 2023.
MrBeast y su impacto en las redes sociales
MrBeast, cuyo verdadero nombre es Jimmy Donaldson, es un creador de contenido de 25 años con más suscriptores que cualquier otro individuo en YouTube. Se hizo famoso por crear vídeos de acrobacias cada vez más absurdas en las que regala casas y coches gratuitos sin ningún tipo de condición (siempre y cuando acepten aparecer en su vídeo). Por lo tanto, para aquellos que no están familiarizados con la detección de estafas, el anuncio de MrBeast podría parecer legítimo.
¿Cómo pudo suceder esto?
Podría parecer sorprendente que un anuncio deepfake se aprobara en TikTok. La plataforma utiliza una combinación de moderación humana y tecnología asistida por IA para revisar los anuncios antes de publicarlos. En este caso, la IA de TikTok luchó contra la IA detrás del deepfake de MrBeast y perdió.
TikTok informó que retiró el anuncio unas horas después de su publicación, ya que violaba las políticas publicitarias de la plataforma. TikTok no prohíbe completamente a los anunciantes el uso de medios sintéticos o manipulados, pero requiere que estos revelen claramente si están utilizando este tipo de tecnología.
Un problema más amplio
Las deepfakes engañosas no son algo nuevo, pero a medida que la IA se vuelve especialmente popular entre inversores y consumidores por igual, la tecnología es más fácil de acceder que nunca. Mientras que celebridades de internet como MrBeast atraen a las generaciones más jóvenes, los consumidores mayores también están siendo engañados.
Solo esta semana, el actor Tom Hanks y la presentadora de CBS Gayle King advirtieron a sus seguidores que se estaban utilizando deepfakes de ellos en anuncios fraudulentos.
Consecuencias a largo plazo
La FTC ya ha emitido advertencias sobre el marketing deepfake, pero la práctica ha demostrado ser difícil de regular a gran escala. Y con las elecciones globales en el horizonte, las consecuencias de esta publicidad engañosa podrían ser más graves.
La pregunta sigue siendo: ¿están las plataformas de redes sociales preparadas para lidiar con el aumento de los deepfakes de IA y qué medidas se están tomando para combatir este problema emergente?
Otras noticias • IA
SoundCloud permite uso de contenido para entrenar IA sin compensación
SoundCloud ha actualizado sus términos de uso, permitiendo el uso del contenido de los usuarios para entrenar inteligencia artificial, generando preocupación entre los creadores. Sin...
Microsoft prohíbe DeepSeek por preocupaciones de seguridad y desinformación
Microsoft ha prohibido el uso de la aplicación DeepSeek entre sus empleados debido a preocupaciones sobre la seguridad de datos y la desinformación, especialmente por...
OpenAI integra ChatGPT con GitHub para mejorar productividad de desarrolladores
OpenAI ha integrado ChatGPT con GitHub, permitiendo a los desarrolladores interactuar con su código de manera más eficiente. Esta herramienta mejora la productividad al facilitar...
Google lanza caché implícito en API Gemini para ahorrar costos
Google ha introducido el "caché implícito" en su API Gemini, permitiendo ahorros de hasta el 75% en costos de uso de IA. Esta funcionalidad automática...
Google refuerza la seguridad de Chrome con inteligencia artificial
Google ha mejorado la seguridad de Chrome con inteligencia artificial, implementando Gemini Nano para detectar estafas en tiempo real y ofreciendo protección avanzada contra phishing....
Clay alcanza valoración de 1.5 mil millones con cultura colaborativa
Clay, una startup de automatización de ventas, ha crecido rápidamente, alcanzando una valoración de 1.5 mil millones de dólares. Su enfoque en la participación de...
Inteligencia artificial revoluciona comercio electrónico con nuevas herramientas
La inteligencia artificial está transformando el comercio electrónico, como demuestra la herramienta "Enhance My Listing" de Amazon, que optimiza listados de productos. Aunque ofrece eficiencia,...
Concisión en IA aumenta riesgo de respuestas incorrectas según estudio
Un estudio de Giskard revela que la concisión en las respuestas de IA puede aumentar la probabilidad de "alucinaciones" o información incorrecta. Esto plantea un...
Lo más reciente
- 1
FTC retrasa regla de cancelación de suscripciones y genera frustración
- 2
Google pagará 1.375 millones por violar privacidad en Texas
- 3
OpenAI lidera mercado de IA con 32.4% de suscripciones
- 4
NSO Group condenado a pagar 167 millones por violar privacidad
- 5
Google I/O 2024: Innovaciones en IA y Android 16 anunciadas
- 6
Moviefone se reinventa con nueva app y "Moviefone TV"
- 7
DOL cierra investigación a Scale AI sobre contratistas independientes