IA | Engaño

Deepfake de MrBeast engaña a TikTok ofreciendo iPhone 15 Pro barato

Avance en la tecnología de IA para crear deepfakes resulta en un engaño publicitario en TikTok

El mundo de las redes sociales ha experimentado un incidente que plantea serias preguntas sobre la seguridad y la moderación de contenido. Un anuncio fraudulento de MrBeast, uno de los creadores más influyentes de YouTube, logró burlar la tecnología de moderación de anuncios de TikTok y se coló en la plataforma. En este anuncio, el famoso creador parecía estar ofreciendo a 10.000 espectadores un iPhone 15 Pro por tan solo 2 dólares.

"Muchas personas están recibiendo este anuncio de estafa deepfake de mí... ¿están las plataformas de redes sociales preparadas para manejar el auge de los deepfakes de IA? Este es un problema serio", tuiteó MrBeast el 3 de octubre de 2023.

MrBeast y su impacto en las redes sociales

MrBeast, cuyo verdadero nombre es Jimmy Donaldson, es un creador de contenido de 25 años con más suscriptores que cualquier otro individuo en YouTube. Se hizo famoso por crear vídeos de acrobacias cada vez más absurdas en las que regala casas y coches gratuitos sin ningún tipo de condición (siempre y cuando acepten aparecer en su vídeo). Por lo tanto, para aquellos que no están familiarizados con la detección de estafas, el anuncio de MrBeast podría parecer legítimo.

¿Cómo pudo suceder esto?

Podría parecer sorprendente que un anuncio deepfake se aprobara en TikTok. La plataforma utiliza una combinación de moderación humana y tecnología asistida por IA para revisar los anuncios antes de publicarlos. En este caso, la IA de TikTok luchó contra la IA detrás del deepfake de MrBeast y perdió.

TikTok informó que retiró el anuncio unas horas después de su publicación, ya que violaba las políticas publicitarias de la plataforma. TikTok no prohíbe completamente a los anunciantes el uso de medios sintéticos o manipulados, pero requiere que estos revelen claramente si están utilizando este tipo de tecnología.

Un problema más amplio

Las deepfakes engañosas no son algo nuevo, pero a medida que la IA se vuelve especialmente popular entre inversores y consumidores por igual, la tecnología es más fácil de acceder que nunca. Mientras que celebridades de internet como MrBeast atraen a las generaciones más jóvenes, los consumidores mayores también están siendo engañados.

Solo esta semana, el actor Tom Hanks y la presentadora de CBS Gayle King advirtieron a sus seguidores que se estaban utilizando deepfakes de ellos en anuncios fraudulentos.

Consecuencias a largo plazo

La FTC ya ha emitido advertencias sobre el marketing deepfake, pero la práctica ha demostrado ser difícil de regular a gran escala. Y con las elecciones globales en el horizonte, las consecuencias de esta publicidad engañosa podrían ser más graves.

La pregunta sigue siendo: ¿están las plataformas de redes sociales preparadas para lidiar con el aumento de los deepfakes de IA y qué medidas se están tomando para combatir este problema emergente?


Podcast El Desván de las Paradojas
Publicidad


Otras noticias • IA

Alianza estratégica

SpaceX y Cursor se unen para revolucionar la inteligencia artificial

SpaceX ha formado una alianza estratégica con Cursor para desarrollar inteligencia artificial avanzada y ha considerado adquirir la empresa por 60.000 millones de dólares. Esta...

Vulnerabilidad cibernética

Vulnerabilidad en ciberseguridad de empresas tras acceso a Mythos

El acceso no autorizado a Mythos, herramienta de ciberseguridad de Anthropic, resalta la vulnerabilidad de las empresas ante terceros. Este incidente subraya la necesidad de...

Imágenes inteligentes

ChatGPT Images 2.0 revoluciona diseño gráfico y publicidad creativa

La generación de imágenes por inteligencia artificial ha evolucionado con ChatGPT Images 2.0, que ofrece alta calidad, versatilidad y rapidez. Este avance transforma el diseño...

Innovación autónoma

Startups de IA innovan con agentes autónomos y especializados

Las startups de inteligencia artificial, como NeoCognition, buscan desarrollar agentes especializados y fiables. Con el respaldo de inversores, estas empresas se centran en crear sistemas...

Datos cuestionables

Clarifai y OkCupid: cuestionan prácticas de obtención de datos personales

El caso de Clarifai y OkCupid revela prácticas cuestionables en la obtención de datos personales para entrenar IA. La falta de consentimiento y transparencia subraya...

Protección digital

YouTube refuerza protección contra deepfakes para figuras públicas

YouTube ha ampliado su tecnología de detección de semejanza para proteger a figuras públicas del uso indebido de la inteligencia artificial, como los deepfakes. Esta...

Asistente inteligente

Google lanza Gemini en Asia-Pacífico para mejorar la productividad

Google ha expandido su herramienta Gemini en Chrome a varios países de Asia-Pacífico, mejorando la experiencia del usuario con un asistente personalizado. Aunque la función...

Comunicación equilibrada

Comunicación corporativa: equilibrio entre modernidad y autenticidad esencial

La comunicación corporativa ha adoptado la estructura "no solo... sino también..." como un fenómeno lingüístico, impulsado por la inteligencia artificial. Aunque busca modernizar el discurso,...