Alianza | Otros

India y redes sociales unen fuerzas contra contenido deepfake

India está redactando normas para detectar y limitar la propagación de contenido deepfake y otros medios dañinos de IA

India está tomando medidas para abordar el problema de los deepfakes y otros medios dañinos generados por IA que se han vuelto cada vez más comunes en las plataformas de redes sociales en las últimas semanas. El Ministro de Tecnología de la Información de India, Ashwini Vaishnaw, anunció el jueves que el ministerio ha mantenido reuniones con las principales empresas de redes sociales, la asociación empresarial Nasscom y académicos para discutir este tema y han llegado a un consenso de que se necesita una regulación para combatir de manera más efectiva la propagación de videos deepfake y aplicaciones que facilitan su creación.

En la conferencia de prensa, Vaishnaw afirmó que las empresas de redes sociales comparten las preocupaciones del gobierno y comprenden que los deepfakes no son una forma de libertad de expresión, sino que representan un peligro para la sociedad. Por lo tanto, han acordado cooperar en la redacción de una regulación que comenzará a redactarse hoy mismo. El ministerio espera tener "acciones concretas y claras" sobre cómo combatir los deepfakes en un plazo de 10 días.

Además de las medidas para combatir los deepfakes, el gobierno de India también está evaluando la imposición de multas monetarias a aquellos que no cumplan con las regulaciones y la responsabilidad de las personas que crean y difunden estos videos. Las empresas de redes sociales tendrán una reunión de seguimiento con el ministerio a principios de diciembre para abordar este tema.

Deepfakes: el uso de IA para generar contenido sintético

Los deepfakes son medios generados sintéticamente, a menudo utilizando IA, para reemplazar de manera realista la apariencia o la voz de una persona. Aunque a veces pueden ser entretenidos, existen preocupaciones éticas en relación con el consentimiento y la posible desinformación. La decisión del ministerio de tecnología de la información de India de abordar este problema sigue las preocupaciones expresadas por el Primer Ministro indio, Narendra Modi, la semana pasada.

Vaishnaw destacó la rapidez con la que los deepfakes pueden propagarse sin ningún control y cómo pueden volverse virales en cuestión de minutos después de su publicación. Para abordar esto, el gobierno indio está tomando medidas urgentes para fortalecer la confianza en la sociedad y proteger la democracia. El ministro citó un incidente en el que se presentó un video deepfake de un destacado ministro indio apelando a los ciudadanos a votar por el partido de la oposición, lo que demuestra el potencial de daño de estos videos manipulados.

Reforzando los mecanismos de denuncia y la acción proactiva de las empresas de redes sociales

La nueva regulación también se centrará en fortalecer los mecanismos de denuncia para que los individuos puedan informar sobre estos videos manipulados y garantizar una acción proactiva y oportuna por parte de las empresas de redes sociales. Vaishnaw enfatizó que estas acciones deben ser más proactivas, ya que el daño puede ser inmediato y que incluso una acción tomada "horas" después de la denuncia puede no ser suficiente.

India se une a otros países que están tomando medidas para abordar el problema de los deepfakes y la desinformación en línea. La propagación de contenido falso y manipulado puede tener graves consecuencias para la sociedad y la democracia, y es importante que los gobiernos y las empresas de tecnología trabajen juntos para combatir este problema. Con la redacción de nuevas regulaciones y la cooperación de las empresas de redes sociales, India espera tomar medidas efectivas para limitar la propagación de deepfakes y proteger la integridad de la información en línea.


Podcast El Desván de las Paradojas
Publicidad


Otras noticias • Otros

Desarrollo

India permite 100% inversión extranjera en sector espacial para impulsar economía

India ha actualizado sus normas de inversión extranjera directa en el sector espacial para atraer inversores globales, permitiendo hasta un 100% de inversión extranjera en...

Adquisición

Nuview adquiere Astraea para mapear la Tierra desde el espacio

Nuview ha adquirido Astraea para acelerar su misión de mapear la Tierra desde el espacio con una constelación de satélites equipados con lidar. Su enfoque...

Investigación

La UE investiga a TikTok por incumplir Ley de Servicios Digitales

La Unión Europea investiga a TikTok por incumplimiento de la Ley de Servicios Digitales, centrándose en la protección de menores, transparencia publicitaria y gestión del...

Litigio

Amazon demanda a NLRB, amenaza protecciones laborales en EE.UU

Amazon ha demandado a la Junta Nacional de Relaciones Laborales (NLRB) por considerarla inconstitucional. Esta acción se suma a los ataques de otras empresas y...

Expansión

Rocket Lab busca expandirse en el mercado de constelaciones satelitales

Rocket Lab está buscando entrar en el mercado de las constelaciones de satélites para generar ingresos recurrentes, siguiendo el ejemplo de SpaceX. La empresa está...

Hitórico

Intuitive Machines logra histórico aterrizaje lunar con misión Odysseus

La compañía espacial Intuitive Machines ha lanzado con éxito su primera misión a la Luna. El módulo de aterrizaje Nova-C, llamado Odysseus, despegó en un...

Innovación

Varda Space Industries trae medicamento VIH/SIDA desde el espacio

Varda Space Industries ha obtenido la aprobación para traer de vuelta su primera nave espacial a la Tierra, junto con cristales farmacéuticos fabricados en órbita....

Retirada

SpaceX retirará 100 satélites Starlink por fallo sin afectar usuarios

SpaceX retirará unos 100 satélites Starlink debido a un fallo identificado que podría causar problemas. Los satélites serán retirados de forma controlada en los próximos...