India y redes sociales unen fuerzas contra contenido deepfake

India está redactando normas para detectar y limitar la propagación de contenido deepfake y otros medios dañinos de IA

India está tomando medidas para abordar el problema de los deepfakes y otros medios dañinos generados por IA que se han vuelto cada vez más comunes en las plataformas de redes sociales en las últimas semanas. El Ministro de Tecnología de la Información de India, Ashwini Vaishnaw, anunció el jueves que el ministerio ha mantenido reuniones con las principales empresas de redes sociales, la asociación empresarial Nasscom y académicos para discutir este tema y han llegado a un consenso de que se necesita una regulación para combatir de manera más efectiva la propagación de videos deepfake y aplicaciones que facilitan su creación.

En la conferencia de prensa, Vaishnaw afirmó que las empresas de redes sociales comparten las preocupaciones del gobierno y comprenden que los deepfakes no son una forma de libertad de expresión, sino que representan un peligro para la sociedad. Por lo tanto, han acordado cooperar en la redacción de una regulación que comenzará a redactarse hoy mismo. El ministerio espera tener "acciones concretas y claras" sobre cómo combatir los deepfakes en un plazo de 10 días.

Además de las medidas para combatir los deepfakes, el gobierno de India también está evaluando la imposición de multas monetarias a aquellos que no cumplan con las regulaciones y la responsabilidad de las personas que crean y difunden estos videos. Las empresas de redes sociales tendrán una reunión de seguimiento con el ministerio a principios de diciembre para abordar este tema.

Deepfakes: el uso de IA para generar contenido sintético

Los deepfakes son medios generados sintéticamente, a menudo utilizando IA, para reemplazar de manera realista la apariencia o la voz de una persona. Aunque a veces pueden ser entretenidos, existen preocupaciones éticas en relación con el consentimiento y la posible desinformación. La decisión del ministerio de tecnología de la información de India de abordar este problema sigue las preocupaciones expresadas por el Primer Ministro indio, Narendra Modi, la semana pasada.

Vaishnaw destacó la rapidez con la que los deepfakes pueden propagarse sin ningún control y cómo pueden volverse virales en cuestión de minutos después de su publicación. Para abordar esto, el gobierno indio está tomando medidas urgentes para fortalecer la confianza en la sociedad y proteger la democracia. El ministro citó un incidente en el que se presentó un video deepfake de un destacado ministro indio apelando a los ciudadanos a votar por el partido de la oposición, lo que demuestra el potencial de daño de estos videos manipulados.

Reforzando los mecanismos de denuncia y la acción proactiva de las empresas de redes sociales

La nueva regulación también se centrará en fortalecer los mecanismos de denuncia para que los individuos puedan informar sobre estos videos manipulados y garantizar una acción proactiva y oportuna por parte de las empresas de redes sociales. Vaishnaw enfatizó que estas acciones deben ser más proactivas, ya que el daño puede ser inmediato y que incluso una acción tomada "horas" después de la denuncia puede no ser suficiente.

India se une a otros países que están tomando medidas para abordar el problema de los deepfakes y la desinformación en línea. La propagación de contenido falso y manipulado puede tener graves consecuencias para la sociedad y la democracia, y es importante que los gobiernos y las empresas de tecnología trabajen juntos para combatir este problema. Con la redacción de nuevas regulaciones y la cooperación de las empresas de redes sociales, India espera tomar medidas efectivas para limitar la propagación de deepfakes y proteger la integridad de la información en línea.