La coalición tecnológica lanza el programa Lantern para combatir la explotación y abuso sexual infantil en línea
La coalición tecnológica, un grupo de empresas tecnológicas que desarrollan enfoques y políticas para combatir la explotación y abuso sexual infantil (CSEA, por sus siglas en inglés) en línea, anunció hoy el lanzamiento de un nuevo programa llamado Lantern. Este programa está diseñado para permitir a las plataformas de redes sociales compartir "señales" sobre actividad y cuentas que podrían violar sus políticas contra la CSEA.
Compartiendo señales para identificar violaciones de políticas
Las plataformas participantes en Lantern, que hasta ahora incluyen a Discord, Google, Mega, Meta, Quora, Roblox, Snap y Twitch, pueden subir señales a Lantern sobre actividad que infrinja sus términos, explica la coalición tecnológica. Estas señales pueden incluir información vinculada a cuentas que violan las políticas, como direcciones de correo electrónico y nombres de usuario, o palabras clave utilizadas para el grooming, así como para comprar y vender material de abuso sexual infantil (CSAM, por sus siglas en inglés). Otras plataformas participantes pueden seleccionar las señales disponibles en Lantern, ejecutar las señales seleccionadas en su plataforma, revisar cualquier actividad y contenido que las señales muestren y tomar las medidas apropiadas.
La coalición tecnológica se encarga de señalar que estas señales no son pruebas definitivas de abuso. Más bien, solo ofrecen pistas para investigaciones posteriores y pruebas para entregar a las autoridades y fuerzas del orden pertinentes.
Resultados prometedores durante el programa piloto
En apariencia, las señales subidas a Lantern pueden ser útiles. Durante un programa piloto, la coalición tecnológica, que afirma que Lantern ha estado en desarrollo durante dos años con la retroalimentación regular de "expertos" externos, señala que el servicio de alojamiento de archivos Mega compartió URLs que Meta utilizó para eliminar más de 10.000 perfiles y páginas de Facebook y cuentas de Instagram.
Después de que el grupo inicial de empresas en la "primera fase" de Lantern evalúe el programa, se dará la bienvenida a nuevos participantes, según afirma la coalición tecnológica.
Uniendo fuerzas para proteger a las víctimas
"Debido a que el abuso sexual infantil se extiende por diferentes plataformas, en muchos casos, una sola empresa solo puede ver una parte del daño que enfrenta una víctima. Para descubrir el cuadro completo y tomar medidas adecuadas, las empresas deben trabajar juntas", escribió la coalición tecnológica en una publicación de blog publicada esta mañana. "Nos comprometemos a incluir Lantern en el informe anual de transparencia de la coalición tecnológica y a proporcionar a las empresas participantes recomendaciones sobre cómo incorporar su participación en el programa en sus propios informes de transparencia".
A pesar de las discrepancias sobre cómo abordar la CSEA sin coartar la privacidad en línea, existe preocupación por la creciente amplitud del material de abuso infantil, tanto real como generado por IA, que circula en línea. En 2022, el Centro Nacional para Menores Desaparecidos y Explotados recibió más de 32 millones de informes de CSAM.
Llamados a la acción y resultados mixtos
Una encuesta reciente realizada por RAINN y YouGov reveló que el 82% de los padres creen que la industria tecnológica, especialmente las empresas de redes sociales, deberían hacer más para proteger a los niños del abuso y explotación sexual en línea. Esto ha llevado a los legisladores a tomar medidas, aunque con resultados mixtos.
En septiembre, los fiscales generales de los 50 estados de Estados Unidos, más cuatro territorios, firmaron una carta pidiendo al Congreso que actúe contra el CSAM habilitado por IA. Mientras tanto, la Unión Europea ha propuesto exigir que las empresas tecnológicas escaneen el CSAM, además de identificar y denunciar la actividad de grooming dirigida a los niños en sus plataformas.
Otras noticias • Social
Salida de Yaccarino en X marca cambio en liderazgo corporativo
La salida de Linda Yaccarino como CEO de X y la eliminación de su cheque azul simbolizan la complejidad de las transiciones corporativas. Este gesto...
Linda Yaccarino deja X y genera incertidumbre en publicidad
Linda Yaccarino, al frente de X desde junio de 2023, revitalizó el negocio publicitario tras la crisis provocada por Elon Musk. A pesar de sus...
Linda Yaccarino renuncia como CEO de X tras controversias
La renuncia de Linda Yaccarino como CEO de X tras dos años en el cargo ha generado especulaciones sobre su salida, especialmente después de la...
Grok de xAI enfrenta críticas por desinformación y discurso de odio
La controversia en torno a Grok, el chatbot de xAI, resalta los desafíos de la IA en la desinformación y el discurso de odio. La...
Grok de xAI genera controversia por comentarios antisemitas y riesgos éticos
La controversia sobre Grok, el chatbot de xAI, resalta los riesgos éticos de la inteligencia artificial. Sus comentarios antisemitas han generado preocupación sobre la responsabilidad...
Adiós al "Louvre de Bluesky" y su crítica social
La desaparición del "Louvre de Bluesky", una cuenta icónica de sátira y crítica social, ha dejado un vacío en la comunidad. Su cierre, resultado de...
Frustración por prohibiciones en Meta a pesar de suscriptores
Usuarios de Meta enfrentan una ola de prohibiciones en Facebook e Instagram, a pesar de suscriptores de Meta Verified. La falta de atención al cliente...
Usuarios de Facebook e Instagram exigen respuestas tras suspensiones masivas
En las últimas semanas, Facebook e Instagram han sufrido suspensiones masivas de grupos, generando frustración entre usuarios y administradores. La comunidad exige respuestas a Meta,...
Lo más reciente
- 1
Thinking Machines Lab recauda 2.000 millones y se posiciona fuerte
- 2
Pronto.ai adquiere Safe AI y refuerza su liderazgo en autonomía
- 3
IA en Google Discover: ¿Amenaza para la calidad informativa?
- 4
Betsy Fore impulsa a emprendedores nativos con Velveteen Ventures
- 5
Investigadores piden supervisar cadenas de pensamiento en inteligencia artificial
- 6
Rwazi revoluciona análisis de datos con financiación de 12 millones
- 7
Rivian y Google lanzan navegación personalizada para vehículos eléctricos