Google implementará nueva política para reportar contenido ofensivo en apps de Android

Google implementará una nueva política para controlar el contenido ofensivo generado por IA en las aplicaciones de Android

Google ha anunciado que implementará una nueva política que requerirá a los desarrolladores de aplicaciones de Android publicadas en su Play Store ofrecer la posibilidad de reportar o marcar contenido ofensivo generado por IA. Esta nueva política será aplicada a partir del próximo año y se espera que los desarrolladores utilicen estos informes para mejorar los filtros y la moderación de sus aplicaciones.

La decisión de implementar esta política se produce después de que se haya producido una explosión de aplicaciones generadas por IA, algunas de las cuales han sido utilizadas para crear imágenes inapropiadas, como sucedió con Lensa el año pasado. Además, también se han encontrado problemas más sutiles, como la aplicación Remini, que se volvió viral este verano por mejorar considerablemente el tamaño de los senos o el escote de algunas mujeres, así como adelgazarlas. También se han reportado problemas recientes con las herramientas de IA de Microsoft y Meta, donde las personas encontraron formas de evadir las medidas de seguridad y crear imágenes inapropiadas.

Sin embargo, las preocupaciones más serias se centran en el uso de generadores de imágenes por IA por parte de pedófilos para crear material de abuso sexual infantil a gran escala. Además, con las próximas elecciones, también existe el temor de que se utilice la IA para crear imágenes falsas, conocidas como deepfakes, con el objetivo de engañar o desinformar al público votante.

La nueva política de Google establece que el contenido generado por IA incluye "chatbots de IA generativos de texto a texto, en los que interactuar con el chatbot es una característica central de la aplicación", lo que abarca aplicaciones como ChatGPT, así como aplicaciones en las que las imágenes son "generadas por IA en función de texto, imágenes o comandos de voz".

Google ha recordado a los desarrolladores que todas las aplicaciones, incluidos los generadores de contenido por IA, deben cumplir con sus políticas existentes, que prohíben contenido restringido como el material de abuso sexual infantil y otros que fomenten comportamientos engañosos.

Además de cambiar su política para controlar las aplicaciones de contenido por IA, Google también ha anunciado que revisará las solicitudes de permisos de algunas aplicaciones por parte de su equipo de Google Play, especialmente aquellas que soliciten permisos amplios para acceder a fotos y videos. Según la nueva política, las aplicaciones solo podrán acceder a fotos y videos si están directamente relacionados con su funcionalidad. Si necesitan acceder a estas funciones de forma ocasional o puntual, como las aplicaciones de IA que solicitan a los usuarios que suban un conjunto de selfies, deberán utilizar un selector de sistema, como el nuevo selector de fotos de Android.

La nueva política también limitará las notificaciones a pantalla completa que interrumpan la experiencia del usuario, permitiéndolas solo en casos de alta prioridad. Muchas aplicaciones han abusado de esta función para intentar persuadir a los usuarios a comprar suscripciones pagadas u otras ofertas, cuando en realidad esta función debería limitarse a casos de uso prioritarios del mundo real, como recibir una llamada telefónica o de video. Google ha anunciado que cambiará estas limitaciones y requerirá un permiso especial de acceso a la aplicación para las notificaciones a pantalla completa, el cual solo se otorgará a las aplicaciones que apunten a Android 14 y versiones posteriores y que realmente requieran esta funcionalidad.

Aunque históricamente ha sido Apple quien establece nuevas normas para controlar el comportamiento no deseado de las aplicaciones, Google ha tomado la iniciativa con esta nueva política sobre aplicaciones y chatbots de IA. Hasta el momento, Apple no ha implementado una política formal sobre IA o chatbots en sus directrices de la App Store, aunque ha tomado medidas más estrictas en otras áreas, como la solicitud de datos para identificar al usuario o al dispositivo, conocida como "huella digital", así como en aplicaciones que intentan copiar a otras.

Las actualizaciones de la política de Google Play se están implementando hoy, pero los desarrolladores de aplicaciones de IA tienen hasta principios de 2024 para implementar los cambios relacionados con el reporte y la marcación en sus aplicaciones.