Google implementará una nueva política para controlar el contenido ofensivo generado por IA en las aplicaciones de Android
Google ha anunciado que implementará una nueva política que requerirá a los desarrolladores de aplicaciones de Android publicadas en su Play Store ofrecer la posibilidad de reportar o marcar contenido ofensivo generado por IA. Esta nueva política será aplicada a partir del próximo año y se espera que los desarrolladores utilicen estos informes para mejorar los filtros y la moderación de sus aplicaciones.
La decisión de implementar esta política se produce después de que se haya producido una explosión de aplicaciones generadas por IA, algunas de las cuales han sido utilizadas para crear imágenes inapropiadas, como sucedió con Lensa el año pasado. Además, también se han encontrado problemas más sutiles, como la aplicación Remini, que se volvió viral este verano por mejorar considerablemente el tamaño de los senos o el escote de algunas mujeres, así como adelgazarlas. También se han reportado problemas recientes con las herramientas de IA de Microsoft y Meta, donde las personas encontraron formas de evadir las medidas de seguridad y crear imágenes inapropiadas.
Sin embargo, las preocupaciones más serias se centran en el uso de generadores de imágenes por IA por parte de pedófilos para crear material de abuso sexual infantil a gran escala. Además, con las próximas elecciones, también existe el temor de que se utilice la IA para crear imágenes falsas, conocidas como deepfakes, con el objetivo de engañar o desinformar al público votante.
La nueva política de Google establece que el contenido generado por IA incluye "chatbots de IA generativos de texto a texto, en los que interactuar con el chatbot es una característica central de la aplicación", lo que abarca aplicaciones como ChatGPT, así como aplicaciones en las que las imágenes son "generadas por IA en función de texto, imágenes o comandos de voz".
Google ha recordado a los desarrolladores que todas las aplicaciones, incluidos los generadores de contenido por IA, deben cumplir con sus políticas existentes, que prohíben contenido restringido como el material de abuso sexual infantil y otros que fomenten comportamientos engañosos.
Además de cambiar su política para controlar las aplicaciones de contenido por IA, Google también ha anunciado que revisará las solicitudes de permisos de algunas aplicaciones por parte de su equipo de Google Play, especialmente aquellas que soliciten permisos amplios para acceder a fotos y videos. Según la nueva política, las aplicaciones solo podrán acceder a fotos y videos si están directamente relacionados con su funcionalidad. Si necesitan acceder a estas funciones de forma ocasional o puntual, como las aplicaciones de IA que solicitan a los usuarios que suban un conjunto de selfies, deberán utilizar un selector de sistema, como el nuevo selector de fotos de Android.
La nueva política también limitará las notificaciones a pantalla completa que interrumpan la experiencia del usuario, permitiéndolas solo en casos de alta prioridad. Muchas aplicaciones han abusado de esta función para intentar persuadir a los usuarios a comprar suscripciones pagadas u otras ofertas, cuando en realidad esta función debería limitarse a casos de uso prioritarios del mundo real, como recibir una llamada telefónica o de video. Google ha anunciado que cambiará estas limitaciones y requerirá un permiso especial de acceso a la aplicación para las notificaciones a pantalla completa, el cual solo se otorgará a las aplicaciones que apunten a Android 14 y versiones posteriores y que realmente requieran esta funcionalidad.
Aunque históricamente ha sido Apple quien establece nuevas normas para controlar el comportamiento no deseado de las aplicaciones, Google ha tomado la iniciativa con esta nueva política sobre aplicaciones y chatbots de IA. Hasta el momento, Apple no ha implementado una política formal sobre IA o chatbots en sus directrices de la App Store, aunque ha tomado medidas más estrictas en otras áreas, como la solicitud de datos para identificar al usuario o al dispositivo, conocida como "huella digital", así como en aplicaciones que intentan copiar a otras.
Las actualizaciones de la política de Google Play se están implementando hoy, pero los desarrolladores de aplicaciones de IA tienen hasta principios de 2024 para implementar los cambios relacionados con el reporte y la marcación en sus aplicaciones.
Otras noticias • IA
Sam Altman vuelve a ser CEO de OpenAI y nombra nueva junta directiva
Sam Altman ha sido restituido como CEO de OpenAI y ha nombrado una nueva junta directiva. Altman anunció que Mira Murati regresará como CTO y...
See Together cierra ronda de financiación de $102.5 millones
La startup See Together cierra una ronda de financiación de $102.5 millones liderada por Kleiner Perkins. La empresa se dedica a crear infraestructuras de desarrollo...
Amazon lanza Titan Image Generator, creación de imágenes personalizadas
Amazon ha lanzado Titan Image Generator, una herramienta de generación de imágenes con inteligencia artificial que permite crear y personalizar imágenes a partir de descripciones...
Amazon AWS lanza SageMaker HyperPod, revolucionario servicio de entrenamiento de modelos de lenguaje
Amazon AWS ha lanzado SageMaker HyperPod, un nuevo servicio diseñado para entrenar y ajustar modelos de lenguaje de gran tamaño. HyperPod permite crear un clúster...
Pinterest lanza herramienta de búsqueda inclusiva con inteligencia artificial
Pinterest ha lanzado una nueva herramienta que permite a los usuarios filtrar búsquedas por diferentes tipos de cuerpo. Utilizando tecnología de tipo de cuerpo basada...
Amazon lanza "Guardrails for Amazon Bedrock" para controlar lenguaje AI
Amazon ha anunciado una nueva herramienta llamada "Guardrails for Amazon Bedrock" que permite controlar los modelos de lenguaje en aplicaciones de inteligencia artificial. Esto ayuda...
Amazon presenta chips personalizados para IA con mejor rendimiento y eficiencia
Amazon ha presentado en su conferencia re:Invent nuevos chips personalizados para inteligencia artificial. El AWS Trainium2 ofrece un rendimiento hasta 4 veces mejor y una...
Elon Musk lanza chatbot 'Grok' solo para suscriptores Premium+ de X
Elon Musk anuncia el lanzamiento de su chatbot 'Grok' exclusivamente para sus suscriptores Premium+ de X la próxima semana. Esto ha generado expectación y preocupación...
Lo más reciente
- 1
Flow48 recauda $25 millones para expandir modelo de financiamiento basado en ingresos en MENA
- 2
Microsoft se prepara para lanzar tienda móvil de Xbox
- 3
Elon Musk se disculpa y promete cambiar tras controversias
- 4
Capsule revoluciona el consumo de noticias con inteligencia artificial
- 5
Juez federal bloquea prohibición de TikTok en Montana por inconstitucionalidad
- 6
Telegram mejora funciones de canales para competir con WhatsApp
- 7
Anduril presenta Roadrunner, el dron autónomo de combate aéreo