Regulaciones | IA

Nuevas directrices de Google Play para aplicaciones de IA

Google emite nuevas directrices para desarrolladores de aplicaciones de IA en Google Play

Google ha anunciado hoy nuevas directrices para los desarrolladores que construyen aplicaciones de IA distribuidas a través de Google Play, con la esperanza de reducir el contenido inapropiado y prohibido. La empresa afirma que las aplicaciones que ofrecen funciones de IA deberán evitar la generación de contenido restringido, que incluye contenido sexual, violencia y más, y tendrán que ofrecer una forma para que los usuarios puedan señalar contenido ofensivo que encuentren. Además, Google dice que los desarrolladores deben "probar rigurosamente" sus herramientas y modelos de IA para garantizar que respeten la seguridad y la privacidad de los usuarios.

Mayor control sobre las aplicaciones de IA

Además, Google está tomando medidas enérgicas contra las aplicaciones cuyos materiales de marketing promueven casos de uso inapropiados, como aplicaciones que desnudan a las personas o crean imágenes desnudas no consensuadas. Si la publicidad dice que la aplicación es capaz de hacer este tipo de cosas, puede ser prohibida en Google Play, independientemente de si la aplicación es realmente capaz de hacerlo.

Problemas crecientes con aplicaciones de desnudo de IA

Estas directrices siguen a una creciente proliferación de aplicaciones de desnudo de IA que se han estado promocionando a través de las redes sociales en los últimos meses. Un informe de abril de 404 Media, por ejemplo, encontró que Instagram estaba mostrando anuncios de aplicaciones que afirmaban usar IA para generar desnudos deepfake. Una aplicación se promocionaba usando una imagen de Kim Kardashian y el lema "desnuda a cualquier chica gratis". Apple y Google retiraron las aplicaciones de sus respectivas tiendas de aplicaciones, pero el problema sigue siendo generalizado.

Aplicaciones de IA inapropiadas en las escuelas

Las escuelas de todo Estados Unidos informan de problemas con los estudiantes que comparten desnudos deepfake de otros estudiantes (y a veces profesores) para acosar e intimidar, junto con otros tipos de contenido inapropiado de IA. El mes pasado, un deepfake racista de un director de escuela llevó a un arresto en Baltimore. Peor aún, el problema incluso está afectando a estudiantes de secundaria, en algunos casos.

Google busca mantener aplicaciones inapropiadas fuera de Google Play

Google afirma que sus políticas ayudarán a evitar que las aplicaciones de Google Play presenten contenido generado por IA que pueda ser inapropiado o dañino para los usuarios. La empresa señala a su Política de Contenido Generado por IA existente como un lugar para consultar sus requisitos para la aprobación de aplicaciones en Google Play. La empresa dice que las aplicaciones de IA no pueden permitir la generación de ningún contenido restringido y también deben dar a los usuarios una forma de señalar contenido ofensivo e inapropiado, así como supervisar y priorizar esos comentarios. Esto es particularmente importante en aplicaciones donde las interacciones de los usuarios "dan forma al contenido y la experiencia", dice Google, como en aplicaciones donde los modelos populares se clasifican más alto o de manera más prominente, quizás.

Responsabilidad de los desarrolladores y mejores prácticas

Además, los desarrolladores también son responsables de proteger sus aplicaciones contra mensajes que puedan manipular sus funciones de IA para crear contenido dañino y ofensivo. Google dice que los desarrolladores pueden utilizar su función de pruebas cerradas para compartir versiones preliminares de sus aplicaciones con los usuarios para obtener comentarios. La empresa sugiere encarecidamente que los desarrolladores no solo prueben antes de lanzar, sino que también documenten esas pruebas, ya que Google podría pedir revisarlas en el futuro.

La compañía también está publicando otros recursos y mejores prácticas, como su Manual de IA + Personas, que tiene como objetivo apoyar a los desarrolladores que construyen aplicaciones de IA.


Podcast El Desván de las Paradojas
Publicidad


Otras noticias • IA

Inversión

Amazon invierte en startups de IA generativa para potenciar AWS

Amazon invertirá hasta 230 millones de dólares en startups de IA generativa, con 80 millones destinados al programa AWS Generative AI Accelerator. Las startups recibirán...

Actualización

Yahoo News se renueva con inteligencia artificial y OpenAI

Yahoo ha lanzado una versión potenciada por inteligencia artificial de su aplicación de noticias, Yahoo News. La actualización incluye resúmenes de AI, aunque no está...

Conducción

Robot Musashi de la Universidad de Tokio aprende a conducir

Investigadores de la Universidad de Tokio han entrenado a un robot humanoide llamado Musashi para conducir un coche eléctrico, utilizando cámaras como ojos y manos...

Innovación

Apple revoluciona mercado con Apple Intelligence en WWDC 2024

Apple ha anunciado en la WWDC 2024 su incursión en el mercado de la inteligencia artificial con Apple Intelligence. Se esperan mejoras en iOS 18...

Actualización

Apple revoluciona iOS 18 con "Apple Intelligence" y funciones innovadoras

Apple ha presentado "Apple Intelligence" en iOS 18, permitiendo a los usuarios crear imágenes de IA personalizadas en sus conversaciones. También se incluyen funciones como...

Tecnología

Apple revoluciona desarrollo con IA en su Conferencia Mundial

Apple ha presentado nuevas herramientas de inteligencia artificial para desarrolladores en su Conferencia Mundial de Desarrolladores. Los SDK de Apple se han actualizado con nuevas...

Innovación

Apple sorprende con iOS 18: inteligencia artificial y rediseño completo

Apple revela detalles de iOS 18 en la WWDC, con enfoque en inteligencia artificial, personalización de iconos, actualización del centro de control, nuevas API, mejoras...

Tecnología

Apple presenta nueva IA en conferencia, mejorando privacidad y renovando Siri

Apple se prepara para revelar su nueva inteligencia artificial en la Worldwide Developers Conference, enfocándose en mejorar la fiabilidad, priorizar la privacidad y renovar a...