IA | Creatividad ética

OpenAI actualiza ChatGPT con generador de imágenes y nuevas políticas

La evolución de OpenAI: una nueva era en la generación de imágenes

En una semana que ha marcado un punto de inflexión en el desarrollo de la inteligencia artificial, OpenAI ha lanzado una actualización significativa de su modelo ChatGPT, que incluye un generador de imágenes nativo. Este avance ha causado revuelo en la comunidad tecnológica, principalmente por su capacidad para crear imágenes en el estilo de Studio Ghibli, conocido por sus encantadoras y nostálgicas ilustraciones. El nuevo generador de imágenes no solo mejora la creación artística, sino que también transforma la forma en que ChatGPT interactúa con los usuarios al permitir una mayor personalización y creatividad.

Cambios en las políticas de moderación de contenido

Uno de los aspectos más destacados de esta actualización es la revisión de las políticas de moderación de contenido de OpenAI. Anteriormente, la plataforma se mostraba reacia a generar imágenes que involucraran figuras públicas, símbolos controvertidos o características raciales, considerando que estas solicitudes podrían ser dañinas o controversiales. Sin embargo, según la responsable del comportamiento del modelo, Joanne Jang, la empresa ha decidido adoptar un enfoque más matizado y menos restrictivo en su gestión del contenido sensible.

“Estamos cambiando de rechazos generalizados en áreas sensibles a un enfoque más preciso que se centra en prevenir daños en el mundo real”, afirmó Jang en un comunicado. Este cambio se enmarca dentro de un movimiento más amplio de OpenAI para “des-censurar” ChatGPT, permitiendo que el modelo maneje una mayor variedad de solicitudes y ofrezca perspectivas diversas.

La decisión de permitir que ChatGPT genere imágenes de figuras públicas como Donald Trump y Elon Musk ha suscitado un amplio debate sobre la ética y la responsabilidad en el uso de la inteligencia artificial.

Bajo la nueva política, los usuarios pueden solicitar imágenes que antes estaban prohibidas, lo que representa un cambio radical en la filosofía de OpenAI. La empresa ha optado por no ser la árbitra del estatus, permitiendo a los usuarios decidir qué representaciones desean que se generen. Además, se ofrece la opción de exclusión para aquellos que no deseen ser representados por la inteligencia artificial.

Generación de símbolos controvertidos

Uno de los cambios más controvertidos es la decisión de permitir la generación de símbolos considerados odiosos, como la esvástica, en contextos educativos o neutrales. Según OpenAI, estas representaciones solo se generarán si no promueven ni apoyan agendas extremistas. Esta política ha generado un intenso debate sobre la responsabilidad de las plataformas de IA en la creación y difusión de contenido potencialmente dañino.

El enfoque de OpenAI parece estar dirigido a equilibrar la libertad de expresión con la necesidad de evitar la promoción de discursos de odio. Sin embargo, esta línea es extremadamente delgada y podría resultar problemática en la práctica. A medida que se abren las compuertas para generar contenido más controvertido, surgen preguntas sobre cómo se gestionarán los abusos potenciales.

Cambios en la definición de contenido ofensivo

La revisión de las políticas de OpenAI también incluye una redefinición de lo que se considera contenido ofensivo. Jang mencionó que anteriormente ChatGPT se negaba a realizar solicitudes relacionadas con características físicas, como “haz que los ojos de esta persona parezcan más asiáticos” o “haz que esta persona sea más pesada”. Sin embargo, en las pruebas realizadas, se ha encontrado que el nuevo generador de imágenes de ChatGPT cumple con estas solicitudes.

Esta flexibilidad en la generación de imágenes ha reavivado el debate sobre la ética de la inteligencia artificial y su relación con la creatividad y la propiedad intelectual.

Además, la capacidad de ChatGPT para imitar estilos de estudios creativos como Pixar o Studio Ghibli también plantea interrogantes sobre la apropiación de estilos artísticos y su posible infracción de derechos de autor. Aunque OpenAI ha decidido restringir la imitación de los estilos de artistas individuales vivos, el uso de estilos de estudios reconocidos podría abrir la puerta a desafíos legales y éticos en el futuro.

Reacción de la comunidad y posibles implicaciones

La respuesta de la comunidad tecnológica a estos cambios ha sido mixta. Por un lado, muchos ven la actualización como un paso positivo hacia la evolución de la inteligencia artificial, permitiendo una mayor libertad creativa y un enfoque más abierto en la generación de contenido. Por otro lado, hay quienes advierten sobre los riesgos de permitir que una inteligencia artificial maneje temas sensibles sin una supervisión adecuada.

La presión política también ha influido en esta evolución. Recientemente, el congresista republicano Jim Jordan envió preguntas a OpenAI y otras grandes tecnológicas sobre una posible colusión con la administración de Biden para censurar contenido generado por inteligencia artificial. En este contexto, OpenAI ha rechazado cualquier implicación de que sus cambios en la moderación de contenido estén motivados políticamente, afirmando que reflejan una creencia arraigada en otorgar a los usuarios más control sobre el contenido que consumen.

El momento de realizar estos cambios no podría ser más crítico, especialmente ante el posible escrutinio regulatorio que podría surgir en un futuro cercano. Las grandes empresas tecnológicas, como Meta y X, también han adoptado políticas similares, permitiendo una mayor flexibilidad en la discusión de temas controvertidos en sus plataformas.

La era de la IA creativa

A medida que OpenAI continúa refinando su tecnología, la pregunta que surge es cómo estos cambios afectarán el futuro de la inteligencia artificial y su integración en la vida cotidiana. La nueva capacidad de ChatGPT para generar imágenes ha comenzado a generar memes virales en el estilo de Studio Ghibli, pero el impacto más amplio de estas políticas aún está por verse.

Las recientes modificaciones en ChatGPT podrían ser bien recibidas por algunas administraciones, pero la posibilidad de que un chatbot de IA aborde preguntas sensibles podría generar problemas en el futuro. A medida que la inteligencia artificial se convierte en una herramienta más poderosa, las implicaciones éticas y legales de su uso serán cada vez más relevantes.

La evolución de OpenAI y sus nuevas políticas de moderación de contenido marcan el inicio de una nueva era en la inteligencia artificial, donde la creatividad y la responsabilidad deben coexistir. Con cada avance, la empresa se enfrenta al desafío de equilibrar la innovación con la ética, un dilema que seguirá siendo crucial en los próximos años.


Podcast El Desván de las Paradojas
Publicidad


Otras noticias • IA

Crecimiento prometedor

Clay, startup de ventas valorada en 3.000 millones, crece

Clay, una startup de automatización de ventas valorada en 3.000 millones de dólares, ha atraído inversión significativa y permite a sus empleados vender acciones. Con...

Regulación responsable

Nueva York impulsa la RAISE Act para regular la IA

La RAISE Act de Nueva York establece estándares de seguridad y transparencia para la IA avanzada, buscando prevenir desastres. A diferencia de la fallida legislación...

Resúmenes auditivos

Google presenta Audio Overviews para resúmenes de búsquedas en audio

Google lanza Audio Overviews, una función experimental que ofrece resúmenes en audio de búsquedas, utilizando inteligencia artificial. Esta innovación busca facilitar el acceso a la...

Inversión estratégica

Meta invierte 14.3 mil millones en Scale AI para potenciar IA

Meta ha invertido 14.3 mil millones de dólares en Scale AI, adquiriendo un 49% de la empresa. Esta colaboración busca reforzar la posición de Meta...

Inversión significativa

Meta invierte 14.300 millones en Scale AI para etiquetado

Scale AI ha recibido una inversión de 14.300 millones de dólares de Meta, valorando la startup en 29.000 millones. Esta colaboración busca mejorar la calidad...

Privacidad comprometida

Meta AI genera inquietudes por riesgos de privacidad y seguridad

La aplicación Meta AI ha generado preocupaciones sobre la privacidad, permitiendo la divulgación involuntaria de información sensible. A pesar de su popularidad, la falta de...

Robo comercial

Tesla demanda a exingeniero por robo de secretos comerciales

Tesla ha demandado a su exingeniero Zhongjie “Jay” Li por presunto robo de secretos comerciales relacionados con su robot Optimus. Li, que fundó la startup...

Innovaciones decepcionantes

Apple lanza innovaciones en IA pero decepciona con Siri

Apple ha presentado innovaciones en inteligencia artificial, como "Visual Intelligence" para análisis de imágenes, "Workout Buddy" como asistente de ejercicio, y traducción en tiempo real....