China establece reglas provisionales para el uso responsable y seguro de la inteligencia artificial generativa

China establece límites y sanciones para el mal uso de la inteligencia artificial generativa

China se ha convertido en líder en la definición de cómo se debe utilizar la inteligencia artificial generativa, incluyendo un régimen de licencias para los proveedores de servicios. Esto ha llevado a la creación de un conjunto de reglas provisionales por parte del principal regulador de ciberespacio de China, que gobiernan los servicios de inteligencia artificial generativa, incluyendo a los proveedores de API que sirven a usuarios en China.

Las reglas requieren que los proveedores de inteligencia artificial generativa se adhieran a los valores socialistas fundamentales, lo que prohíbe desde la pornografía y el terrorismo hasta el racismo y el contenido que amenaza la seguridad nacional de China. Además, los algoritmos que pueden influir en las opiniones públicas deben ser registrados ante la autoridad pertinente. Los proveedores de servicios de inteligencia artificial generativa también deben obtener una licencia administrativa de acuerdo con la ley, aunque el documento no especifica quién debe hacerlo.

En cuanto a la protección de los usuarios, las reglas estipulan que los algoritmos no deben ser discriminatorios en base a factores como la etnia, el género, la edad, la ocupación o la salud, y no deben ser utilizados para comportamientos anticompetitivos. Se anima a los proveedores de servicios a crear un sistema de prevención de adicciones para usuarios menores de edad, similar a los utilizados en los videojuegos.

Los proveedores de servicios son responsables de identificar y detener el proceso generativo de contenido ilegal, y posteriormente corregir los algoritmos e informar del incidente a la autoridad pertinente. Esto significa que las indicaciones en un generador de imágenes o en un chatbot podrían potencialmente llevar a problemas legales para los individuos.

Además, los reguladores tienen derecho a conocer los detalles de un modelo de inteligencia artificial generativa, incluyendo sus datos de entrenamiento, tamaño, tipo, reglas de etiquetado y algoritmos.

Por último, el desarrollo de inteligencia artificial en China ha sido un esfuerzo de arriba hacia abajo. El documento pide la creación de una plataforma de entrenamiento de datos públicos y el intercambio de poder de cómputo. Ya se han propuesto reglas concretas en Beijing para una plataforma centralizada respaldada por el estado que asigna recursos de nube pública en función de las necesidades del cliente.

Al igual que en otras industrias críticas, China está promoviendo la "innovación autónoma" en algoritmos de inteligencia artificial, marcos, chips, plataformas de software y otras infraestructuras, al mismo tiempo que fomenta la cooperación internacional "igual y mutuamente beneficiosa".

Aunque estas reglas establecen límites y sanciones para el mal uso de la inteligencia artificial generativa, también plantean preguntas sobre si podrían frenar la innovación en el país. Sin embargo, los responsables políticos están conscientes de esta preocupación y enfatizan en el documento que las reglas tienen como objetivo "equilibrar el desarrollo y la seguridad".

La adopción masiva de la inteligencia artificial generativa ha llevado a la necesidad de establecer regulaciones claras para su uso. China está tomando la delantera en este sentido, y con estas reglas provisionales, busca garantizar que la inteligencia artificial generativa se utilice de manera responsable y segura en el país.