BEUC pide investigación de riesgos en inteligencia artificial generativa, como ChatGPT, por su capacidad manipulativa y de daño

La BEUC insta a las autoridades europeas a investigar los riesgos de la inteligencia artificial generativa

La Unión Europea se encuentra en una encrucijada sobre cómo regular la inteligencia artificial (IA) y su uso comercial y no comercial en la región. En este sentido, la mayor organización de consumidores de la UE, la BEUC, ha pedido hoy que se investiguen urgentemente los riesgos de la IA generativa. “La IA generativa, como ChatGPT, ha abierto todo tipo de posibilidades para los consumidores, pero existen graves preocupaciones sobre cómo estos sistemas pueden engañar, manipular y dañar a las personas. También pueden utilizarse para difundir desinformación, perpetuar los sesgos existentes que amplifican la discriminación o ser utilizados para el fraude”, ha señalado Ursula Pachl, directora general adjunta de la BEUC, en un comunicado.

En este sentido, la BEUC ha emitido la llamada para coincidir con un informe de uno de sus miembros, Forbrukerrådet en Noruega. Este informe es inequívoco en su posición: la IA genera perjuicios para los consumidores (el título del informe lo dice todo: "Fantasma en la máquina: abordar los perjuicios para los consumidores de la IA generativa") y plantea numerosos problemas problemáticos.

Las preocupaciones en torno a la IA

El informe destaca, por ejemplo, cómo "ciertos desarrolladores de IA, incluidas las grandes empresas tecnológicas", han cerrado los sistemas a la escrutinio externo, lo que dificulta ver cómo se recopilan los datos o cómo funcionan los algoritmos; el hecho de que algunos sistemas produzcan información incorrecta tan alegremente como resultados correctos, con los usuarios a menudo sin saber cuál puede ser; la IA que se construye para engañar o manipular a los usuarios; el problema de sesgo basado en la información que se alimenta a un modelo de IA particular; y la seguridad, específicamente cómo la IA podría ser utilizada para estafar a las personas o vulnerar sistemas.

El enfoque de la UE en la IA

Aunque la liberación de ChatGPT de OpenAI definitivamente ha situado la IA y el potencial de su alcance en la conciencia pública, el enfoque de la UE en el impacto de la IA no es nuevo. Ya en 2020, se debatió sobre los problemas de "riesgo", aunque estos esfuerzos iniciales se presentaron como una base para aumentar la "confianza" en la tecnología. En 2021, se habló más específicamente de aplicaciones de IA de "alto riesgo", y alrededor de 300 organizaciones se unieron para abogar por la prohibición de algunas formas de IA por completo.

Los sentimientos se han vuelto más críticos con el tiempo, a medida que la UE trabaja en sus leyes a nivel regional. En la última semana, la jefa de competencia de la UE, Margarethe Vestager, habló específicamente de cómo la IA plantea riesgos de sesgo cuando se aplica en áreas críticas como los servicios financieros, como las hipotecas y otras solicitudes de préstamos.

La ley de IA de la UE

Sus comentarios llegaron justo después de que la UE aprobara su Ley oficial de IA, que divide provisionalmente las aplicaciones de IA en categorías como inaceptables, de alto y bajo riesgo, cubriendo una amplia gama de parámetros para determinar en qué categoría se incluyen. La Ley de IA, cuando se implemente, será el primer intento del mundo de tratar de codificar algún tipo de comprensión y aplicación legal en torno a cómo se utiliza la IA comercial y no comercialmente.

El siguiente paso en el proceso es que la UE se involucre con los países individuales de la UE para definir la forma final que tomará la ley, específicamente para identificar qué (y quién) se ajustaría a sus categorías y qué no. La pregunta será qué tan dispuestos estarán los diferentes países a ponerse de acuerdo. La UE quiere finalizar este proceso a finales de este año, según ha indicado.

La importancia de la ley de IA

"Es crucial que la UE haga esta ley lo más sólida posible para proteger a los consumidores", ha afirmado Pachl en su declaración. "Todos los sistemas de IA, incluida la IA generativa, necesitan escrutinio público, y las autoridades públicas deben reafirmar su control sobre ellos. Los legisladores deben exigir que la salida de cualquier sistema de IA generativa sea segura, justa y transparente para los consumidores".

La BEUC es conocida por intervenir en momentos críticos y por hacer llamamientos influyentes que reflejan la dirección