FTC investiga a OpenAI por declaraciones falsas y perjudiciales de su IA conversacional ChatGPT

La FTC investiga a OpenAI por presuntas declaraciones falsas y perjudiciales de su IA conversacional ChatGPT

La Comisión Federal de Comercio (FTC) está llevando a cabo una investigación preliminar sobre OpenAI para determinar si su inteligencia artificial conversacional insignia, ChatGPT, ha realizado declaraciones "falsas, engañosas, denigrantes o perjudiciales" sobre las personas. Aunque es poco probable que esto resulte en una represión repentina, demuestra que la FTC está tomando medidas más allá de advertir a la industria de la IA sobre posibles violaciones.

La FTC solicita información sobre quejas de difamación

Según informa The Washington Post, la FTC ha enviado una carta de 20 páginas a OpenAI en la que solicita información sobre quejas relacionadas con difamación. Sin embargo, la FTC se ha negado a hacer comentarios, ya que sus investigaciones son confidenciales. Esta no es la primera vez que la agencia se ocupa de las diversas formas de IA, pero sí parece indicar que OpenAI, el líder indiscutible en este campo, deberá justificar sus acciones.

Este tipo de investigación no surge de la nada, la FTC no se limita a mirar a su alrededor y decir: "Eso parece sospechoso". Por lo general, se presenta una demanda o una queja formal que implica que se están ignorando las regulaciones. Por ejemplo, si una persona demanda a una empresa de suplementos porque las píldoras le han causado problemas de salud, la FTC lanzará una investigación porque hay pruebas de que la empresa mintió sobre los efectos secundarios.

En este caso, es muy probable que exista una demanda similar, en la que un alcalde australiano se quejó a OpenAI de que ChatGPT lo acusó de soborno y lo condenó a prisión, entre otras cosas. Aunque este asunto está en curso y, por supuesto, la jurisdicción es incorrecta, es casi seguro que existen más casos similares.

¿Puede la IA cometer difamación?

Publicar este tipo de información podría constituir difamación o calumnia, o simplemente "daño reputacional", como lo llama la carta actual de la FTC a OpenAI. Es muy probable que el problema se relacione con ChatGPT, ya que es el único producto público en el portafolio de OpenAI que podría hacer algo así. GPT-4 y las demás APIs están demasiado restringidas y son demasiado recientes para ser consideradas.

Sin embargo, no es una cuestión sencilla: los aspectos técnicos por sí solos plantean dudas sobre si esto se considera publicación, discurso o simplemente una comunicación privada, todos estos aspectos tendrían que demostrarse.

Pero tampoco es algo descabellado pedir a una empresa que lo explique. Cometer un error es una cosa, pero inventar detalles sobre las personas sistemática e indetectablemente, a gran escala y sin decir nada al respecto, es algo completamente diferente. Si el corrector ortográfico de Microsoft Word ocasionalmente agregara "criminal condenado" delante de los nombres de las personas, seguramente habría un escándalo.

Aunque la FTC ha sufrido algunas derrotas de alto perfil recientemente en sus esfuerzos contra fusiones, como en los casos de Meta y Microsoft, también ha sancionado a empresas tecnológicas por problemas de privacidad e incluso violaciones relacionadas con la IA.

Conclusiones

Aunque esta investigación preliminar no implica una acción inmediata por parte de la FTC, sí pone de manifiesto la necesidad de que OpenAI justifique las supuestas declaraciones falsas y perjudiciales realizadas por su IA conversacional ChatGPT. La FTC está decidida a asegurarse de que las empresas de IA cumplan con las mismas exigencias de veracidad que cualquier otra. El resultado de esta investigación sentará un precedente importante en el campo de la IA y podría influir en la forma en que se desarrollan y utilizan estas tecnologías en el futuro.