ChatGPT evita responder sobre nombres para proteger la privacidad

El enigma de los nombres prohibidos en la inteligencia artificial

Durante el pasado fin de semana, una curiosidad inusual ha captado la atención de los usuarios de la plataforma de inteligencia artificial conversacional ChatGPT. Un fenómeno desconcertante se ha apoderado de la comunidad digital: el chatbot se niega a responder a cualquier pregunta relacionada con el nombre “David Mayer”. Cada intento de mencionar este nombre provoca que la inteligencia artificial se “congele”, creando una serie de teorías conspirativas y especulaciones en línea. Sin embargo, detrás de este extraño comportamiento parece haber una explicación más sencilla y lógica.

El interés por el nombre David Mayer ha crecido de forma exponencial, llevando a los usuarios a explorar más allá de lo evidente.

Un fenómeno viral

El fenómeno comenzó como una mera curiosidad, pero rápidamente se convirtió en un tema de conversación en redes sociales y foros. La noticia de que el nombre era "veneno" para el chatbot se propagó rápidamente, incitando a más usuarios a intentar engañar al servicio para que simplemente reconociera el nombre. Sin embargo, cada intento resultaba en un fracaso, llevando a los usuarios a experimentar una frustración palpable.

Al preguntar a ChatGPT sobre David Mayer, la respuesta habitual era un escueto: “No puedo proporcionar una respuesta”. Esta respuesta escueta dejó a muchos intrigados, no solo por el extraño comportamiento de la inteligencia artificial, sino también por la identidad del misterioso David Mayer.

Más nombres, más misterios

Con el paso del tiempo, los usuarios se dieron cuenta de que David Mayer no era el único nombre problemático. Otros nombres, como Brian Hood, Jonathan Turley, Jonathan Zittrain, David Faber y Guido Scorza, también parecían causar fallos en el sistema. Este descubrimiento llevó a la comunidad a cuestionar la relación entre estos individuos y el extraño comportamiento del chatbot.

Cada uno de estos nombres pertenece a figuras públicas o semi-públicas que, por diferentes razones, podrían haber solicitado que ciertos aspectos de su información fueran “olvidados” o restringidos en motores de búsqueda o modelos de inteligencia artificial. Por ejemplo, Brian Hood, un alcalde australiano, había acusado a ChatGPT de difundir información falsa que lo relacionaba con un crimen del pasado. Aunque sus abogados contactaron a OpenAI, nunca se presentó una demanda formal.

La conexión de los nombres

La lista de nombres problemáticos sugiere un patrón interesante. Por un lado, estos individuos son todos personas que han estado en el ojo público y que, por diversas razones, podrían desear que su información no estuviera disponible o que se manejara con cautela.

Jonathan Turley, un abogado y comentarista de Fox News, ha sido víctima de un "swatting", un acto que implica enviar un falso aviso de emergencia a la policía. Por su parte, Jonathan Zittrain es un experto legal que ha hablado extensamente sobre el "derecho al olvido". Guido Scorza, por su parte, forma parte de la Junta de Protección de Datos de Italia.

La relación entre estos nombres y el mal funcionamiento de ChatGPT sugiere que la inteligencia artificial está diseñada para proteger la privacidad de ciertos individuos.

La búsqueda de David Mayer

Al indagar más en la figura de David Mayer, se descubre que no existe un personaje público relevante con ese nombre en la actualidad. Sin embargo, hubo un profesor David Mayer, un académico británico-estadounidense que enseñó drama e historia, y que murió en el verano de 2023. Este profesor enfrentó durante años problemas legales y en línea debido a la asociación de su nombre con un criminal buscado que lo utilizó como seudónimo, lo que le impidió viajar.

Mayer luchó incansablemente por desasociar su nombre del del terrorista, incluso mientras continuaba con su carrera docente. La coincidencia de nombres y la lucha de este académico por mantener su reputación limpia podrían haber llevado a que la inteligencia artificial desarrollara un mecanismo para manejar su nombre de forma especial.

La respuesta de OpenAI

Ante el creciente interés y las especulaciones, OpenAI finalmente se pronunció sobre el tema. En un comunicado, la compañía confirmó que el nombre David Mayer estaba siendo señalado por herramientas internas de privacidad. “Puede haber instancias en las que ChatGPT no proporcione cierta información sobre personas para proteger su privacidad”, explicaron. Sin embargo, no ofrecieron detalles adicionales sobre las herramientas o procesos involucrados.

La respuesta de OpenAI sugiere que el sistema de inteligencia artificial cuenta con un conjunto de normas y protocolos para gestionar información sensible. Esto podría incluir listas de nombres que requieren un tratamiento especial, similar a cómo se manejan los nombres de candidatos políticos o figuras públicas que han estado en el centro de la atención mediática.

Un error de programación o un mecanismo de protección

La situación plantea preguntas sobre cómo funcionan realmente estos modelos de inteligencia artificial y cuáles son los límites de su programación. Si bien es fácil caer en la tentación de pensar que la negativa a mencionar ciertos nombres se debe a una conspiración o a un fallo deliberado, la realidad podría ser mucho más simple.

Es probable que un error de programación haya llevado a que uno de estos mecanismos de protección se activara de forma inapropiada, resultando en que la inteligencia artificial se “congelara” al intentar procesar ciertos nombres. Esto ha llevado a que muchos usuarios especulen sobre la naturaleza de estos sistemas y su capacidad para manejar información delicada.

La naturaleza de la inteligencia artificial

Este incidente sirve como un recordatorio de que los modelos de inteligencia artificial, aunque avanzados, no son infalibles. A menudo son descritos como herramientas de auto-completado sofisticadas que requieren supervisión y mantenimiento por parte de las empresas que los desarrollan.

La naturaleza de la inteligencia artificial implica que los usuarios deben tener cuidado al buscar información en estas plataformas. A menudo, puede ser más efectivo acudir a la fuente original en lugar de depender de un chatbot que podría estar limitado por sus propias directrices y protocolos internos.

El incidente de David Mayer ha suscitado un debate más amplio sobre la privacidad en la era digital y sobre cómo se maneja la información de individuos que, por razones válidas, desean mantener ciertos aspectos de su vida personal lejos del ojo público. La tecnología avanza a pasos agigantados, pero también plantea desafíos éticos y prácticos que deben ser considerados cuidadosamente.