OpenAI crea un equipo especializado en seguridad infantil para proteger a los niños de los posibles abusos de su inteligencia artificial
OpenAI ha formado un nuevo equipo para estudiar formas de prevenir el mal uso o abuso de sus herramientas de inteligencia artificial por parte de los niños, en respuesta a la presión de activistas y padres preocupados. La existencia de este equipo, llamado Child Safety, ha sido revelada a través de una oferta de trabajo publicada en la página de carreras de OpenAI. La compañía afirma que este equipo trabaja en colaboración con los grupos de políticas de plataforma, legales e investigaciones internos de OpenAI, así como con socios externos, para gestionar "procesos, incidentes y revisiones" relacionados con los usuarios menores de edad.
Contratación de un especialista en seguridad infantil
El equipo de seguridad infantil de OpenAI está buscando contratar a un especialista en cumplimiento de seguridad infantil, quien será responsable de aplicar las políticas de OpenAI en el contexto del contenido generado por inteligencia artificial y trabajar en los procesos de revisión relacionados con contenido "sensible" (presumiblemente relacionado con niños).
Es común que las empresas tecnológicas de cierto tamaño dediquen una cantidad considerable de recursos para cumplir con leyes como la Regla de Protección de la Privacidad en Línea para Niños de Estados Unidos, que exigen controles sobre lo que los niños pueden y no pueden acceder en la web, así como qué tipo de datos las empresas pueden recopilar sobre ellos. Por lo tanto, no sorprende del todo que OpenAI esté contratando expertos en seguridad infantil, especialmente si la compañía espera tener una base significativa de usuarios menores de edad en el futuro. (Los términos de uso actuales de OpenAI requieren el consentimiento de los padres para niños de 13 a 18 años y prohíben el uso para niños menores de 13 años).
Preocupación por el uso de la inteligencia artificial por parte de los niños
El uso de herramientas de inteligencia artificial por parte de niños y adolescentes está aumentando, no solo para tareas escolares, sino también para problemas personales. Según una encuesta del Centro para la Democracia y la Tecnología, el 29% de los niños afirma haber utilizado ChatGPT para lidiar con la ansiedad o problemas de salud mental, el 22% para problemas con amigos y el 16% para conflictos familiares.
Sin embargo, esto también plantea preocupaciones sobre los posibles riesgos asociados. El verano pasado, las escuelas y universidades se apresuraron a prohibir el uso de ChatGPT debido a temores de plagio y desinformación. Desde entonces, algunas han revertido sus prohibiciones. Pero no todos están convencidos del potencial de la inteligencia artificial generativa para el bien, señalando encuestas como la del Centro de Internet Seguro del Reino Unido, que encontró que más de la mitad de los niños (53%) informa haber visto a personas de su edad usar inteligencia artificial generativa de manera negativa, como crear información falsa o imágenes creíbles para molestar a alguien.
Llamados a establecer pautas para el uso de la inteligencia artificial generativa por parte de los niños
La Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (UNESCO) instó el año pasado a los gobiernos a regular el uso de la inteligencia artificial generativa en la educación, incluyendo la implementación de límites de edad para los usuarios y salvaguardias en la protección de datos y la privacidad de los usuarios. Audrey Azoulay, directora general de la UNESCO, afirmó en un comunicado de prensa que "la inteligencia artificial generativa puede ser una tremenda oportunidad para el desarrollo humano, pero también puede causar daño y prejuicio. No se puede integrar en la educación sin la participación pública y las salvaguardias y regulaciones necesarias por parte de los gobiernos".
Otras noticias • IA
Nuevo banco de pruebas evalúa inteligencia artificial con acertijos
Investigadores han creado un banco de pruebas de acertijos para evaluar la inteligencia artificial (IA) de manera accesible y humana. Este enfoque revela las limitaciones...
Inteligencia artificial transforma la ingeniería de productos y colaboración
La inteligencia artificial está revolucionando la ingeniería de productos, facilitando la colaboración y la simulación digital. Startups como Trace.Space están modernizando procesos, permitiendo a las...
Modelo S1 de IA democratiza acceso y plantea dilemas éticos
La investigación sobre el modelo s1 de IA, desarrollado con menos de 50 dólares, democratiza el acceso a la inteligencia artificial. Utilizando destilación de modelos,...
Boston Dynamics y RAI Institute optimizan robot Atlas con IA
La colaboración entre Boston Dynamics y el RAI Institute se centra en mejorar el aprendizaje por refuerzo del robot humanoide Atlas. Utilizando simulaciones y modelos...
Expertos proponen nuevas métricas para evaluar la inteligencia artificial
La inteligencia artificial ha avanzado significativamente, pero comparar su progreso con el coeficiente intelectual humano es problemático. Expertos abogan por nuevas métricas que reflejen mejor...
Google lanza Gemini 2.0 Pro y desafía a DeepSeek
Google ha lanzado el modelo Gemini 2.0 Pro Experimental, intensificando la competencia con la startup china DeepSeek. Este nuevo modelo, con capacidad para procesar 2...
Musk y Tesla demandados por Alcon por derechos de autor
Elon Musk y Tesla enfrentan una demanda de Alcon Entertainment por supuesta violación de derechos de autor al utilizar imágenes generadas por IA inspiradas en...
La IA transforma el aprendizaje de habilidades blandas personalizadas
La inteligencia artificial está revolucionando el aprendizaje de habilidades blandas, permitiendo a los empleados acceder a formación personalizada y asequible. Plataformas como CodeSignal ofrecen cursos...
Lo más reciente
- 1
Mistral mejora Le Chat con app móvil y nivel Pro
- 2
Spotify y Warner Music Group amplían catálogo y suscripciones
- 3
Pendulum revoluciona la planificación de la cadena de suministro
- 4
Lyft y Anthropic crean IA para revolucionar atención al cliente
- 5
Fizz se reinventa para atraer a la Generación Z
- 6
TrueFoundry revoluciona la IA a gran escala para empresas
- 7
OpenAI lanza residencia de datos en Europa para cumplir normativas